​2023年，是AI人工智能技术全面爆红的一年。

以ChatGPT、GPT-4、文心一言为代表的AIGC大模型，集文本撰写、代码开发、诗词创作等功能于一体，展现出了超强的内容生产能力，带给人们极大震撼。

(相关资料图)

作为一个通信老司机，除了AIGC大模型本身之外，小枣君更加关注的，是模型背后的通信技术。到底是一张怎样的强大网络，在支持着AIGC的运转？此外，AI浪潮的全面来袭，将对传统网络带来怎样的变革？

众所周知，数据、算法和算力，是人工智能发展的三大基本要素。

前面提到的几个AIGC大模型，之所以那么厉害，不仅是因为它们背后有海量的数据投喂，也因为算法在不断进化升级。更重要的是，人类的算力规模，已经发展到了一定程度。强大的算力基础设施，完全能够支撑AIGC的计算需求。

AIGC发展到现在，训练模型参数从千亿级飙升到了万亿级。为了完成这么大规模的训练，底层支撑的GPU数量，也达到了万卡级别规模。

以ChatGPT为例，他们使用了微软的超算基础设施进行训练，据说动用了10000块V100 GPU，组成了一个高带宽集群。一次训练，需要消耗算力约3640 PF-days（即每秒1千万亿次计算，运行3640天）。

一块V100的FP32算力，是0.014 PFLOPS（算力单位，等于每秒1千万亿次的浮点运算）。一万块V100，那就是140 PFLOPS。

也就是说，如果GPU的利用率是100%，那么，完成一次训练，就要3640÷140=26（天）。

GPU的利用率是不可能达到100%，如果按33%算（OpenAI提供的假设利用率），那就是26再翻三倍，等于78天。

可以看出，GPU的算力、GPU的利用率，对大模型的训练有很大影响。

那么问题来了，影响GPU利用率的最大因素，是什么呢？

答案是：网络。

一万甚至几万块的GPU，作为计算集群，与存储集群进行数据交互，需要极大的带宽。此外，GPU集群进行训练计算时，都不是独立的，而是混合并行。GPU之间，有大量的数据交换，也需要极大的带宽。

如果网络不给力，数据传输慢，GPU就要等待数据，导致利用率下降。利用率下降，训练时间就会增加，成本也会增加，用户体验会变差。

业界曾经做过一个模型，计算出网络带宽吞吐能力、通信时延与GPU利用率之间的关系，如下图所示：

大家可以看到，网络吞吐能力越强，GPU利用率越高；通信动态时延越大，GPU利用率越低。

一句话，没有好网络，别玩大模型。

为了应对AI集群计算对网络的调整，业界也是想了不少办法的。

传统的应对策略，主要是三种：Infiniband、RDMA、框式交换机。我们分别来简单了解一下。

Infiniband组网

Infiniband（直译为“无限带宽”技术，缩写为IB）组网，搞数据通信的童鞋应该不会陌生。

这是目前组建高性能网络的最佳途径，带宽极高，可以实现无拥塞和低时延。ChatGPT、GPT-4所使用的，据说就是Infiniband组网。

如果说Infiniband组网有什么缺点的话，那就是一个字——贵。相比传统以太网的组网，Infiniband组网的成本会贵好几倍。这项技术比较封闭，业内目前成熟的供应商只有1家，用户没什么选择权。

RDMA的全称是Remote Direct Memory Access（远程直接数据存取）。它是一种新型的通信机制。在RDMA方案里，应用程序的数据，不再经过CPU和复杂的操作系统，而是直接和网卡通信，不仅大幅提升了吞吐能力，也降低了时延。

RDMA最早提出时，是承载在InfiniBand网络中的。现在，RDMA逐渐移植到了以太网上。

目前，高性能网络的主流组网方案，是基于RoCE v2（RDMA over Converged Ethernet，基于融合以太网的RDMA）协议来组建支持RDMA的网络。

这种方案有两个重要的搭配技术，分别是PFC（Priority Flow Control，基于优先级的流量控制）和ECN（Explicit Congestion Notification，显式拥塞通知）。它们是为了避免链路中的拥塞而产生的技术，但是，频繁被触发，反而会导致发送端暂停发送，或降速发送，进而拉低通信带宽。（下文还会提到它们）

国外有部分互联网公司，寄希望于利用采用框式交换机（DNX芯片+VOQ技术），来满足构建高性能网络的需求。

DNX：broadcom（博通）的一个芯片系列

VOQ：Virtual Output Queue，虚拟输出队列

这种方案看似可行，但也面临以下几个挑战。

首先，框式交换机的扩展能力一般。机框大小限制了最大端口数，如想做更大规模的集群，需要横向扩展多个机框。

其次，框式交换机的设备功耗大。机框内线卡芯片、Fabric芯片、风扇等数量众多，单设备的功耗超过2万瓦，有的甚至3万多瓦，对机柜供电能力要求太高。

第三，框式交换机的单设备端口数量多，故障域大。

基于以上原因，框式交换机设备只适合小规模部署AI计算集群。

前面说的都是传统方案。既然这些传统方案不行，那当然就要想新办法。

于是，一种名叫DDC的全新解决方案，闪亮登场了。

DDC，全名叫做Distributed Disaggregated Chassis（分布式分散式机箱）。

它是前面框式交换机的“分拆版”。框式交换机的扩展能力不足，那么，我们干脆把它给拆开，将一个设备变成多个设备，不就OK了？

框式设备，一般分为交换网板（背板）和业务线卡（板卡）两部分，相互之间用连接器连接。

DDC方案，将交换网板变成了NCF设备，将业务线卡变成了NCP设备。连接器，则变成了光纤。框式设备的管理功能，在DDC架构中，也变成了NCC。

NCF：Network Cloud Fabric（网络云管理控制平面）

NCP：Network Cloud Packet Processing（网络云数据包处理）

NCC：Network Cloud Controller（网络云控制器）

DDC从集中式变成分布式之后，扩展能力大大增强了。它可以根据AI集群的大小，灵活设计组网规模。

我们来举两个例子（单POD组网和多POD组网）。

单POD组网中，采用96台NCP作为接入，其中NCP下行共18个400G接口，负责连接AI计算集群的网卡。上行共40个200G接口，最大可以连接40台NCF，NCF提供96个200G接口，该规模上下行带宽为超速比1.1:1。整个POD可支撑1728个400G网络接口，按照一台服务器配8块GPU来计算，可支撑216台AI计算服务器。

单POD组网

多级POD组网，规模可以变得更大。

在多级POD组网中，NCF设备要牺牲一半的SerDes，用于连接第二级的NCF。所以，此时单POD采用48台NCP作为接入，下行共18个400G接口。

多POD组网

单个POD内，可以支撑864个400G接口（48×18）。通过横向增加POD（8个），实现规模扩容，整体最大可支撑6912个400G网络端口（864×8）。

NCP上行40个200G，接POD内40台NCF。POD内NCF采用48个200G接口，48个200G接口分为12个一组上行到第二级的NCF。第二级NCF采用40个平面（Plane），每个平面4台NCF-P，分别对应在POD内的40台NCF。

整个网络的POD内实现了1.1:1的超速比（北向带宽大于南向带宽），而在POD和二级NCF之间实现了1:1的收敛比（南向带宽/北向带宽）。

站在规模和带宽吞吐的角度，DDC已经可以满足AI大模型训练对于网络的需求。

然而，网络的运作过程是复杂的，DDC还需要在时延对抗、负载均衡性、管理效率等方面有所提升。

网络在工作的过程中，可能会出现突发流量，造成接收端来不及处理，引起拥塞和丢包。

为了应对这种情况，DDC采取了基于VOQ+Cell的转发机制。

发送端从网络接收到数据包之后，会分类到VOQ（虚拟输出队列）中存储。

在发送数据包前，NCP会先发送Credit报文，确定接收端是否有足够的缓存空间处理这些报文。

如果接收端OK，则将数据包分片成Cells（数据包的小切片），并且动态负载均衡到中间的Fabric节点（NCF）。

如果接收端暂时没能力处理报文，报文会在发送端的VOQ中暂存，并不会直接转发到接收端。

在接收端，这些Cells会进行重组和存储，进而转发到网络中。

切片后的Cells，将采用轮询的机制发送。它能够充分利用到每一条上行链路，确保所有上行链路的传输数据量近似相等。

轮询机制

这样的机制，充分利用了缓存，可以大幅度减少丢包，甚至不会产生丢包情况。数据重传减少了，整体通信时延更稳定更低，从而可以提高带宽利用率，进而提升业务吞吐效率。

前面我们提到，RDMA无损网络中引入了PFC（基于优先级的流量控制）技术，进行流量控制。

简单来说，PFC就是在一条以太网链路上创建 8 个虚拟通道，并为每条虚拟通道指定相应优先级，允许单独暂停和重启其中任意一条虚拟通道，同时允许其它虚拟通道的流量无中断通过。

PFC可以实现基于队列的流量控制，但是，它也存在一个问题，那就是死锁。

所谓死锁，就是多个交换机之间，因为环路等原因，同时出现了拥塞（各自端口缓存消耗超过了阈值），又都在等待对方释放资源，从而导致的“僵持状态”（所有交换机的数据流永久堵塞）。

DDC的组网下，就不存在PFC的死锁问题。因为，站在整个网络的角度，所有NCP和NCF可以看成一台设备。对于AI服务器来说，整个DDC，就是一个交换机，不存在多级交换机。所以，就不存在死锁。

另外，根据DDC的数据转发机制，可在接口处部署ECN（显式拥塞通知）。

ECN机制下，网络设备一旦检测到RoCE v2流量出现了拥塞（内部的Credit和缓存机制无法支撑突发流量），就会向服务器端发送CNP（Congestion Notification Packets，拥塞通知报文），要求降速。

最后再看看管理控制平面。

前面我们提到，在DDC架构中，框式设备的管理功能变成了NCC（网络云控制器）。NCC非常重要，如果采用单点式的方式，万一出现问题，就会导致整网故障。

为了避免出现这样的问题，DDC可以取消NCC的集中控制面，构建分布式OS（操作系统）。

基于分布式OS，可以基于SDN运维控制器，通过标准接口（Netconf、GRPC等）配置管理设备。这样的话，每台NCP和NCF独立管理，有独立的控制面和管理面，大大提升了系统的可靠性，也更加便于部署。

综上所述，相对传统组网，DDC在组网规模、扩展能力、可靠性、成本、部署速度方面，拥有显著优势。它是网络技术升级的产物，提供了一种颠覆原有网络架构的思路，可以实现网络硬件的解耦、网络架构的统一、转发容量的扩展。

业界曾经使用OpenMPI测试套件进行过框式设备和传统组网设备的对比模拟测试。测试结论是：在All-to-All场景下，相较于传统组网，框式设备的带宽利用率提升了约20%（对应GPU利用率提升8%左右）。

正是因为DDC的显著能力优势，现在这项技术已经成为行业的重点发展方向。例如锐捷网络，他们就率先推出了两款可交付的DDC产品，分别是400G NCP交换机——RG-S6930-18QC40F1，以及200G NCF交换机——RG-X56-96F1。

RG-S6930-18QC40F1交换机的高度为2U，提供18个400G的面板口，40个200G的Fabric内联口，4个风扇和2个电源。

RG-X56-96F1交换机的高度为4U，提供96个200G的Fabric内联口，8个风扇和4个电源。

据悉，锐捷网络还会继续研发、推出400G端口形态的产品。

AIGC的崛起，已经掀起了互联网行业的新一轮技术革命。

我们可以看到，越来越多的企业，正在加入这个赛道，参与角逐。这意味着，网络基础设施的升级，迫在眉睫。

DDC的出现，将大幅提升网络基础设施的能力，不仅可以有效应对AI革命对网络基础设施提出的挑战，更将助力整个社会的数字化转型，加速人类数智时代的全面到来。​