圖片網(wǎng)絡(luò)

為了實(shí)現(xiàn)算力層面的提升和追趕，國內(nèi)有大量的廠商和從業(yè)者在各個(gè)產(chǎn)業(yè)鏈環(huán)節(jié)努力。但面對(duì)中短期內(nèi)架構(gòu)、制程、產(chǎn)能、出口禁令等多方面的制約，我們認(rèn)為從芯片層面實(shí)現(xiàn)單點(diǎn)的突破依舊是非常困難且不足的。然而，借助國內(nèi)電力、基建的優(yōu)勢(shì)，通過多卡、多節(jié)點(diǎn)、多集群的方式，以絕對(duì)數(shù)量上的堆積來取得突破，將是一條可行的路徑。其實(shí)，全球行業(yè)的發(fā)展也正遵循著這個(gè)趨勢(shì)，AI算力集群正從千卡向萬卡甚至十萬卡的規(guī)模演進(jìn)。這個(gè)突破方向的關(guān)鍵是如何搭建起龐大的集群，如何讓千卡/萬卡能擰成一股繩以發(fā)揮更好的能效，我們認(rèn)為互聯(lián)通信將在其中扮演至關(guān)重要角色。因此本文主要會(huì)就數(shù)據(jù)中心內(nèi)的互聯(lián)通信，尤其是節(jié)點(diǎn)/集群間的通信，與大家進(jìn)行分享交流。

算力、存儲(chǔ)、互聯(lián)通信-構(gòu)建AI算力集群“高速交通系統(tǒng)”三要素

自大模型時(shí)代開啟以來，產(chǎn)業(yè)界沿著Scaling Law在持續(xù)不斷推出更大參數(shù)的模型和更多模態(tài)的模型，由此帶來的海量數(shù)據(jù)的收集、分析和應(yīng)用，使全行業(yè)的算力需求以驚人的速度激增。據(jù)統(tǒng)計(jì)，大模型訓(xùn)練對(duì)于算力的需求約每三個(gè)月翻一倍。能否獲得更多、更高效的算力，成為了各個(gè)“玩家”最核心的競(jìng)爭力之一。在這波此起彼伏的囤卡、搭集群、建數(shù)據(jù)中心的“軍備競(jìng)賽”中，在摩爾定律逼近極限、單靠制程和架構(gòu)帶來的單卡算力邊際提升效率放緩的背景下，除了花費(fèi)大量資金和資源獲得計(jì)算卡、服務(wù)器絕對(duì)數(shù)量的囤積優(yōu)勢(shì)外，如何在實(shí)際場(chǎng)景下充分發(fā)揮這些AI芯片的性能、如何持續(xù)提升數(shù)據(jù)中心整體的數(shù)據(jù)計(jì)算和處理效率，是產(chǎn)業(yè)正在探索的另一種可能事半功倍的方向。

通俗來看，如果將一個(gè)AI智算中心類比為以數(shù)據(jù)為中心的大型的交通運(yùn)輸網(wǎng)絡(luò)，那么構(gòu)建和運(yùn)行這個(gè)運(yùn)輸網(wǎng)絡(luò)最核心的三個(gè)要素就是算力、存儲(chǔ)和互聯(lián)通信。在這個(gè)大型運(yùn)輸網(wǎng)絡(luò)中，如果我們認(rèn)為每一個(gè)計(jì)算集群就是一個(gè)綜合交通樞紐，那么算力主要解決的是這個(gè)交通樞紐內(nèi)單個(gè)站點(diǎn)的流量通行速度問題，存儲(chǔ)主要解決的是單個(gè)站點(diǎn)的流量上限問題，互聯(lián)通信主要解決的是樞紐內(nèi)部站點(diǎn)和站點(diǎn)之間，以及樞紐和樞紐之間的運(yùn)力問題。三者相輔相成、三管齊下來提升整個(gè)運(yùn)輸網(wǎng)絡(luò)的運(yùn)行速度和效率。

圖1：算力、存儲(chǔ)、互聯(lián)通信，構(gòu)建數(shù)據(jù)中心“高速交通系統(tǒng)”的三要素

如何系統(tǒng)性地拓展這個(gè)“高速交通系統(tǒng)”用以處理更大規(guī)模的工作任務(wù)？目前業(yè)界主要有兩種方式：1）Scale-up（向上/垂直擴(kuò)展）：通過增加單個(gè)系統(tǒng)的資源（如芯片算力、內(nèi)存或存儲(chǔ)容量）來提升其性能，即讓一個(gè)單一的系統(tǒng)變得更加強(qiáng)大； 2）Scale-out（橫向/水平擴(kuò)展）：通過增加更多的相同或相似配置的系統(tǒng)來分散工作負(fù)載，即添加更多的獨(dú)立系統(tǒng)來共同完成任務(wù)。

延續(xù)前述交通樞紐的類比，Scale-up是針對(duì)單一樞紐的擴(kuò)容，用更大和更多的站點(diǎn)來提升內(nèi)部承載和通行能力，比如英偉達(dá)通過集成36顆GB200x芯片推出的DGX GB200系統(tǒng)。而Scale-out則是建立和接入更多的樞紐來擴(kuò)大整體的運(yùn)輸網(wǎng)絡(luò)，例舉英偉達(dá)DGX SuperPOD，可以集成至少8個(gè)甚至更多DGX GB200系統(tǒng)，并通過不斷的拓展來實(shí)現(xiàn)數(shù)萬顆GB200芯片的聚集。

圖2：Scale-up vs Scale-out

從圖2中，我們可以清楚地看到，算力和存儲(chǔ)主要聚焦的還是Scale-up下單個(gè)樞紐內(nèi)站點(diǎn)的規(guī)模和吞吐能力，大量的優(yōu)化提升其實(shí)是來自于基礎(chǔ)設(shè)施硬件的性能和軟硬件的協(xié)同，對(duì)此業(yè)界通過架構(gòu)、制程、介質(zhì)、軟件生態(tài)等多個(gè)方面已經(jīng)做出了大量的努力，國內(nèi)外也已涌現(xiàn)出一批優(yōu)質(zhì)的企業(yè)。

但解決Scale-up后樞紐內(nèi)越來越多站點(diǎn)的接入和站點(diǎn)間運(yùn)力問題，以及Scale-out后越來越多樞紐的連接和運(yùn)輸問題，則需要構(gòu)建更好的運(yùn)輸能力，即互聯(lián)通信的能力。與此同時(shí)，我們也觀察到數(shù)據(jù)中心整體規(guī)模和實(shí)際性能&效率提升的天花板，更多地從以往算力的約束轉(zhuǎn)變?yōu)榛ヂ?lián)通信的約束。換而言之，我們認(rèn)為未來集群效率的提升重點(diǎn)會(huì)從計(jì)算轉(zhuǎn)變?yōu)榫W(wǎng)絡(luò)。因此，本文會(huì)將筆墨重點(diǎn)放在構(gòu)建高速通道、支持和提升點(diǎn)到點(diǎn)之間運(yùn)力能力的互聯(lián)通信領(lǐng)域。

圖3：I/O帶寬與算力之間的差距逐漸擴(kuò)大

圖4：AI算力基礎(chǔ)設(shè)施需要更好的互聯(lián)通信能力，突破計(jì)算效率和規(guī)模瓶頸

互聯(lián)通信-AI計(jì)算集群的快速通道系統(tǒng)，解決樞紐內(nèi)和樞紐間的運(yùn)輸效率

AI計(jì)算集群的互聯(lián)通信能力系統(tǒng)性的構(gòu)建，主要來自三個(gè)方面，由內(nèi)到外可以分為1）Die-to-Die（裸片間）互連：發(fā)生在芯片封裝內(nèi)，實(shí)現(xiàn)芯片內(nèi)部不同功能模塊間的數(shù)據(jù)交換；2）Chip-to-Chip（片間）互聯(lián)：實(shí)現(xiàn)服務(wù)器內(nèi)部，主板上不同芯片間（如 CPU-GPU，GPU-GPU）的數(shù)據(jù)通信；3）Board-to-Board（機(jī)間）互聯(lián)：在服務(wù)器外部的通信，實(shí)現(xiàn)服務(wù)器-交換機(jī)、交換機(jī)-交換機(jī)之間的數(shù)據(jù)傳輸，并層層疊加形成數(shù)據(jù)中心集群的組網(wǎng)架構(gòu)。

圖5：數(shù)據(jù)中心各層級(jí)互聯(lián)通信示意

為何英偉達(dá)在計(jì)算領(lǐng)域能如此強(qiáng)勢(shì)？除了耳熟能詳?shù)男酒軜?gòu)和CUDA軟件生態(tài)外帶來的單芯片的性能優(yōu)勢(shì)外，其在互聯(lián)通信領(lǐng)域的多年布局，打出的一套面向Scale-up（NV link、NV Switch）和面向Scale-out (InfiniBand) 的組合拳，使得其在節(jié)點(diǎn)和集群層面的性能和效率遙遙領(lǐng)先。

圖6：英偉達(dá)DGX H100 SuperPod內(nèi)部網(wǎng)絡(luò)架構(gòu)

從技術(shù)發(fā)展路線來看，Die-to-Die通信能力的提升目前主要依賴于2.5D/3D的先進(jìn)封裝和更加統(tǒng)一規(guī)范的高速Serdes等，Chip-to-Chip互聯(lián)主要依靠更高速的PCIE、CXL協(xié)議以及英偉達(dá)獨(dú)有的NVlink技術(shù)等，但這兩條路線主要解決的還是芯片和服務(wù)器內(nèi)部的通信效率，即我們前文提到的如何解決Scale-up的問題，這部分內(nèi)容我們會(huì)在未來的系列文章中做更多的探討。但我們認(rèn)為， Scale-up因?yàn)槭艿轿锢砜臻g、布線、工程實(shí)現(xiàn)等制約，整體可拓展的潛力和規(guī)模有限，而Scale-out作為Scale-up的進(jìn)一步延續(xù)，會(huì)更具規(guī)模性和拓展?jié)摿Α?/p>

在大模型時(shí)代，過往傳統(tǒng)AI單卡、單服務(wù)器或者單機(jī)柜即可解決的計(jì)算任務(wù)，已指數(shù)級(jí)地提升到需要千卡、萬卡甚至是十萬卡的分布式集群來支持。因此，如何提升服務(wù)器外部Board-to-Board、節(jié)點(diǎn)間/集群間的互聯(lián)通信能力，解決前面說的更為關(guān)鍵的Scale-out帶來的通信挑戰(zhàn)，來構(gòu)建整個(gè)數(shù)據(jù)中心的“高速運(yùn)輸網(wǎng)絡(luò)”，變得越來越重要。那么如何實(shí)現(xiàn)大規(guī)模的Scale-up？大模型時(shí)代需要什么樣的數(shù)據(jù)中心網(wǎng)絡(luò)？需要什么樣的軟硬件和技術(shù)支持？我們可以繼續(xù)往下一探究竟。

聚焦樞紐間的通行運(yùn)輸效率，解決Scale-up的問題，大模型時(shí)代需要什么樣的數(shù)據(jù)中心網(wǎng)絡(luò)？

大模型數(shù)據(jù)訓(xùn)練量大，且主要通過數(shù)據(jù)并行和模型并行進(jìn)行訓(xùn)練，因此需要采取分布式集群、多節(jié)點(diǎn)的訓(xùn)練方式，且節(jié)點(diǎn)之間需要進(jìn)行中間計(jì)算結(jié)果的實(shí)時(shí)高頻通信，由此帶來數(shù)據(jù)通信的兩個(gè)新的大趨勢(shì)：1）網(wǎng)絡(luò)流量大幅增長；2）由傳統(tǒng)數(shù)據(jù)中心的南北向流量為主轉(zhuǎn)為AI數(shù)據(jù)中心的東西向流量為主。

圖7：全球網(wǎng)絡(luò)流量保持高速增長

圖8：南北向流量往東西向流量轉(zhuǎn)變

為了提高AI芯片有效計(jì)算時(shí)間占比、避免網(wǎng)絡(luò)延遲和帶寬限制拖累AI訓(xùn)練效率，對(duì)新型的AI數(shù)據(jù)中心通信網(wǎng)絡(luò)提出超大規(guī)模組網(wǎng)、超高帶寬、超低時(shí)延及抖動(dòng)、超高穩(wěn)定性和網(wǎng)絡(luò)自動(dòng)化部署等大量新的需求，并促使網(wǎng)絡(luò)架構(gòu)更新升級(jí)，從典型網(wǎng)絡(luò)架構(gòu)（樹型）轉(zhuǎn)向多核心、少收斂形態(tài)（胖樹型、脊葉型）。

圖9：AI數(shù)據(jù)中心相較傳統(tǒng)數(shù)據(jù)中心，對(duì)通信性能和效率要求大幅提升

圖10：左側(cè)為傳統(tǒng)數(shù)據(jù)中心網(wǎng)絡(luò)三層樹架構(gòu)，右側(cè)為AI數(shù)據(jù)中心三層脊葉架構(gòu)

針對(duì)AI數(shù)據(jù)中心的低延遲、大吞吐、高并發(fā)等特點(diǎn)，傳統(tǒng)的TCP/IP網(wǎng)絡(luò)架構(gòu)已無法滿足應(yīng)用的需求。因?yàn)閭鹘y(tǒng)的TCP/IP網(wǎng)絡(luò)通信使用內(nèi)核來發(fā)送消息，需要通過CPU來進(jìn)行數(shù)據(jù)傳輸。這種通信模式具有較高的數(shù)據(jù)移動(dòng)和數(shù)據(jù)復(fù)制開銷，使得CPU需要負(fù)責(zé)大量的協(xié)議開銷處理，從而導(dǎo)致更高的 CPU 負(fù)載和高流量，減慢其他任務(wù)的速度。面對(duì)這個(gè)問題，RDMA（Remote Direct Memory Access，遠(yuǎn)程直接內(nèi)存訪問）的橫空出世，為節(jié)省數(shù)據(jù)傳輸步驟，提升通信效率帶來了實(shí)際意義。與傳統(tǒng)的IP通信不同，RDMA繞過了通信過程中的內(nèi)核干預(yù)，允許網(wǎng)卡繞開CPU，主機(jī)可以直接訪問另一個(gè)主機(jī)的內(nèi)存，大大減少了CPU開銷，將寶貴的CPU資源用于高價(jià)值的計(jì)算與邏輯控制上，從而提升了整體網(wǎng)絡(luò)吞吐量和性能。

目前主流RDMA方案包括三種，層次結(jié)構(gòu)和網(wǎng)絡(luò)硬件設(shè)備各不相同：

IB（InfiniBand）：是專為RDMA設(shè)計(jì)的網(wǎng)絡(luò)，最早由IBTA（InfiniBand Trade Association）在2000年左右推出。在設(shè)計(jì)之初即保證可靠傳輸，在RDMA方案中性能最優(yōu)，硬件上需要使用InfiniBand專用的網(wǎng)卡和交換機(jī)。市場(chǎng)格局從起初的百花齊放，到現(xiàn)今英偉達(dá)/Mellanox的一枝獨(dú)秀，生態(tài)較為封閉。 RoCE（RDMA over Converged Ethernet）：RoCE通過以太網(wǎng)實(shí)現(xiàn)RDMA功能，可以繞過TCP/IP并使用硬件卸載，從而降低CPU利用率，提升傳輸速度和功率，并降低成本。2010年起，IBTA發(fā)布第一個(gè)能夠融合于以太網(wǎng)運(yùn)行的RDMA-RoCEv1，基于以太網(wǎng)鏈路層實(shí)現(xiàn)RDMA協(xié)議，但在網(wǎng)絡(luò)層仍基于InfiniBand協(xié)議。2014年發(fā)布RoCEv2，將 RoCEv1的 InfiniBand網(wǎng)絡(luò)層替換為UDP/IP協(xié)議 僅在傳輸層使用 InfiniBand傳輸層協(xié)議。RoCEv2使用支持RDMA流控技術(shù)的以太網(wǎng)交換機(jī)和支持 RoCE的網(wǎng)卡。RoCE基于以太網(wǎng)，因此生態(tài)開放，“玩家”眾多。 iWARP（Internet Wide Area RDMA Protocol）：基于TCP使用RDMA技術(shù)，但相比RoCE，大型組網(wǎng)時(shí)TCP連接仍會(huì)占用大量內(nèi)存資源，數(shù)據(jù)傳輸效率仍較低，性能差于InfiniBand和RoCE。iWARP使用普通的以太網(wǎng)交換機(jī)，但需要支持iWARP的網(wǎng)卡。目前較少被使用。

圖11：IB、RoCEv1、RoCEv2、iWARP架構(gòu)對(duì)比

IB vs RoCE，選擇高速鐵路還是高速公路？

從技術(shù)和性能角度出發(fā)，目前構(gòu)建數(shù)據(jù)中心內(nèi)這個(gè)數(shù)據(jù)“運(yùn)輸高速系統(tǒng)”的最主流的兩大路線，就是以英偉達(dá)/Mellanox一枝獨(dú)秀、另辟蹊徑的IB，以及其他廠商組成的“反抗軍”、基于傳統(tǒng)以太網(wǎng)改造升級(jí)的RoCE。

更為通俗的解釋來看，如果把傳統(tǒng)的通信網(wǎng)絡(luò)比作是國道，那么IB就類似于一條另外新建的專有高速鐵路，運(yùn)輸速度更快，效率更高，但只能跑基于軌道的高鐵；而RoCE就類似于基于現(xiàn)有的國道升級(jí)改造成高速公路，幫助之前跑在國道上的各類車型以更快的速度和效率通行。因此，IB就是一位“專精單項(xiàng)的高手”，而RoCE則是一位“全能選手”。下面我們就通過一張圖表，來看看它們?cè)谛阅堋⒉渴饛?fù)雜性、生態(tài)、成本等方面的較量：

圖表

通過表格直觀的對(duì)比，我們不難看出IB在傳輸性能、集群規(guī)模、運(yùn)維等方面具備一定優(yōu)勢(shì)。因此，在短期內(nèi)部分廠商受限于軍備競(jìng)賽下的算力資源緊張，或是選擇借助IB的特點(diǎn)來快速搭建出集群用于模型訓(xùn)練，或是因自身組網(wǎng)能力不足直接選擇英偉達(dá)成套的方案，IB在高性能計(jì)算領(lǐng)域暫時(shí)占據(jù)了更大的市場(chǎng)。但從中長期來看，由于RoCEv2基于以太網(wǎng)這個(gè)更加龐大、開放的生態(tài)和更好的跨平臺(tái)支持，且具有更低的硬件成本和更廣泛的供應(yīng)商選擇，隨著其性能逐步接近IB，將會(huì)憑借其更好的經(jīng)濟(jì)性和兼容性，獲得更加廣泛的市場(chǎng)。

當(dāng)然，IB和RoCE都在不斷演進(jìn)以應(yīng)對(duì)未來的挑戰(zhàn)，包括如何持續(xù)提高可用性、如何支持更大規(guī)模的集群等。IB的未來版本將繼續(xù)提升帶寬和降低延遲，以保持其在高性能計(jì)算中的領(lǐng)先地位；而RoCE則可能通過改進(jìn)流控機(jī)制和擁塞管理，提高其在大規(guī)模網(wǎng)絡(luò)中的表現(xiàn)。此外，2023年7月硬件設(shè)備廠商博通、AMD、思科、英特爾、Arista和云廠商 meta、微軟等共同創(chuàng)立了UEC（Ultra Ethernet Consortium，超以太網(wǎng)聯(lián)盟），致力在物理層、鏈路層、傳輸層和軟件方面開發(fā)新的開放式“Ultra Ethernet”解決方案，旨在推進(jìn)高性能以太網(wǎng)的發(fā)展，以應(yīng)對(duì)增長的智能計(jì)算通信需求。UEC聯(lián)盟目前已有約70家成員公司，國內(nèi)的華為、新華三、星融元、阿里、騰訊、百度和字節(jié)等廠商亦是聯(lián)盟里的核心成員。

圖12：UEC聯(lián)盟成員示例

與此同時(shí)，我們正驚喜地看到以太網(wǎng)追趕IB的腳步正在不斷加快。從技術(shù)路線來看，以太網(wǎng)已經(jīng)緊追IB推出了800G的帶寬產(chǎn)品，并有了1,600G的規(guī)劃，且在時(shí)間線上并不落后。從下游客戶來看，近期無論是meta用于訓(xùn)練Llama的萬卡集群，還是馬斯克希望打造的十萬卡集群，都優(yōu)先采用了以太網(wǎng)的方案。從競(jìng)爭對(duì)手來看，英偉達(dá)作為IB的領(lǐng)導(dǎo)者，也同步推出了全新的Spectrum-X以太網(wǎng)網(wǎng)絡(luò)解決方案，并在近日加入了UEC聯(lián)盟，業(yè)界認(rèn)為這是英偉達(dá)多年“孤軍奮戰(zhàn)”后的第一次“順勢(shì)而為”。

圖13：IB和以太網(wǎng)帶寬路線圖

在RoCE這條高速公路上，交換機(jī)、網(wǎng)卡和交換芯片是我們認(rèn)為國內(nèi)產(chǎn)業(yè)發(fā)展的核心基建

交換機(jī)、交換芯片和網(wǎng)卡是構(gòu)建以太網(wǎng)基礎(chǔ)設(shè)施最核心的部件。其中，交換機(jī)是現(xiàn)代網(wǎng)絡(luò)&數(shù)據(jù)中心基礎(chǔ)設(shè)施的核心組件，集成了各個(gè)核心硬件和軟件操作系統(tǒng)，負(fù)責(zé)數(shù)據(jù)在網(wǎng)絡(luò)中的傳輸和路由，全球主要供應(yīng)商包括思科、Arista、華為等。交換芯片作為交換機(jī)里最核心的部件，決定了交換機(jī)的端口速率和吞吐量，技術(shù)門檻高，全球核心廠商包括英特爾、博通、Marvell等。網(wǎng)卡通過其物理接口與交換機(jī)相連，實(shí)現(xiàn)計(jì)算機(jī)與網(wǎng)絡(luò)物理層的連接，決定了數(shù)據(jù)的傳輸和卸載速度，全球核心供應(yīng)商主要集中在Intel、英偉達(dá)和博通等。

圖14：交換機(jī)產(chǎn)業(yè)鏈

在交換機(jī)整機(jī)和操作系統(tǒng)層面，國內(nèi)已經(jīng)有一批具備全球競(jìng)爭力的廠商，這其中既包括傳統(tǒng)通信大廠華為、新華三等，也包括走白盒路線的銳捷、星融元等，它們紛紛推出了目前業(yè)界最高帶寬的、基于800G端口的51.2T自研交換機(jī)，在產(chǎn)品和解決方案能力上并不落后于海外。但在核心交換機(jī)芯片和網(wǎng)卡領(lǐng)域，國內(nèi)尚有較大差距，海外廠商占據(jù)了絕大部分的市場(chǎng)份額。在交換芯片層面，海外大廠博通、Marvell等已開始批量出貨51.2T的交換芯片，實(shí)現(xiàn)了成熟的商業(yè)化，而國內(nèi)的主流交換芯片還是以2.4T/3.2T為主，性能較弱無法滿足大型互聯(lián)網(wǎng)、數(shù)據(jù)中心的需求。在網(wǎng)卡層面，海外大廠供應(yīng)給數(shù)據(jù)中心的網(wǎng)卡主流傳輸速度已經(jīng)達(dá)到200G/400G bps的水平，并已經(jīng)開始引入800G bps的網(wǎng)卡，但國內(nèi)目前RDMA網(wǎng)卡的最高性能仍處于100G bps的水平。

整體來看，雖然國內(nèi)在交換芯片、網(wǎng)卡等層面尚有差距，但在基于以太網(wǎng)的集群集成、核心交換機(jī)整機(jī)、光模塊等領(lǐng)域均已有大量的突破。我們認(rèn)為當(dāng)前國內(nèi)RoCE的產(chǎn)業(yè)階段，或許與當(dāng)年的新能源汽車類似，首先在整體（整車/交換機(jī)整機(jī)）和某個(gè)核心零部件（鋰電池/光模塊）開始突破，再基于此帶動(dòng)整個(gè)產(chǎn)業(yè)鏈的全面突破。

從行業(yè)發(fā)展來看，目前很多廠商仍舊堅(jiān)持著過去傳統(tǒng)的封閉軟硬件系統(tǒng)和黑盒方案，從硬件的芯片、網(wǎng)卡、交換機(jī)整機(jī)，到軟件操作系統(tǒng)一起打包出售和交付。但我們認(rèn)為開放式的架構(gòu)、開源的軟硬件生態(tài)才是數(shù)據(jù)中心互聯(lián)通信未來的方向，例如白盒&軟硬件解耦的交換機(jī)產(chǎn)品、基于開源比如SONiC（Software for Open Networking in the Cloud）的云原生&容器化的通用網(wǎng)絡(luò)操作系統(tǒng)、基于RoCE的商用網(wǎng)卡和交換芯片等。我們同樣堅(jiān)信，只有堅(jiān)持開放、開源，打造泛在的生態(tài)聯(lián)盟，國內(nèi)才有可能在這一領(lǐng)域?qū)崿F(xiàn)全面的突破。

結(jié)束語

本期主要圍繞數(shù)據(jù)中心內(nèi)，特別是集群間Scale-out的互聯(lián)通信做了簡單的概述，我們看好國內(nèi)基于以太網(wǎng)的互聯(lián)通信生態(tài)的發(fā)展，該技術(shù)路線也是國內(nèi)公司未來在面對(duì)英偉達(dá)最有希望實(shí)現(xiàn)追趕的方向之一。雖然國內(nèi)目前在交換芯片、網(wǎng)卡等硬件層面仍有差距，但已經(jīng)有一批互聯(lián)通信領(lǐng)域的創(chuàng)業(yè)企業(yè)開始嶄露頭角，可以預(yù)見本土行業(yè)將會(huì)迎來一波新的發(fā)展機(jī)遇，尤其是基于開放、開源生態(tài)的商用產(chǎn)品和軟硬件解決方案廠商。

未來我們會(huì)圍繞互聯(lián)通信這一主題，在Die-to-Die互連、片間互聯(lián)、板間互聯(lián)等多個(gè)方向做更多的分享和交流。CMC資本將持續(xù)聚焦數(shù)據(jù)中心領(lǐng)域的核心技術(shù)和產(chǎn)業(yè)發(fā)展趨勢(shì)，依托基金團(tuán)隊(duì)豐富的產(chǎn)業(yè)背景和深刻洞察，并結(jié)合AI算法廠商、芯片設(shè)計(jì)公司、晶圓廠、整機(jī)廠商等一線產(chǎn)業(yè)資源以及政府資源，在AI和算力基礎(chǔ)設(shè)施領(lǐng)域進(jìn)行全面布局，助力加速國產(chǎn)化的全面突破。

參考資料：

1.中金公司研究部：“AI浪潮之巔系列InfiniBand VS以太網(wǎng)，智算中心網(wǎng)絡(luò) 需求迎升級(jí)”

2.中金公司研究部：“通信技術(shù)10年展望系列 224G PHY已啟航，數(shù)據(jù)中心有線通信邁向新征程”

3.Morgan Stanly Research：“AI Supply Chain - AI Datacenter Network Switch Also Growing”