作者 | 常棣

編輯 | 葛覃

美國著名小說家作家威廉?吉布森曾經說過，“未來已來，只是分布的還不太均勻”。用來給當下的時代作序，再合適不過。

AI 如洶涌的浪潮席卷著整個世界，在這股熱潮背后，算力產業正悄然經歷著一場深刻的變革，對于算力產業的共識大家均已知曉，算力就是新時代的生產力，而算力產業非共識的部分，只有一小部分人率先看到了方向。

近日對話了阿里云智能科技研究中心主任安琳，探究行業背后的變遷。安琳表示，算力需求是確定性的增長機會，但是只盲目關注GPU的機會，那真是大錯特錯，如何在大規模算力基礎設施的前提提高效率，直接決定價格和競爭力。

他還提到，大規模計算網絡、AI任務調度、智能運維三大能力，構建起算力服務非常高的技術門檻。“從我們這邊了解到的情況，中國具備這個能力的公司不超過兩三家，阿里云是其中一家。”

更值得關注的是，安琳指出，AI和云不是兩回事，而是一回事。“大規模訓練模型，可以認為是對整個計算機科學的一次革命。因為它會對于芯片、云計算、服務器提出新要求，從底下最硬的那一層，到上面最軟的這一層，全都會提出新的要求。而且模型和基礎設施不是兩件事，那些搞模型訓練的人碰到很多問題，本質上是因為基礎設施沒有支撐好。”

“因此，AI競爭的終局是能夠在全棧體系里面做端到端的系統級優化，要不然其他都是同質化，一定是全棧全鏈路跑通系統級優化，構建起獨特的技術優勢，這種技術價值才能贏到最后?！彼f。

以下為對話實錄，經編輯：

：伴隨大模型熱潮興起，算力產業有哪些共識和非共識？

安琳：我們有一些基本的判斷。第一，算力一直都很重要，而且可以預見，未來算力需求增長的速度很快。

在全球范圍內，云計算公司由于AI的帶動，包括阿里云在內的營收都已經有了明顯的增速上的恢復。阿里云重回兩位數增長，至少一半由AI帶動。前期大家都覺得算力很重要，值得做一些預先的投入并且迎接即將到來的爆發的市場，直到今天我們覺得依然是沒問題的。阿里云還在穩步推進對算力的建設和投入，也是因為對市場抱有信心。

第二個點，可能跟一些人的認知不一樣。大家都知道算力在分類上分為智能算力、通用算力、超算算力等。但是在實際上中，通用算力和智能算力還是不能完全獨立的建設，而是要混合布局建設。

一個最簡單的道理，企業客戶在使用AI應用時，并不是只用AI。當一個AI功能封裝成智能體或者類SaaS的服務給到用戶，AI可能是核心功能，但是為了讓它可用，得調用數據庫、安全能力等一堆七七八八的應用，AI的消耗在其中也就占個三成，剩下的六七成就都是原來云服務的那一套技術服務。

也就是說，在應用的角度，實際上還是大量用到智算和通算的混布算力，我們自己推進數據中心的建設時，特別注意在一個空間位置里面考慮GPU算力和CPU算力能夠被融合調度。這是我說的第二個點，算力不應該分的那么細，實際應用中是一種混合的狀態。

延伸一下，大家一定要區分大模型的訓練和推理，真的是不一樣。以前說大模型強依賴于GPU，實際上是特指大模型的訓練，CPU在里邊發揮的作用非常小。但是訓練代替不了推理，包括現在千行百業在應用AI的時候，訓練微調和推理都很重要，未來暴漲的是算力混布的需求，這是我們對市場趨勢的判斷。

第三個點，在算力里面大家比拼的是什么呢？核心是效率。

甭管是自研還是采購GPU卡、CPU卡，包括數據中心的改造，這都是固定資產的投入，把它運營起來變成錢，說白了還是固定資產的運營效率，直接決定了你在市場上提供服務的價格。

我們先不談算力卡本身，要么是用N卡的算力，要么就是國產卡。一般來說規模大，效率可優化的空間就更多。所以現在市場非常明確，大家要建就建大規模，萬卡現在都不足以為奇了，甚至建10萬卡，國際層面也是這樣。

這有一個好處，大規模數據中心可以建在那種電力、資源、制冷等條件都比較好的地方。因為這里面相當一大部分是能源約束，再一個就是這里面有技術門檻，我們放到后面說。

總結一下，第一需求很大，而且我們看到了確定性的增長的機會；第二還是得混布，要說這里面都是GPU的機會，那真是大錯特錯；第三，這件事拼的就是效率，再延展一下就是規模，效率是在大規模前提下的效率。

：做大模型的訓練算力集群，難在哪？

安琳：我們先看一個例子，就是某運營商官宣了做萬卡集群，后面也提到出了已經建成的，短期內不會再做新的，理由就是他認識算力這個事情極其復雜。

關于難做的第一個原因，需要很強的技術基礎，叫做智算網絡通信，這個技術不是說已經有了，而是大家邊研發邊用。

通信并不新鮮，但是智算網絡通信從來沒人研究過，它的需求極其苛刻，幾百G的帶寬，在一個毫秒內正向帶寬全占滿，下一個毫秒又反向全占滿回來。在人類歷史上的通信沒碰到過這種需求，所以你就可以理解為什么沒有這種技術。

首先涉及到通信網絡設計，網絡拓撲是一層能搞定，還是兩層能搞定，還是三層能搞定，阿里云能夠做到的水平，就是三層搞定10萬卡，兩層搞定萬卡，這是很難的。網絡拓撲需要做大量優化，網卡的芯片硬件，還有軟件的設計，路徑選擇的算法，防擁塞的算法，通信協議的加速，一整套的軟硬件的技術。只有這些技術同時取得突破，才有可能解決人類歷史上的這個難題。

從技術路線上，谷歌有一套技術路線，英偉達有一套技術路線，然后就是以太網的RoCE這套技術路線，這場國際競賽，這幾家廠商都還在搞，現在說誰勝誰敗都是為時尚早?，F在阿里云這么大的投入，處于一個相對領先也得持續地投入。

網絡技術很大程度上決定了集群能建多大，規模建得小一點，網絡就簡單一些，但是小一點的集群效率和規模就沒競爭力。

第二個決定效率的因素就是云計算多年沉淀下來的調度，傳統調度的思路包括算法的設計，都是按照硬件資源做調度，先監測這個卡是否空閑，如果空閑就扔一個任務，這是最簡單的調度，效率也是極低的。云計算做了這么多年，阿里云早已經進化到按任務來調度，調度的顆粒度更細了，通過監測到每一張卡上每一個任務的進程，然后根據任務進程分配新的任務，這種需要很多的工程技術能力積累，這也是為什么現在全世界做得好AI的公司，基本上都屬于云計算公司。

第三個決定效率的關鍵是運維，運維就是故障率，以前的卡壞了，可以很快把它隔離出去，然后繼續做?，F在我們發現，大模型任務可能出現毫秒級的抖動，一抖動就得重算。別小看這個瞬時抖動，一次通信過程中的抖動和丟包，整個GPU利用率就會下降50%。

阿里云做這么多年的云計算，對運維監測的要求一般都是分鐘監測，但是現在做智算網絡，我們必須把運維升級到毫秒級檢測。你看Llama的那報告，它在整個的訓練過程中故障率非常高，好幾百次的故障都是這么來的。

這三件事加起來，第一個是計算網絡的能力。第二是任務調度的能力，第三是智能運維的能力，構建起了今天誰能干智算集群，提供大規模有競爭力的算力服務的非常高的技術門檻。

從我們這邊了解到的情況，中國具備這個能力的公司不超過兩三家，阿里云是其中一家。

：智算中心空置引起了各方關注，阿里云怎么看？

安琳：確實，我們也有所耳聞，前期各地已經建設了一批幾千張卡或其他規模的智算中心，不管是國產卡是還是國外卡，這些集群都不同程度上存在閑置的問題，已經引起了關注。

主要是有兩個原因，一方面是國產算力集群面臨比較大的挑戰，因為它的生態問題。這個挑戰短時間內很難解決。所謂生態問題，簡單說就是那套英偉達CUDA那套體系，可以認為是我們在編程時都會調用一些現成的函數庫，CUDA那套體系非常完善，它不是一時半會做成的，也不是英偉達一家公司做成的，英偉達和全世界那么多家公司一塊越做越強。今天咱們國家這么多的大模型，基本上都是要基于CUDA來寫的，因為它已經變成了AI領域的事實標準。

如果我們不基于它來寫，會帶來什么問題呢？它不是一次性重寫的工作量，而是每一次模型在迭代更新和二次開發的時候，相當于就沒有函數庫了，每一個功能都要從頭開始寫，這個效率就不可能跟得上美國，這就是為什么還沒有辦法遷移到國產芯片的根本原因。

英偉達黃仁勛公開講，就算他的競對的卡是免費提供的，他依然有信心這些客戶還是要買英偉達的卡。另外業也有消息，英偉達卡的成本大約1000多美元，現在官方賣價（不考慮禁運和水貨增值）賣價也是幾萬美元，他能維系這么高的利潤率，開發生態也是關鍵。不是其他公司不建，這些公司都在卯著勁要建，但是需要時間，咱們國家也應該有耐心，要對這個事有正確的認識，這不是集中力量再搞個一兩年就能搞出來的。

我們看到比較現實的做法就是，要給國產生態發展留一些時間，而且在這個過程中還是要走跟國外兼容的路線。

第二個原因，一些國外的卡為什么也用不起來呢？就是我前面說的，要么規模太小了，要么就是建得太分散，特別是東部地區。一般東部地區的企業資金條件好一些，可是東部地區的電價真是沒有任何空間，和西部相比有巨大的價差，他怎么可能在市場上賣出去。

我們已經看到了很多包括運營商和民營企業，在尋求跟云計算公司的合作。他們沒有能力形成服務，然后現在等著租給這些云計算公司，這是個普遍現象，從正面來講，這也是避免浪費的方式。

：算力產業分層來看，芯片、云計算、服務器、數據中心等，不同的階段可能會有不同的力量左右算力市場，下一個階段誰更能主導算力市場？

安琳：基于我們一個最根本的判斷，就是AI和云不是兩回事，而是一回事。從技術的角度看這個問題，你會看得特別的清楚。

AI這一次的技術革命，是以大模型為代表，全稱叫大規模預訓練模型，可以認為這是對整個計算機科學的一次革命。因為它會對于芯片、云計算、服務器提出新要求，從底下最硬的那一層，到上面最軟的這一層，全都會提出新的要求。而且模型和基礎設施不是兩件事，那些搞模型訓練的人碰到很多問題，本質上是因為基礎設施沒有支撐好。

AI和云的結合，會重新定義AI，也重新定義從芯片到服務器等所有軟硬件，全球領先的公司都在干同一件事，就是在追求端到端的全鏈路的協同優化。做模型的公司希望能和云計算公司走到一起，把自己對于模型最前瞻的理解和下一步演進的態勢和云計算公司做溝通，希望云計算公司對他的模型做優化，而且云計算公司又會進一步再向下傳遞，與芯片公司做溝通。

整個體系革新是互為牽引的，別說算力市場，AI競爭的終局是能夠在全棧體系里面做端到端的系統級優化，這樣才有護城河，要不然都是同質化，他一定是全棧全鏈路跑通系統級優化，構建起獨特的技術優勢，這種技術價值才能贏到最后。

從全世界范圍來看，所有頭部公司都是在尋求全棧的優化。微軟本身做云，通過投資一系列手段試圖把一些大模型公司深度綁定，同時也發布了自己的芯片；谷歌自己又做模型又做云也做芯片，AWS也是，英偉達也投資控股了一家云計算服務公司，并且英偉達自己也開始做模型。阿里云也是一樣的在做全棧AI能力優化。

現在看算力的市場，成本和易用性是最關鍵的要素，疊加模型的應用。云計算的能力決定大模型的天花板，大模型的質量決定應用的天花板，大模型的交付成本決定應用創新的加速度。