![]()
unsplash
年底,AI芯片領域的競爭愈發激烈。繼11月,谷歌發布自研TPU,引發市場廣泛關注,英偉達隨即入股新思科技加碼推廣自身GPU后,亞馬遜剛發布的新產品,也很有可能成為攪動市場的另一極。
美國時間12月2日,在拉斯維加斯舉辦的亞馬遜云科技re:Invent全球大會上,亞馬遜正式推出了新一代自研AI芯片Trainium 3。這是亞馬遜首款3nm制程的AI芯片,由臺積電代工生產。
根據亞馬遜AWS首席執行官馬特·加曼(Matt Garman)的介紹,Trainium 3的計算能力較之Trainium 2大幅提升,是在當前的人工智能浪潮中,專為滿足下一代生成式AI工作負載的高性能需求而設計打造的,能夠幫助客戶更快地建立更大的模型,并在部署模型時提供卓越的效能。
AWS方面同時拿出了集成144顆新一代芯片的Trainium3 UltraServer服務器。該公司給出的數據顯示,新服務器的計算能力是上一代產品的4.4倍,內存帶寬是上一代產品的4倍,能夠將能效提升40%,同時大幅提高了產品部署能力上限,通過服務器之間的互聯互通,最多能部署多達百萬顆Trainium 3芯片,將此前的天花板提高了10倍。
從AWS披露的數據來看,Trainium 3的產品性能是更新換代級別的存在,但市場更關注的,還是其與占據絕對主導地位的英偉達和正在崛起的谷歌之間的比較。
不過,AWS方面拒絕直接就其新一代芯片的性能與英偉達、谷歌進行對比,沒有提供太多相關信息。
Barron's等提到,從內存來看,每顆Trainium 3集成了144GB高帶寬內存,而谷歌最新TPU是192GB,英偉達最新的Blackwell GB30更是高達288GB,同時,性能更強的英偉達超級新品Rubin也即將走向市場。
從這方面來看,目前幾大巨頭之間的芯片在性能上仍有明顯差距。
科技媒體IMPLICATOR.ai撰文指出,與英偉達的GPU不同,亞馬遜的Trainium芯片是專為在AWS云服務中訓練和運行大模型而設計的定制化AI芯片,會針對AWS的云基礎設施和Bedrock平臺進行針對性優化。
AWS也在官方新聞中,著重強調了專用芯片的“性價比優勢”,稱與同等GPU系統相比,Trainium在相關場景中可以將訓練和推理成本降低50%。
實際上,谷歌的TPU是專為加速機器學習和深度學習任務而設計的。英偉達在這些競爭者冒頭時曾發聲表示,公司的產品領先業界一代,是唯一能夠運行所有AI模型并應用于計算場景的平臺。
與專為特定AI框架或功能設計的產品相比,英偉達芯片提供了更高的性能、多功能性和可互換性。
就在亞馬遜發布新品的同一時間,英偉達首席財務官科萊特·克雷斯(Colette Kress)在瑞銀全球技術與AI大會上表示,其他芯片競品絕無可能動搖英偉達的地位。
她還表示,英偉達的護城河不只芯片,而是標準和生態,所有模型都運行在英偉達的平臺上,市場地位非常穩固。
不過,相較于競爭關系,亞馬遜與英偉達的合作同樣值得關注。
大會期間,AWS與英偉達共同宣布,前者將在下一代芯片Trainium 4中使用后者的NVlink Fusion技術。
該技術能夠實現不同類型芯片之間的高速連接,以及不同服務器之間的快速通信。芯片領域的頭部企業英特爾、高通都是使用者。
通過引入該技術,AWS得以構建規模更大、適用性更強的AI服務器,進一步提高互聯互通能力,再次推高部署能力的上限,幫助客戶更好地訓練大模型。
IMPLICATOR.ai的文章分析稱,相較于“打不過就加入”,AWS引入英偉達技術更類似一種引流策略,在無法快速實現芯片替代的情況下,這種合作能夠幫助那些依賴英偉達工作負載的企業更輕松地逐步遷移到Trainium基礎設施中。
英偉達CEO黃仁勛則表示,英偉達和AWS將攜手打造AI產業革命的計算架構,加速世界邁向智能化的道路。
令人好奇的是,誰成為亞馬遜新AI芯片第一批擁躉?
亞馬遜強調,新一代的芯片和服務器都是為了讓云服務客戶能以更低成本享受更好的服務,訓練出質量更高的大模型來實現自身的AI雄心。
事實上,除了自用外,Trainium 3目前的市場前景仍然成疑。
以往,Trainium的主要客戶是Anthropic、理光(Ricoh)等公司,用戶基礎本就不多。其中,Anthropic一直是最大客戶。實際上,AWS方面此前就曾表示,計劃在今年底之前向Anthropic提供100萬個Trainium芯片。
摩根大通分析師道格?安穆斯(Doug Anmuth)稱,考慮到亞馬遜對Anthropic的投資及兩者歷來的緊密關系,Trainium最新芯片預計仍會首先供應這家打造出了Claude的公司。
未來,只要電力等供應充足,AWS可以在新的服務器上復制為Anthropic打造的架構,吸引其他大型客戶,讓自己的芯片被更廣泛地使用。
不過,就算是Anthropic,這家公司對芯片也有多種選擇。除了英偉達的主流產品,該公司去年還曾表示與谷歌達成協議,將采購后者100萬顆TPU芯片。
另外,在今年的re:Invent大會中,AWS還發布了包括推理模型、語音模型、純文本模型在內的Nova 2系列模型,并推出了“開放式訓練”服務Nova Forge,允許使用者在訓練的各階段注入自己的數據,支持更多行業為特定知識定制大模型,同時通過Nova Act進軍代理服務市場,幫助使用者構建自動化網頁操作智能體。
從基礎設施、自研芯片,再到大模型、代理服務,這家云服務巨頭已愈發凸顯出全面押注AI垂直一體化的趨勢。
而資本市場還無法明確判斷該公司相關戰略的前景。12月2日亞馬遜股價收盤微漲0.23%,今年以來漲幅為6.85%,在“美股科技七巨頭”中與特斯拉相近,低于其他公司。(作者|胡珈萌,編輯|李程程)





京公網安備 11011402013531號