高通成為數(shù)據(jù)中心芯片的新玩家。

當(dāng)?shù)貢r(shí)間10月27日，高通公司宣布推出其面向數(shù)據(jù)中心的新一代人工智（AI）推理芯片高通AI200和AI250 ，以及基于這兩款A(yù)I芯片的加速卡及機(jī)架級(jí)解決方案。

高通表示，憑借公司在神經(jīng)處理單元（NPU）技術(shù)方面的領(lǐng)先地位，這些解決方案可提供機(jī)架級(jí)性能和卓越的內(nèi)存容量，以極高的性價(jià)比實(shí)現(xiàn)快速的生成式AI推理，標(biāo)志著在跨行業(yè)實(shí)現(xiàn)可擴(kuò)展、高效且靈活的生成式AI方面邁出了重大一步。

其中，高通AI200和AI250分別在2026年和2027年上市銷售。 受該利好消息影響，高通股價(jià)在10月27日的美股盤中一度暴漲近22%，收盤漲幅回落至11.09%。

數(shù)據(jù)中心芯片GPU主要是英偉達(dá)主導(dǎo)，AMD也分享一小部分市場(chǎng)，還有大型互聯(lián)網(wǎng)公司如谷歌自研的Asic芯片。但無論英偉達(dá)還是AMD，他們的算力芯片都非常“昂貴”。

如今，高通以差異化的策略來加入這一市場(chǎng)競(jìng)爭(zhēng)中，主要為推理市場(chǎng)提供更有性價(jià)比的產(chǎn)品。

具體來說，高通 AI200 是一款專用機(jī)架級(jí) AI 推理解決方案，旨在為大型語(yǔ)言和多模態(tài)模型 (LLM、LMM) 推理及其他 AI 工作負(fù)載提供低總擁有成本 (TCO) 和優(yōu)化的性能。每張加速卡支持 768 GB LPDDR內(nèi)存，可提供更高的內(nèi)存容量和更低的成本，從而為AI 推理提供擴(kuò)展性和靈活性。

高通 AI250 解決方案首次采用 “近內(nèi)存計(jì)算” 創(chuàng)新架構(gòu)，通過提供超過10 倍的有效內(nèi)存帶寬和更低的功耗，為 AI 推理工作負(fù)載帶來效率和性能的跨越式提升。這不僅支持分解式 AI 推理，還能高效利用硬件資源，同時(shí)滿足客戶對(duì)性能和成本的要求。

兩種機(jī)架解決方案均采用直接液體冷卻以提高熱效率，采用 PCIe 進(jìn)行縱向擴(kuò)展，采用以太網(wǎng)進(jìn)行橫向擴(kuò)展，采用機(jī)密計(jì)算以確保安全的 AI 工作負(fù)載，機(jī)架級(jí)功耗為160 kW。

“借助高通 AI200 和 AI250，我們正在重新定義大規(guī)模機(jī)架式人工智能推理所能實(shí)現(xiàn)的極限。這些創(chuàng)新的新型人工智能基礎(chǔ)設(shè)施解決方案使客戶能夠以前所未有的總體擁有成本（TCO）部署生成式人工智能，同時(shí)還能保持現(xiàn)代數(shù)據(jù)中心所需的靈活性和安全性。”高通技術(shù)公司邊緣解決方案與數(shù)據(jù)中心技術(shù)規(guī)劃高級(jí)副總裁兼總經(jīng)理 Durga Malladi說道。

據(jù)外媒報(bào)道，Durga Malladi上周在與記者的電話會(huì)議上表示：“我們首先想在其他領(lǐng)域證明自己，一旦我們?cè)谀抢锝⒘藢?shí)力，我們就很容易在數(shù)據(jù)中心層面更上一層樓。”

Malladi表示，高通還將單獨(dú)出售其 AI 芯片和其他部件，尤其是針對(duì)那些喜歡自行設(shè)計(jì)機(jī)架的超大規(guī)模數(shù)據(jù)中心客戶。他表示，其他 AI 芯片公司，例如英偉達(dá)或 AMD，甚至可能成為高通部分?jǐn)?shù)據(jù)中心部件（例如中央處理器）的客戶，“我們?cè)噲D確保我們的客戶能夠選擇全部購(gòu)買，或者說’我要混合搭配’。”

由于算力芯片價(jià)格高昂，Open AI、谷歌、微軟等都在尋找更低價(jià)的解決方案，自研芯片被認(rèn)為是一種方案，如今，高通的方案也給他們提供了另外一種選擇。

高通表示，其AI芯片在功耗、擁有成本以及內(nèi)存處理的新方法方面均優(yōu)于其他加速器。

高通之前一直在移動(dòng)芯片領(lǐng)域耕耘，如今進(jìn)入數(shù)據(jù)中心領(lǐng)域，也為公司開辟了一塊全新市場(chǎng)。

推理芯片被認(rèn)為比訓(xùn)練芯片有更大的市場(chǎng)需求，大模型走向生產(chǎn)環(huán)境后，每一次用戶調(diào)用、每一份報(bào)告生成、每一條代碼補(bǔ)全，都需要實(shí)時(shí)算力。

不過，高通作為新玩家的挑戰(zhàn)也同樣不小，盡管并非從零起步，但數(shù)據(jù)中心市場(chǎng)對(duì)高通來說是全新的，其生態(tài)構(gòu)建以及客戶拓展都需要時(shí)間。