9月30日消息,有投資者在互動(dòng)平臺(tái)向云天勵(lì)飛提問(wèn):請(qǐng)問(wèn):配置X6000加速卡,玩悟空效果怎么樣?適配嗎?謝!
公司回答表示:公司于2024年推出IPU-X6000加速卡,主要用于大模型云端推理,其內(nèi)置高效大模型推理DeepEdge200芯片,具有256T大算力、486GB/s超高帶寬、128GB大顯存、c2c mesh互聯(lián),可應(yīng)用于語(yǔ)言大模型、視覺(jué)大模型、多模態(tài)大模型等各類大模型推理加速領(lǐng)域,目前已經(jīng)支持適配云天書(shū)、通義千問(wèn)、百川智能、智譜清言、meta等30+開(kāi)源大模型,涵蓋1.5B參數(shù)到70B參數(shù)量,預(yù)期能使大模型推理成本大幅度下降。






京公網(wǎng)安備 11011402013531號(hào)