樂天 9月25日

2024百度云智大會今日在北京召開。百度稱，為幫助企業(yè)更快、更好、更省地使用大模型，百度智能云分別針對算力、模型、AI應用，全面升級百舸AI異構計算平臺4.0、千帆大模型平臺3.0兩大AI基礎設施，并升級代碼助手、智能客服、數(shù)字人三大AI原生應用產品。

百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖表示，大模型以及配套的算力管理平臺、模型和應用開發(fā)平臺，正在迅速成為新一基礎設施。

沈抖說，“2024年大模型的產業(yè)落地正在加速，目前在千帆大模型平臺上，文心大模型日均調用量超過7億次，累計幫助用戶精調了3萬個大模型，開發(fā)出70多萬個企業(yè)級應用。過去一年，文心旗艦大模型降價幅度超過90%，主力模型全面免費，最大限度降低了企業(yè)創(chuàng)新試錯的成本。”

升級百舸4.0：模型訓練有效時長達99.5%

大算力是大模型落地的基礎條件。為滿足企業(yè)落地大模型從集群創(chuàng)建、開發(fā)實驗，到模型訓練、推理的全旅程算力需求，應對超大規(guī)模GPU集群高成本、難運營兩大挑戰(zhàn)，百度智能云升級發(fā)布百舸AI異構計算平臺4.0，面向萬卡、十萬卡集群全面升級算力管理能力。

首先，在集群創(chuàng)建階段，企業(yè)通常需要進行大量復雜、瑣碎的算力配置和調試工作。百舸4.0預置了主流的大模型訓練工具，能夠實現(xiàn)工具層面的秒級部署，并將萬卡集群運行準備時間從幾周縮減至1小時，提升部署效率，縮短業(yè)務上線周期。

百度百舸AI異構計算平臺4.0

在開發(fā)實驗階段，企業(yè)需要針對業(yè)務目標對不同架構、參數(shù)的模型進行多次測試，進而制定最佳模型訓練策略，保障后續(xù)訓練的性能和效果。

百度稱，百舸4.0全新升級的可觀測大盤，能夠對多芯適配、集群效能、任務自動容錯等方面進行全方位監(jiān)測，提供直觀決策依據(jù)，幫助用戶更好地把控整體項目。

在模型訓練階段，穩(wěn)定和高效是衡量GPU集群水平的“金指標”、“硬通貨”。

在穩(wěn)定性方面，一張GPU出現(xiàn)故障就會導致集群整體停擺，大量時間、成本浪費在故障恢復和數(shù)據(jù)回滾上。百舸4.0能夠自動篩查集群狀態(tài)，并基于對GPU故障的精準預測，及時轉移工作負載，降低故障發(fā)生頻次。此外，百舸獨有的故障秒級感知定位、Flash Checkpoint模型任務狀態(tài)回滾等技術，能夠大幅減少集群故障處置時間，實現(xiàn)接近無損的集群容錯。

目前，百舸在萬卡集群上實現(xiàn)了有效訓練時長占比99.5%以上，業(yè)界領先，極大地節(jié)約了客戶算力與時間成本。此外，百舸4.0通過在集群設計、任務調度、并行策略、顯存優(yōu)化等一系列創(chuàng)新，大幅提升了集群的模型訓練效率，整體性能相比業(yè)界平均水平提升高達30%。

在模型推理環(huán)節(jié)，百舸則通過架構分離、KV Cache、負載分配等一系列加速方法，實現(xiàn)了模型推理的降本提效，尤其在長文本推理方面，推理效率提升超過1倍。

面向未來，沈抖認為，大模型的Scaling Law將在一段時間內持續(xù)有效，很快就會有更多的十萬卡集群出現(xiàn)，但是管理十萬卡的難度與管理萬卡有著天壤之別。

首先，在物理空間方面，十萬卡集群需要占據(jù)大概10萬平方米空間，相當于14個標準足球場的面積；在能耗方面，每天則要消耗大約300萬千瓦時的電力，相當于北京市東城區(qū)一天的居民用電量。這種對于空間和能源的巨大需求，遠遠超過了傳統(tǒng)機房部署方式的承載能力，跨地域機房部署又會給網(wǎng)絡通信帶來巨大挑戰(zhàn)。此外，十萬卡集群中的GPU故障將會非常頻繁，有效訓練時長占也將迎來新的挑戰(zhàn)。

針對這些難題，百舸4.0已經構建了十萬卡級別的超大規(guī)模無擁塞HPN高性能網(wǎng)絡、10ms級別超高精度網(wǎng)絡監(jiān)控，以及面向十萬卡集群的分鐘級故障恢復能力。

“百舸4.0正是為部署十萬卡大規(guī)模集群而設計的。今天的百舸4.0，已經具備了成熟的十萬卡集群部署和管理能力，就是要突破這些新挑戰(zhàn)，為整個產業(yè)提供持續(xù)領先的算力平臺。”沈抖說。

生數(shù)科技作為國內領先的多模態(tài)大模型廠商，基于百舸平臺開發(fā)出國內首款全面對標OpenAI Sora的視頻大模型“Vidu”。會上，生數(shù)科技聯(lián)合創(chuàng)始人兼CEO唐家渝宣布，即日起Vidu將通過百度智能云千帆大模型平臺面向開發(fā)者、企業(yè)用戶開放API服務。

生數(shù)科技聯(lián)合創(chuàng)始人兼CEO唐家渝

對于自建智算中心的客戶，百舸4.0此番還對“一云多芯”能力進行了升級。在萬卡規(guī)模集群上，多芯混合訓練效能高達95%，保持業(yè)界領先。“要建設更大的集群，同時確保供應鏈的安全和彈性，勢必會存在不同芯片混合使用的情況，也就是說，對于自建智算中心的客戶來說，一云多芯是必然選擇。”沈抖說。

以中國郵政儲蓄銀行為例，2023年，為加速大模型應用落地，郵儲銀行新增大量來自不同廠商的GPU資源，基于大模型為18個核心業(yè)務系統(tǒng)、30多家分行的金融業(yè)務提供AI賦能。在百舸的支持下，郵儲銀行順利完成了不同型號GPU資源的部署、上線；同時，也實現(xiàn)了GPU、CPU算力的規(guī)劃重組，有力保障了300多個大小模型、6000多次訓練任務。模型迭代時間也從過去的一個半月大幅縮短至半天，并實現(xiàn)了更好的模型效果。

長安汽車執(zhí)行副總裁張曉宇表示，基于百舸平臺，百度智能云與長安汽車合作探索開發(fā)了整套自動駕駛模型訓練的最佳實踐方案，實現(xiàn)了GPU資源的精細化管理與調度。雙方緊密配合，在數(shù)據(jù)加載、計算效率、通信方式等維度進行聯(lián)合優(yōu)化，使得算力總體平均使用率提升到90%以上，綜合資源利用率提升了50%。

長安汽車執(zhí)行副總裁張曉宇

發(fā)布千帆3.0：三大服務全面升級，一句話即可生成企業(yè)級應用

為滿足企業(yè)客戶對模型調用、模型開發(fā)、應用開發(fā)的需求，百度智能云發(fā)布千帆大模型平臺3.0。

在模型調用方面，升級后的千帆平臺，不但可以調用包括文心系列大模型在內的近百個國內外大模型，還支持調用語音、視覺等各種傳統(tǒng)的小模型。在擴大模型種類的同時，百度智能云持續(xù)降低模型調用成本。過去一年，文心旗艦大模型降價幅度超過90%、主力模型全面免費，最大限度降低企業(yè)創(chuàng)新試錯的成本。

文心大模型家族全景圖

在模型開發(fā)方面，對于需要定制、微調專屬模型的客戶，千帆3.0不僅提供了最完善的大模型工具鏈，還支持CV、NLP、語音等傳統(tǒng)模型的開發(fā)，并實現(xiàn)數(shù)據(jù)、模型、算力等資源的統(tǒng)一納管和調度，為企業(yè)提供一站式的大、小模型開發(fā)服務。

千帆平臺大模型工具鏈

模型投入使用后，千帆平臺還支持企業(yè)將應用中產生的數(shù)據(jù)，經過采樣評估、人工標注、對齊或微調等方式反饋給模型，形成數(shù)據(jù)飛輪，持續(xù)優(yōu)化模型效果，放大模型在特定場景下的優(yōu)勢。

在應用開發(fā)方面，針對企業(yè)落地大模型的高頻應用場景，千帆3.0從檢索效果、檢索性能、存儲擴展、調配靈活性四方面對企業(yè)級檢索增強生成（RAG）進行了全面升級；針對企業(yè)級Agent的開發(fā)，千帆3.0增加了業(yè)務自主編排、人工編排、知識注入、記憶能力以及百度搜索等80多個官方組件支持。

此外，本次大會還發(fā)布了智能化低代碼應用開發(fā)平臺“AI速搭”，通過自然語言對話就能進行企業(yè)級應用開發(fā)，一句話就可以完成應用創(chuàng)建。

沈抖在大會現(xiàn)場還演示了如何通過對話，在AI速搭平臺上開發(fā)一個資產管理應用。只需一句話描述對目標系統(tǒng)的需求，包含資產信息、資產入庫、資產領用、資產維修、資產報廢等功能模塊，大模型就可以清晰地理解需求并生成應用。過去，這樣一個應用即使用低代碼方式開發(fā)也需要幾天的時間，現(xiàn)在只需幾分鐘就能完成。

工具平臺的不斷完善，也促進了過去一年大模型產業(yè)落地的爆發(fā)式增長。目前，在千帆平臺上，文心大模型日均調用量超過7億次，千帆平臺累計幫助用戶精調了3萬個大模型，開發(fā)出70多萬個企業(yè)級應用。

三星電子大中華區(qū)總裁崔勝植表示，2024年初，三星在全球市場推出Galaxy AI，并與百度智能云達成戰(zhàn)略合作，基于千帆平臺、百度識圖為中國用戶帶來國際領先的Galaxy AI本地化功能，包括即圈即搜、筆記助手、轉錄助手、聊天助手、瀏覽助手等移動 AI 體驗。

三星電子大中華區(qū)總裁崔勝植

百度稱，在招聘領域，獵聘基于千帆平臺，通過調用文心大模型，結合自身豐富的行業(yè)know-how，能夠對企業(yè)崗位需求和求職者簡歷內容進行語義理解分析，并實現(xiàn)智能化的簡歷篩選功能，人崗匹配準確率相比業(yè)界平均水平的70%高出15個百分點，高達85%，并提升招聘效率50%以上。

在教育領域，考試寶作為一款職業(yè)教育在線學習App，過去主要依賴人工為會員提供試題解析服務，速度慢、成本高，有些試題甚者需要等待一天以上才能得到解析結果。如今，通過提示詞工程和調用文心大模型，考試寶實現(xiàn)了試題的智能化解析，只需上傳試題就能秒級得到解析結果，單條試題解析成本也從過去的1.5元降到3厘，降幅高達98%，用戶付費意愿也增長了一倍以上。

此外，千帆行業(yè)增強版提供了體系化的工具和組件，支持行業(yè)客戶、合作伙伴在千帆通用底座上不斷添加行業(yè)特色，從而更方便地開發(fā)適合自己的行業(yè)應用。目前，千帆平臺上已經沉淀了包括制造、能源、交通，政務、金融、汽車、教育、互聯(lián)網(wǎng)在內的八大行業(yè)解決方案。

南方電網(wǎng)數(shù)字電網(wǎng)研究院副總經理胡榮表示，去年九月，南方電網(wǎng)發(fā)布了行業(yè)垂直領域首個自主可控的大模型“大瓦特”。“大瓦特”既是大模型、小模型及智能體構成的模型體系，也是開放共享的平臺與生態(tài)體系。平臺上，南方電網(wǎng)基于百度智能云千帆平臺構建了電力調度值班助手。在應對突發(fā)事件時，電力調度值班助手可以秒級生成處置方案，極大地增強了調度員的應急響應能力。

代碼助手、智能客服、數(shù)字人全面升級

隨著大模型產業(yè)落地逐漸走向深水區(qū)，AI原生應用也將迎來爆發(fā)式增長，為了滿足企業(yè)直接選購成熟AI應用的需求，百度智能云面向數(shù)字人、智能客服、代碼提效三大領域，升級了三大AI原生應用產品。

基于文心大模型重構的AI原生智能客服應用“客悅”，在用戶復雜意圖理解、多模態(tài)信息交流等方面實現(xiàn)了大幅提升，讓智能客服變得更聰明、更擬人。“問題自助解決率”是智能客服領域最關鍵的考核指標，當前業(yè)內平均水平是80%，升級后，客悅將這一指標提升至92%，實現(xiàn)業(yè)界領先。目前，客悅已累計幫助企業(yè)客戶服務超過1.5億人次，交互超過5億次。

基于大模型能力，新升級的曦靈數(shù)字人4.0支持根據(jù)文字快速生成不同妝造、不同行業(yè)特色的3D數(shù)字人形象和視頻。本次大會期間，曦靈平臺宣布：將3D超寫實數(shù)字人的價格從萬元大幅降價至199元，達到業(yè)內最低價。

全新升級的4D（3D+時間維度）自動綁定技術和創(chuàng)新模態(tài)遷移技術，還解決了傳統(tǒng)2D數(shù)字人動作僵硬的問題，可以實現(xiàn)人物在不同角度、形體、表情的高度一致，即使是面部微表情也能做到自然、逼真。

全新升級的全流程AI代碼提效工具“文心快碼”，聚焦研發(fā)全生命周期的業(yè)務流，實現(xiàn)了從項目接手到最終交付，全流程編碼開發(fā)效率與質量的雙重提升。

本次大會，文心快碼發(fā)布「企業(yè)級代碼架構解釋」、「企業(yè)級代碼審查」，兩項全新功能。企業(yè)級代碼架構解釋能在項目接手初期，實現(xiàn)工程架構的智能解讀，幫工程師快速理解業(yè)務邏輯；而企業(yè)級代碼審查則能傳承資深工程師的編碼經驗，智能輔助程序員查缺補漏。

此外，針對市面上通用代碼助手缺乏對企業(yè)歷史代碼庫的理解的痛點，文心快碼全新升級的「企業(yè)級代碼輔助能力」能夠深度理解企業(yè)代碼庫，快速學習企業(yè)過往的代碼與規(guī)范，讓生成的代碼更貼近企業(yè)的要求。

百度稱，文心快碼已經服務超過1萬家企業(yè)客戶，幫助數(shù)百萬中國開發(fā)者提升編碼效率，整體提升研發(fā)效率20%。

———————————————

由媒體人雷建平創(chuàng)辦，若轉載請寫明來源。