亚洲狼人综合干_国产成人自拍网_97久草视频_日韩欧美在线网站_国产福利精品av综合导导航_粉嫩13p一区二区三区_成年人视频网站免费观看_国产亚洲综合久久_秋霞精品一区二区三区_国产精品99久久久久久久久_美女日韩在线中文字幕_久久免费在线观看

當前位置: 首頁 ? 資訊 ? 新科技 ? 正文

李彥宏斷言有點早 開源大模型不弱雞

IP屬地 中國·北京 編輯:趙靜 科技說 時間:2024-07-13 08:43:36

自2022年11月ChatGPT問世,這一現象級產品迅速點燃了市場的大模型熱情。新老科技企業紛紛殺入,誓要抓住移動互聯網以來最大的一次產業紅利。當行業如火如荼發展一門心思搞技術之時,又出現了“路線之爭”:

閉源路線:以國外OpenAI的ChatGPT,Anthropic的Claude,谷歌的Gemini,國內百度的文心一言,月之暗面的Kimi等企業為典型代表,傾向于閉源大模型的高性能,強商業化等優勢,其中以百度最為激進,李彥宏近期便一直以“閉源擁躉”頻頻出圈,發表諸如“開源大模型是智商稅“,”大模型場景下開源是最貴的”等出位言論,引發行業熱議;

開源路線:以meta的Llama,國內阿里云的通義為典型代表,認為開源模式的協作特性可實現技術的快速迭代,可以通過模型托管提高云計算的業務成長空間,且該路線有利于數據敏感型組織通過私有云或本地化內網落地大模型,較之閉源具有高成長性,多落地場景等優點。

與行業往日爭議不同,此次大模型爭論充滿技術情懷,從業者爭論多聚焦在 “技術之爭”,李彥宏就表示“開源模型會越來越落后”,其讓頻頻登上熱搜。

那么在這場開閉源的爭論中我們要建立怎樣的分析框架?又來如何理性評判當前的路線之爭呢?

其一,根據Scaling laws原理,大模型的成功乃是更大算力,更多數據,更高算力的綜合結果,這背后則是資金的海量投入,基礎設施完善,管理的穩定等等,大模型沒有閃電戰只有持久戰;

其二,百度選擇閉源有技術的考量,但與商業路徑也密不可分;

其三,開源大模型并沒有想象那般弱雞,閉源也不一定能永遠保持先進性;

其四,開閉源大模型共存將會是長期趨勢;

Scaling laws原理:大模型將長期燒錢

我們首先從大語言模型中的第一性原理“Scaling laws”入手分析(被翻譯為“縮放原理”或“尺度定律”)。

2020 年 1 月,OpenAI 發布論文《Scaling Laws for Neural Language Models》,奠定了 Scaling Law的基礎,為后續 GPT 的迭代指明了方向:更大參數、更多數據和更多算力能夠得到更好的模型智能。

也就從此時開始,OpenAI開啟了大參數模型路線,GPT-3的參數已經達到1750億(GPT-2還只有15億),訓練數據則直接躍升到570億G。

大模型的大參數軍備競賽也由此拉開大幕,動輒數千億級的大模型流行于市場,帶來技術的快速發展和普及。

由此也就引發了一個新的問題:算力。

根據 Scaling Law 論文,可以用 6ND 來估算模型所需要的訓練算力(N為參數,D為數據集TOKEN數),算力需求在大模型時代得到指數級提升(長文本大模型所需算力可能還要高于6ND)。

這一方面催生了底層算力提供者英偉達為代表的GPU廠商的爆炸式增長,另一方面大模型廠商若要保持技術先進性就必須花大價錢在算力基礎設施方面。

在華泰證券的圖表中我們也能清晰看到大模型與此前的云計算爆發式增長一樣,業務的增長是要基礎算力的高投入為前提的。根據Visible Alpha一致預測,2026年全球科技四巨頭(微軟,谷歌,meta和亞馬遜)合計資本支出將達2399億美元,2023-2026年CAGR為18.86%。

有觀點曾寄希望于Scaling Law的邊際效應收窄效應,認為只要熬到技術成熟期(Scaling Law效應邊際效應迅速放大之時),算力的投入便會達峰,此時模型只需要維護自身模型的可靠性與穩固性即可,只是站在當下時代,Scaling Law遠未到終點。

清華大學的唐杰教授在2024年 2 月就指出:我們還遠未到 Scaling law 的盡頭, 數據量、計算量、參數量還遠遠不夠。未來的 Scaling law 還有很長遠的路要走。

現實中主流大模型廠商的算力仍然在持續增大,模型的參數規模也在增大,行業終局是看不到頭的。

研發人員固然可以通過技術架構優化和軟硬件資源協同等方面來提高大模型的性能,只是我們也必須得承認,指數級的大模型技術迭代仍然仰賴于高參數和強算力。

在上述兩項約束條件下,大模型廠商不得不面臨非常棘手的問題:

如果把算力的資本性支出視為“蛋”,大模型的高性能為“雞”,究竟雞生蛋還是蛋生雞就成了大模型廠商不得不面臨的問題。

我們以閉源大模型的忠實擁躉百度為例,在基石的廣告業務壓力不斷加碼之時,其經營理念已經越加審慎,如對非核心業務的裁撤,人員的優化等等。這在資本開支中則反饋表現為支出的越加保守,過去三年表現非常明顯。

2023年meta和亞馬遜等科技頭部企業也均在進行資本支出的結構性優化,如亞馬遜的物流倉儲成本開始降低,與此同時云計算的數據中心等基礎設施仍處于大規模擴張中。百度亦是如此,表面看其資本開支越發慎重,但大模型相關的基礎設施投入必然是高速增長的。

這對百度也就會帶來一個問題,結構化的資本開支縮減終有結束之時,Scaling Law還遠未能看到終端,加之“第二曲線”短期內無法扛起支出重任,從財務方面就迫使百度不得不在商業路徑上進行考慮。

以賣模型(API接口)的閉源大模型成為首選,對C端用戶文心一言收取會員,對B端以API的接口費為主要變現,又由于閉源大模型乃是企業獨家開發,維護和管理成本也相對低廉,對百度是十分劃算的。在雞生蛋和蛋生雞的問題上,百度選擇了雞生蛋。

可閉源果真就能戰勝開源嗎?

開源大模型不弱雞

前文中我們已經從大模型的原理,技術以及商業路徑角度,簡單勾勒了行業當前的現狀,并對百度對閉源大模型抱以極度的熱忱有了一定的理解。

接下來我們來討論開閉源大模型的趨勢性問題 。

如開篇所言,李彥宏對開源大模型常有鄙夷之情,如開篇“開源模型會越來越落后”,又如“沒有應用,開源閉源模型都一文不值”,閉源大模型果真如此不堪嗎?

ARK Investment每年都會將其觀點和洞察力發表在年初的“Big Ideas”報告中,在2024年的報告中,”開源模型性能進步快于閉源模型“乃是其重要觀點之一。在上圖中阿里云的Qwen-72B乃為閉源大模型之最。

一方面閉源大模型確實有先發優勢,以OpenAI的ChatGPT為典型代表,但另一方面大模型的演進又是一個持久戰(Scaling law為主要因素),對企業的管理,投入以及持續的創新力就有了更高的要求,如此前OpenAI一系列的“人事斗爭”很難說不會影響核心業務。

與之所對應的開源大模型也在此時開始展示先進性。

2024 年 4 月,meta 發布 Llama 3,設計目標是多模態、多語言,根據 meta 公布的目前訓練數據,其性能與 GPT-4 相當。

Llama大模型的成功給了開源陣營足夠的信心,在權威機構推出全新的大模型測評基準LiveBench AI中,阿里通義Qwen2拿下美國最新測評榜單開源大模型全球第一,成績超過meta的Llama3-70B模型。

在基礎算力的投入保障之下,拉長時間線,開源大模型是可以保持足夠競爭力的,僅就此來看李彥宏鄙夷開源大模型性能不進步是站不住腳的。

這再次告訴我們:閉源和開源絕非技術理念之爭,而是商業路徑的分歧。

那么究竟哪何種商業路徑最適合大模型的落地呢?

篇幅原因我們省去繁瑣的分析過程,精簡觀點如下:

中短期:閉源大模型在變現方面優勢更明顯,以賣模型為主要商業模式,簡單易操作。百度又可以通過改造原互聯網應用產品(如地圖,文庫,搜索等),實現模型的落地改進產品力,將業務線由“AI+”向“+AI”過渡。此外需要提醒的是,企業內部原產品線的改造也是伴隨巨大的成本開支需求的,如華泰證券曾測算,meta若內容推薦完全以大模型為主,取代原有算法,將需要至少50萬片英偉達GPU,僅此一項就是一筆巨大開支(最近有消息稱meta今年GPU規模將超過30萬塊),這就對短期內閉源大模型的落地和變現提出了更高的要求。

長期:開源大模型走的更遠,如高度定制化的特點將提高大模型對不同行業的滲透率,當不同行業的接入大模型,提高大模型的應有廣度之后,企業開發展則要仰賴于開源大模型背后的算力和云計算平臺,以實現可持續增長。

在上述兩種路徑中,“資本”是商業模式運轉的必要條件,這又回到了我們前文所言的“雞生蛋”的悖論。

這也就使得采取閉源大模型的往往具有以下特點:應用端具有得天獨厚優勢(如谷歌),又如技術上短期內遙遙領先(如OpenAI);

開源大模型則具有:資金底子雄厚(如meta),云計算基礎設施健全(如阿里云),能夠熬得住,扛得起基礎設施膨脹帶來的巨大成本,又能接得住開源大模型普及后的云計算需求。

顯然沒有一種大模型是兼有所有優點而無缺點的,百度此時以激烈語言來鼓吹閉源大模型,其背后應是其短期商業化的焦慮(此前API接口價格戰對閉源大模型影響更大),以及對爭奪目標客戶心智的野心。

基于此我們并不認為會有包打一切的大模型路徑,相反企業選擇適合自己的路徑更多是“權宜之計”,客戶選擇開閉源模式也將會有自己的考量,一些企業也采取開閉源共存的模式來滿足不同客戶需求,如谷歌將輕量級的開源模型系列Gemma進行開源。

不過此時發表出格語言最能出圈,能夠提高閉源大模型優點的普及型,只是忽視了開源大模型絕非“弱雞”,大模型的發展會是持久戰,未來有太多的不可測性,輕易下斷言在其后很可能被反噬。

免責聲明:本網信息來自于互聯網,目的在于傳遞更多信息,并不代表本網贊同其觀點。其內容真實性、完整性不作任何保證或承諾。如若本網有任何內容侵犯您的權益,請及時聯系我們,本站將會在24小時內處理完畢。

国产99久一区二区三区a片 | 亚洲影院高清在线| 亚洲少妇18p| 国产精品久久久久影院色老大| 欧美最猛黑人xxxx黑人猛叫黄| 国产一区在线观看免费| 日韩精品免费视频| 国产成人精品久久| 国产极品999| 一本色道久久综合狠狠躁篇怎么玩| 日本黄区免费视频观看| 91麻豆精品国产91久久久资源速度| 北条麻妃在线一区| 亚洲天堂av一区| 日韩专区第三页| 午夜激情久久久| 波多野结衣有码| 日韩中文在线视频| 波多野结衣大片| 欧美在线激情网| 免费观看黄色一级视频| 国产精品播放| 国产亚洲一二三区| 久久资源av| 中文字幕亚洲欧美一区二区三区 | 欧美日韩国产一二三| www.久久com| 欧美一区二区三区四区视频| 国产精品成人久久| 欧美精品一区二区三区在线| 国产网友自拍视频| 91精品入口蜜桃| 91丝袜国产在线播放| 亚欧激情乱码久久久久久久久| 亚洲视频综合在线| 日韩在线免费观看av| 中文字幕亚洲综合久久筱田步美 | 在线播放一级片| 一区二区日本伦理| 色拍拍在线精品视频8848| 成人免费一级片| 91嫩草视频在线观看| 国产精品毛片a∨一区二区三区 | 欧美爱爱视频免费看| 欧美成人精品福利| 日韩av中文字幕一区二区三区| 亚欧在线免费观看| 在线亚洲欧美视频| 久久亚洲欧美国产精品乐播| 成人在线视频免费播放| 992tv成人免费影院| 国产美女视频一区| 久久久久久综合网| 97在线视频国产| 亚洲欧美综合色| 在线观看中文字幕av| 久久www视频| 色综合伊人色综合网| 丝袜国产日韩另类美女| 正在播放国产对白害羞| 午夜精品区一区二区三| 3d动漫精品啪啪| 久久在线精品| 无码一区二区三区在线| 日本视频精品一区| 日韩在线观看你懂的| 综合色中文字幕| 天堂网在线播放| 国产激情无码一区二区三区| 亚洲国产一区在线| 色偷偷av一区二区三区乱| 国产精品无圣光一区二区| 伊人精品一区二区三区| 国产日韩成人内射视频| www久久99| 尤物精品国产第一福利三区| 国产女主播在线一区二区| 国产免费视频一区二区三区| 天天操天天干天天操天天干| 日韩av片网站| 热久久这里只有| 国产视频精品xxxx| 国产字幕在线观看| 人成免费在线视频| 99视频精品免费| 亚洲区一区二区三区| 国产成人亚洲综合| 欧美裸体xxxx极品少妇| 日韩三级中文字幕| 亚洲观看高清完整版在线观看| 韩国欧美国产1区| 免费观看黄色一级视频| 在线免费观看国产精品| 一区二区三区四区免费| 久久久久久久久久久久久国产精品| 蜜桃视频日韩| 日韩免费三级| 三级a三级三级三级a十八发禁止| 久久不射热爱视频精品| 欧美一级日韩不卡播放免费| 亚洲一区二区在线观看视频| 日本一二三四高清不卡| 91丨porny丨国产| 99久久久久免费精品国产| 麻豆成人在线观看| 国产精品资源网站| 99re热这里只有精品免费视频| 国产成人av电影在线播放| 成人黄色在线看| www..com久久爱| 日本一区二区三区四区| 亚洲色图欧美激情| 色综合网色综合| 亚洲一区二区综合| 欧美日韩一区成人| 亚洲成人黄色网| www.亚洲一区| 成人夜晚看av| 日本三级中国三级99人妇网站| 亚洲ai欧洲av| 欧美午夜aaaaaa免费视频| 国产精品果冻传媒| 亚洲一区在线免费观看| 久久网福利资源网站| 亚洲视频sss| 国产视频一区二区视频| 一本久道久久综合狠狠爱亚洲精品| 69影院欧美专区视频| 国产日韩中文在线| 日本一区精品| 做爰高潮hd色即是空| 黄色永久免费网站| 一级黄色录像毛片| 伊人亚洲综合网| 超碰在线人人干| 日韩经典中文字幕一区| 久久精品欧美一区二区三区不卡| 亚洲一区二区四区蜜桃| 欧美精品aⅴ在线视频| 久色乳综合思思在线视频| 国产精品高清免费在线观看| 欧美一区视久久| 日本黄色www| 卡一卡二卡三在线观看| 在线观看日本网站| 成人免费毛片嘿嘿连载视频| 亚洲综合一二三区| 精品福利一区二区三区| 国产精品久久久久久久久久免费 | 岛国精品在线播放| 国产精品免费视频一区| 五月天中文字幕一区二区| 亚洲伦理中文字幕| 欧美亚洲另类久久综合| 一级淫片在线观看| 国产又粗又硬又长又爽| 亚洲乱码国产乱码精品| 精品人妻一区二区三区含羞草| 精品一区二区三区在线播放| 欧美色图第一页| 国产精品久久久久久久久| 91手机在线观看| 中文字幕欧美视频| 久久裸体视频| 91麻豆精品国产综合久久久久久| 国产精品欧美一区二区| 黄色成人免费看| 国产成人一区二区三区影院在线| 国产成人免费xxxxxxxx| 亚洲精品电影在线观看| 日韩av高清在线看片| 精品国产乱子伦| 亚洲精品国产一区二区精华液 | 日韩激情小视频| 不卡的av中国片| 精品国模在线视频| 一区二区不卡免费视频| 久久综合一区二区| 国产色婷婷亚洲99精品小说| 国产成+人+综合+亚洲欧洲| 久久久久久久久久久免费视频| 香蕉污视频在线观看| 日韩欧美一区视频| 久久视频在线观看中文字幕| 中文字幕视频网站| 欧美日韩一区不卡| 丁香色欲久久久久久综合网| 午夜影院在线视频| 欧美精品一区二区三区蜜桃视频| 日本成人黄色免费看| 亚洲国产精品视频在线| 久热精品视频在线观看| v8888av| 国产精品午夜电影| 国产精品裸体一区二区三区| 国产精品系列视频| 国产亚洲美女精品久久久| 乱子伦视频在线看| av电影在线观看一区| 成人性生交大片免费观看嘿嘿视频| 亚洲精品成人无码| 日本精品一区二区三区高清 | 成人片黄网站色大片免费毛片| 亚洲小说欧美激情另类| www.国产亚洲| 99久久精品国产导航| 蜜桃精品久久久久久久免费影院| 国产成人精品一区二区无码呦| 九九综合九九综合| 欧美风情第一页| 精品1区2区在线观看| 国产免费嫩草影院| 亚洲国产精品va在线看黑人动漫 | 亚洲精品国产综合区久久久久久久| 国产ts丝袜人妖系列视频| 色婷婷综合在线| 日韩欧美xxxx| 亚洲男人天堂av网| 亚洲乱码国产一区三区| 五月天中文字幕一区二区| aaa毛片在线观看| 日本高清不卡aⅴ免费网站| 亚洲一级片免费| 欧美性xxxx在线播放| 国产偷人妻精品一区| 日韩免费性生活视频播放| 国精产品一区一区三区免费视频| 欧美一区二区三区四区视频| 九热这里只有精品| 欧美性做爰毛片| 麻豆91在线播放免费| 日本一区二区三区四区在线观看| 成人精品高清在线| 麻豆av免费在线| 欧美一级片免费看| 欧美黄色一区二区三区| 国产精品jizz在线观看麻豆| 韩国视频一区二区| 你懂的av在线| 亚洲国产高清自拍| 国产成人精品一区二区无码呦 | 日本久久久a级免费| 精品夜夜嗨av一区二区三区| 91九色国产ts另类人妖| 欧洲精品一区二区| 久久国产黄色片| 成人一区二区电影| 午夜精品在线看| 一区二区视频网站| 四虎免费在线观看视频| 欧美网站在线观看| 69xxxx国产| 亚洲午夜精品福利| 在线电影国产精品| 黄色美女一级片| 一区二区传媒有限公司| 正在播放亚洲1区| 成人免费毛片嘿嘿连载视频| 老汉色影院首页| 亚洲色图欧美制服丝袜另类第一页| 久久久久久一区二区| 日本肉体xxxx裸体xxx免费| 久久视频在线播放| 国产精品毛片无遮挡高清| 国产稀缺精品盗摄盗拍| 日本一区二区三区在线视频| 日韩免费高清av| 国内精品视频666| 国产精品偷伦视频免费观看了| 5566成人精品视频免费| 欧美午夜美女看片| 少妇又色又爽又黄的视频| 亚洲少妇久久久| 不卡视频一区二区三区| 欧美一区午夜视频在线观看| 韩国一区二区视频| 国产探花在线免费观看| 在线观看日韩片| 国外成人在线播放| 欧美高清视频一二三区 | 成人午夜大片免费观看| 久久精品视频日本| 91视频最新入口| 91中文精品字幕在线视频| 国产丝袜一区视频在线观看| 91麻豆免费看片| 一区二区国产欧美| 国产一区二区三区四区在线| 日韩一级片一区二区| 97视频在线观看播放| 欧美日韩一区 二区 三区 久久精品| 国产精品一区二区久久不卡| 久久精品视频国产| 亚洲区自拍偷拍| 免费涩涩18网站入口| 日韩欧美电影一区二区| 日韩在线视频免费观看| 欧美在线色视频| 亚洲第一主播视频| 久久综合久久综合久久综合| 黄色www视频| 依依成人综合网| 天堂av网手机版| www激情五月| 精品国偷自产一区二区三区| 国产青春久久久国产毛片| 欧美在线视频一二三| 久久精品视频va| 亚洲无线码在线一区观看| 精品国产一区二区三区不卡| 欧美亚洲禁片免费| 中文字幕一区免费在线观看| 99久久99久久精品国产片果冻| 三级久久三级久久| 不卡免费追剧大全电视剧网站| 天堂在线资源8| 亚洲 欧美 精品| 日韩成人av影视| 青青青伊人色综合久久| 亚洲成人777777| 波多野结衣在线观看视频| 91在线精品入口| www.99视频| 免费成人美女在线观看.| 日韩一区欧美二区| 国产成人精品三级麻豆| 91在线观看高清| 国产精品三级久久久久三级| 亚洲三级视频在线观看| 中文字幕中文在线不卡住| 99精品久久免费看蜜臀剧情介绍| 99久久免费国产| 亚洲国产一区视频| 欧美精品粉嫩高潮一区二区| 日韩欧美aaaaaa| 日韩在线精品一区| 国产精品一区二区三区久久| 国产伦精品一区二区三区在线| 视频一区视频二区视频| 131美女爱做视频| 深夜视频在线观看| 欧美偷拍第一页| 亚洲一卡二卡在线观看| 四虎免费在线观看| 国产精品私房写真福利视频| 欧美日韩黄色大片| 欧美成人午夜激情| 国产自摸综合网| 国产综合中文字幕| 日本少妇aaa| 日韩精品一级二级| 亚洲成人av电影| 久久色精品视频| 性刺激综合网| 成人性生交视频免费观看| 麻豆changesxxx国产| 天天干天天操av| 偷窥国产亚洲免费视频| 亚洲欧美国产va在线影院| 日本欧美一二三区| 成人在线播放网址| 男女黄床上色视频| 国精品人妻无码一区二区三区喝尿 | 中文字幕av片| 国产精品成人网| 欧美多人爱爱视频网站| 欧美一级免费播放| 国产99久久久| 国产欧美日韩在线看| 亚洲日韩中文字幕| 日韩欧美视频一区二区| 青青操在线播放| 日韩激情一区二区| 91精品国产综合久久久久久久| 成人在线一区二区| 日韩精品―中文字幕| 波多野结衣mp4| 色综合久久六月婷婷中文字幕| 国产精品一区二区三区免费视频| 免费一级特黄录像| 国产 日韩 欧美 精品| 色国产综合视频| 高清日韩一区| 国产极品国产极品| 亚洲欧洲三级电影| 日韩av手机在线| 一级黄色毛毛片| 国产精品视频线看| 久久久久女教师免费一区| 国内外成人免费在线视频| 免费在线看一区| 久久成人人人人精品欧| 岛国精品一区二区三区| 成人精品国产一区二区4080| 欧美理论电影在线播放| 日韩不卡一二三| 成人涩涩免费视频| 欧美一级片在线播放| a级大片在线观看| 亚洲图片激情小说| 国产精品18久久久久久麻辣| 国产精品jizz| 成人免费一区二区三区视频| 成人免费视频网站| 中文字幕在线播放不卡| 亚洲国产精品网站| 国产熟妇久久777777| 亚洲一区二区四区蜜桃| 亚洲高清不卡一区| 视频在线观看一区二区三区|