來自O(shè)penAI、谷歌等公司的小部分但日益增長的AI開發(fā)者群體認(rèn)為，當(dāng)前的技術(shù)路徑無法實現(xiàn)生物學(xué)、醫(yī)學(xué)等領(lǐng)域的重大突破，也難以避免簡單錯誤。這一觀點正在引發(fā)行業(yè)對數(shù)十億美元投資方向的質(zhì)疑。

據(jù)The Information周二報道，上周在圣地亞哥舉行的神經(jīng)信息處理系統(tǒng)大會（NeurIPS）上，眾多研究人員討論了這一話題。他們認(rèn)為，開發(fā)者必須創(chuàng)造出能在部署后持續(xù)獲取新能力的AI，這種“持續(xù)學(xué)習(xí)”能力類似人類的學(xué)習(xí)方式，但目前尚未在AI領(lǐng)域?qū)崿F(xiàn)。

這些質(zhì)疑聲與部分AI領(lǐng)袖的樂觀預(yù)測形成對比。Anthropic首席執(zhí)行官Dario Amodei上周表示，擴(kuò)展現(xiàn)有訓(xùn)練技術(shù)就能實現(xiàn)通用人工智能（AGI），OpenAI首席執(zhí)行官Sam Altman則認(rèn)為兩年多后AI將能自我改進(jìn)。但如果質(zhì)疑者是對的，這可能令OpenAI和Anthropic明年在強(qiáng)化學(xué)習(xí)等技術(shù)上投入的數(shù)十億美元面臨風(fēng)險。

盡管存在技術(shù)局限，當(dāng)前AI在寫作、設(shè)計、購物和數(shù)據(jù)分析等任務(wù)上的表現(xiàn)仍推動了收入增長。OpenAI預(yù)計今年收入將增長兩倍以上至約130億美元，Anthropic預(yù)計收入將增長逾10倍至約40億美元。

核心爭議：AI能否像人類一樣學(xué)習(xí)

亞馬遜AI研究部門負(fù)責(zé)人David Luan明確表示，“我敢保證，我們今天訓(xùn)練模型的方式不會持續(xù)下去。”多位參加NeurIPS的研究人員也表達(dá)了類似觀點，認(rèn)為實現(xiàn)類人AI可能需要全新的開發(fā)技術(shù)。

OpenAI聯(lián)合創(chuàng)始人兼前首席科學(xué)家Ilya Sutskever上月表示，當(dāng)前一些最先進(jìn)的AI訓(xùn)練方法無法幫助模型泛化，即處理包括未曾遇到過主題在內(nèi)的各種任務(wù)。在醫(yī)學(xué)領(lǐng)域，持續(xù)學(xué)習(xí)可能意味著ChatGPT能識別醫(yī)學(xué)文獻(xiàn)中不存在的新型腫瘤，而非需要在大量先例上訓(xùn)練。這將使其表現(xiàn)得像能基于單一案例發(fā)現(xiàn)規(guī)律的人類放射科醫(yī)生。

在NeurIPS的主題演講中，阿爾伯塔大學(xué)教授Richard Sutton——被稱為強(qiáng)化學(xué)習(xí)之父——同樣表示，模型應(yīng)能從經(jīng)驗中學(xué)習(xí)，研究人員不應(yīng)試圖通過人類專家創(chuàng)建的大量專業(yè)數(shù)據(jù)來提升模型知識。他認(rèn)為，當(dāng)人類專家達(dá)到知識極限時，AI的進(jìn)步就會“最終受阻”。相反，研究人員應(yīng)專注于發(fā)明能在處理實際任務(wù)后從新信息中學(xué)習(xí)的AI。

技術(shù)突破嘗試與現(xiàn)實障礙

NeurIPS上展示的多篇重要研究論文探討了這一主題。麻省理工學(xué)院和OpenAI的研究人員提出了“自適應(yīng)語言模型”新技術(shù)，使大模型能利用現(xiàn)實世界中遇到的信息獲取新知識或提升新任務(wù)表現(xiàn)。

例如，當(dāng)ChatGPT用戶要求分析此前未見過的醫(yī)學(xué)期刊文章時，模型可能將文章改寫為一系列問答，用于自我訓(xùn)練。下次有人詢問該主題時，它就能結(jié)合新信息作答。部分研究人員認(rèn)為，這種持續(xù)自我更新對能產(chǎn)生科學(xué)突破的AI至關(guān)重要，因為它將使AI更像能將新信息應(yīng)用于舊理論的人類科學(xué)家。

然而，技術(shù)局限已拖慢企業(yè)客戶對AI代理等新產(chǎn)品的采購。模型在簡單問題上持續(xù)犯錯，AI代理在缺乏AI提供商大量工作確保其正確運行的情況下往往表現(xiàn)不佳。

商業(yè)影響：收入增長與投資風(fēng)險并存

如果Luan和Sutskever等質(zhì)疑者的觀點正確，這可能令開發(fā)者明年在強(qiáng)化學(xué)習(xí)等流行技術(shù)上的數(shù)十億美元投資受到質(zhì)疑，包括支付給Scale AI、Surge AI和Turing等協(xié)助此類工作的公司的費用。Scale發(fā)言人Tom Channick對此不同意，稱使用持續(xù)學(xué)習(xí)的AI仍需要從人類生成數(shù)據(jù)以及Scale提供的強(qiáng)化學(xué)習(xí)產(chǎn)品中學(xué)習(xí)。

盡管如此，即便沒有新突破，AI開發(fā)者似乎也能產(chǎn)生大量收入。OpenAI和Anthropic三年前幾乎沒有收入，如今從聊天機(jī)器人和AI模型銷售中獲得可觀營收。開發(fā)AI應(yīng)用的其他初創(chuàng)公司，如編碼助手Cursor，預(yù)計未來一年將集體產(chǎn)生超過30億美元的銷售額。

行業(yè)競爭：谷歌反超引發(fā)動蕩

研究人員還討論了大型開發(fā)者之間的AI競賽。谷歌的技術(shù)在某些指標(biāo)上已超越競爭對手，Altman已告訴OpenAI準(zhǔn)備迎接"艱難氛圍"和"暫時的經(jīng)濟(jì)逆風(fēng)"。

在與谷歌AI團(tuán)隊的問答環(huán)節(jié)中，多位與會者詢問該團(tuán)隊如何改進(jìn)預(yù)訓(xùn)練流程——這正是OpenAI今年大部分時間都在努力解決的問題。谷歌研究副總裁Vahab Mirrokni表示，公司改進(jìn)了用于預(yù)訓(xùn)練的數(shù)據(jù)組合，并找到了更好管理數(shù)千個谷歌設(shè)計的張量處理單元的方法，從而減少了硬件故障對模型開發(fā)流程的干擾。

OpenAI領(lǐng)導(dǎo)層最近表示，他們已能類似地改進(jìn)預(yù)訓(xùn)練流程，開發(fā)出代號為Garlic的新模型，相信未來幾個月能與谷歌競爭。