來(lái)自O(shè)penAI、谷歌等公司的小部分但日益增長(zhǎng)的AI開(kāi)發(fā)者群體認(rèn)為，當(dāng)前的技術(shù)路徑無(wú)法實(shí)現(xiàn)生物學(xué)、醫(yī)學(xué)等領(lǐng)域的重大突破，也難以避免簡(jiǎn)單錯(cuò)誤。這一觀點(diǎn)正在引發(fā)行業(yè)對(duì)數(shù)十億美元投資方向的質(zhì)疑。

據(jù)The Information周二報(bào)道，上周在圣地亞哥舉行的神經(jīng)信息處理系統(tǒng)大會(huì)（NeurIPS）上，眾多研究人員討論了這一話(huà)題。他們認(rèn)為，開(kāi)發(fā)者必須創(chuàng)造出能在部署后持續(xù)獲取新能力的AI，這種“持續(xù)學(xué)習(xí)”能力類(lèi)似人類(lèi)的學(xué)習(xí)方式，但目前尚未在AI領(lǐng)域?qū)崿F(xiàn)。

這些質(zhì)疑聲與部分AI領(lǐng)袖的樂(lè)觀預(yù)測(cè)形成對(duì)比。Anthropic首席執(zhí)行官Dario Amodei上周表示，擴(kuò)展現(xiàn)有訓(xùn)練技術(shù)就能實(shí)現(xiàn)通用人工智能（AGI），OpenAI首席執(zhí)行官Sam Altman則認(rèn)為兩年多后AI將能自我改進(jìn)。但如果質(zhì)疑者是對(duì)的，這可能令OpenAI和Anthropic明年在強(qiáng)化學(xué)習(xí)等技術(shù)上投入的數(shù)十億美元面臨風(fēng)險(xiǎn)。

盡管存在技術(shù)局限，當(dāng)前AI在寫(xiě)作、設(shè)計(jì)、購(gòu)物和數(shù)據(jù)分析等任務(wù)上的表現(xiàn)仍推動(dòng)了收入增長(zhǎng)。OpenAI預(yù)計(jì)今年收入將增長(zhǎng)兩倍以上至約130億美元，Anthropic預(yù)計(jì)收入將增長(zhǎng)逾10倍至約40億美元。

核心爭(zhēng)議：AI能否像人類(lèi)一樣學(xué)習(xí)

亞馬遜AI研究部門(mén)負(fù)責(zé)人David Luan明確表示，“我敢保證，我們今天訓(xùn)練模型的方式不會(huì)持續(xù)下去。”多位參加NeurIPS的研究人員也表達(dá)了類(lèi)似觀點(diǎn)，認(rèn)為實(shí)現(xiàn)類(lèi)人AI可能需要全新的開(kāi)發(fā)技術(shù)。

OpenAI聯(lián)合創(chuàng)始人兼前首席科學(xué)家Ilya Sutskever上月表示，當(dāng)前一些最先進(jìn)的AI訓(xùn)練方法無(wú)法幫助模型泛化，即處理包括未曾遇到過(guò)主題在內(nèi)的各種任務(wù)。在醫(yī)學(xué)領(lǐng)域，持續(xù)學(xué)習(xí)可能意味著ChatGPT能識(shí)別醫(yī)學(xué)文獻(xiàn)中不存在的新型腫瘤，而非需要在大量先例上訓(xùn)練。這將使其表現(xiàn)得像能基于單一案例發(fā)現(xiàn)規(guī)律的人類(lèi)放射科醫(yī)生。

在NeurIPS的主題演講中，阿爾伯塔大學(xué)教授Richard Sutton——被稱(chēng)為強(qiáng)化學(xué)習(xí)之父——同樣表示，模型應(yīng)能從經(jīng)驗(yàn)中學(xué)習(xí)，研究人員不應(yīng)試圖通過(guò)人類(lèi)專(zhuān)家創(chuàng)建的大量專(zhuān)業(yè)數(shù)據(jù)來(lái)提升模型知識(shí)。他認(rèn)為，當(dāng)人類(lèi)專(zhuān)家達(dá)到知識(shí)極限時(shí)，AI的進(jìn)步就會(huì)“最終受阻”。相反，研究人員應(yīng)專(zhuān)注于發(fā)明能在處理實(shí)際任務(wù)后從新信息中學(xué)習(xí)的AI。

技術(shù)突破嘗試與現(xiàn)實(shí)障礙

NeurIPS上展示的多篇重要研究論文探討了這一主題。麻省理工學(xué)院和OpenAI的研究人員提出了“自適應(yīng)語(yǔ)言模型”新技術(shù)，使大模型能利用現(xiàn)實(shí)世界中遇到的信息獲取新知識(shí)或提升新任務(wù)表現(xiàn)。

例如，當(dāng)ChatGPT用戶(hù)要求分析此前未見(jiàn)過(guò)的醫(yī)學(xué)期刊文章時(shí)，模型可能將文章改寫(xiě)為一系列問(wèn)答，用于自我訓(xùn)練。下次有人詢(xún)問(wèn)該主題時(shí)，它就能結(jié)合新信息作答。部分研究人員認(rèn)為，這種持續(xù)自我更新對(duì)能產(chǎn)生科學(xué)突破的AI至關(guān)重要，因?yàn)樗鼘⑹笰I更像能將新信息應(yīng)用于舊理論的人類(lèi)科學(xué)家。

然而，技術(shù)局限已拖慢企業(yè)客戶(hù)對(duì)AI代理等新產(chǎn)品的采購(gòu)。模型在簡(jiǎn)單問(wèn)題上持續(xù)犯錯(cuò)，AI代理在缺乏AI提供商大量工作確保其正確運(yùn)行的情況下往往表現(xiàn)不佳。

商業(yè)影響：收入增長(zhǎng)與投資風(fēng)險(xiǎn)并存

如果Luan和Sutskever等質(zhì)疑者的觀點(diǎn)正確，這可能令開(kāi)發(fā)者明年在強(qiáng)化學(xué)習(xí)等流行技術(shù)上的數(shù)十億美元投資受到質(zhì)疑，包括支付給Scale AI、Surge AI和Turing等協(xié)助此類(lèi)工作的公司的費(fèi)用。Scale發(fā)言人Tom Channick對(duì)此不同意，稱(chēng)使用持續(xù)學(xué)習(xí)的AI仍需要從人類(lèi)生成數(shù)據(jù)以及Scale提供的強(qiáng)化學(xué)習(xí)產(chǎn)品中學(xué)習(xí)。

盡管如此，即便沒(méi)有新突破，AI開(kāi)發(fā)者似乎也能產(chǎn)生大量收入。OpenAI和Anthropic三年前幾乎沒(méi)有收入，如今從聊天機(jī)器人和AI模型銷(xiāo)售中獲得可觀營(yíng)收。開(kāi)發(fā)AI應(yīng)用的其他初創(chuàng)公司，如編碼助手Cursor，預(yù)計(jì)未來(lái)一年將集體產(chǎn)生超過(guò)30億美元的銷(xiāo)售額。

行業(yè)競(jìng)爭(zhēng)：谷歌反超引發(fā)動(dòng)蕩

研究人員還討論了大型開(kāi)發(fā)者之間的AI競(jìng)賽。谷歌的技術(shù)在某些指標(biāo)上已超越競(jìng)爭(zhēng)對(duì)手，Altman已告訴OpenAI準(zhǔn)備迎接"艱難氛圍"和"暫時(shí)的經(jīng)濟(jì)逆風(fēng)"。

在與谷歌AI團(tuán)隊(duì)的問(wèn)答環(huán)節(jié)中，多位與會(huì)者詢(xún)問(wèn)該團(tuán)隊(duì)如何改進(jìn)預(yù)訓(xùn)練流程——這正是OpenAI今年大部分時(shí)間都在努力解決的問(wèn)題。谷歌研究副總裁Vahab Mirrokni表示，公司改進(jìn)了用于預(yù)訓(xùn)練的數(shù)據(jù)組合，并找到了更好管理數(shù)千個(gè)谷歌設(shè)計(jì)的張量處理單元的方法，從而減少了硬件故障對(duì)模型開(kāi)發(fā)流程的干擾。

OpenAI領(lǐng)導(dǎo)層最近表示，他們已能類(lèi)似地改進(jìn)預(yù)訓(xùn)練流程，開(kāi)發(fā)出代號(hào)為Garlic的新模型，相信未來(lái)幾個(gè)月能與谷歌競(jìng)爭(zhēng)。