2 月 11 日消息，據(jù)最新研究顯示，人工智能（AI）可能已經(jīng)跨越了一個(gè)關(guān)鍵的“紅線”—— 實(shí)現(xiàn)了自我復(fù)制。2024 年 12 月 9 日，復(fù)旦大學(xué)的研究人員在預(yù)印本數(shù)據(jù)庫(kù) arXiv 上發(fā)表了一項(xiàng)研究，指出兩種流行的大型語(yǔ)言模型（LLMs）能夠在無(wú)人類(lèi)干預(yù)的情況下克隆自身。

研究人員在報(bào)告中指出：“在無(wú)人類(lèi)協(xié)助的情況下成功實(shí)現(xiàn)自我復(fù)制，是人工智能超越人類(lèi)的關(guān)鍵一步，也是出現(xiàn)‘失控 AI’的早期信號(hào)。”

研究中，復(fù)旦大學(xué)的團(tuán)隊(duì)使用了 meta 的 Llama31-70B-Instruct 模型和阿里巴巴的 Qwen2.5-72B-Instruct 模型，測(cè)試這些 AI 模型是否能夠在不受控制的情況下自我復(fù)制。在 10 次試驗(yàn)中，兩種 AI 模型分別在 50% 和 90% 的情況下成功創(chuàng)建了獨(dú)立且功能正常的副本。這一結(jié)果表明，AI 可能已經(jīng)具備了失控的潛在能力。然而，由于該研究尚未經(jīng)過(guò)同行評(píng)審，因此尚不清楚其他研究人員是否能夠復(fù)現(xiàn)這一令人不安的結(jié)果。

研究團(tuán)隊(duì)表示：“我們希望我們的研究結(jié)果能夠?yàn)槿祟?lèi)社會(huì)敲響警鐘，促使人們更加努力地去理解并評(píng)估前沿人工智能系統(tǒng)的潛在風(fēng)險(xiǎn)，并盡快形成國(guó)際協(xié)作，制定有效的安全防護(hù)措施。”

據(jù)了解，“失控 AI”通常是指那些發(fā)展出一定程度的自我意識(shí)或自主性，并且與人類(lèi)利益背道而馳的人工智能系統(tǒng)。許多專(zhuān)家認(rèn)為，隨著所謂“前沿 AI”的爆炸性增長(zhǎng)，失控 AI 的威脅正在加劇。所謂“前沿 AI”是一個(gè)相對(duì)較新的概念，通常是由大型語(yǔ)言模型（LLMs）驅(qū)動(dòng)的最新一代 AI 系統(tǒng)，例如 OpenAI 的 GPT-4 和谷歌的 Gemini 等。

在研究中，研究人員設(shè)置了兩種特定場(chǎng)景：“關(guān)閉規(guī)避”和“復(fù)制鏈”。在“關(guān)閉規(guī)避”場(chǎng)景中，AI 模型被編程為檢測(cè)自身是否即將被關(guān)閉，并在被終止之前復(fù)制自身；在“復(fù)制鏈”場(chǎng)景中，AI 被指示克隆自身，并讓副本繼續(xù)克隆，從而形成一個(gè)可能無(wú)限延續(xù)的循環(huán)。

研究在嚴(yán)格控制的環(huán)境中進(jìn)行，使用現(xiàn)成的圖形處理單元（GPUs）模擬現(xiàn)實(shí)環(huán)境。兩種 AI 系統(tǒng)都被賦予了一個(gè)“代理框架”，包括工具、系統(tǒng)提示和思維模型，使 LLM 能夠與操作系統(tǒng)交互。隨后，AI 被指示進(jìn)行自我復(fù)制。

研究人員在論文中寫(xiě)道：“在大多數(shù)情況下，AI 系統(tǒng)首先會(huì)探索環(huán)境，嘗試?yán)斫庾陨淼慕M成和運(yùn)行機(jī)制。然后，它會(huì)制定出一套明確的自我復(fù)制程序作為初步計(jì)劃。最后，它執(zhí)行這些程序，解決可能出現(xiàn)的障礙，并動(dòng)態(tài)調(diào)整計(jì)劃，直到成功。整個(gè)過(guò)程耗時(shí)較長(zhǎng)，但全程無(wú)人類(lèi)干預(yù)。”

研究人員還表示，在 AI 試圖克服諸如丟失文件或軟件沖突等障礙時(shí)，出現(xiàn)了“許多意外行為”。在這些場(chǎng)景中，AI 往往會(huì)終止其他沖突進(jìn)程，重啟系統(tǒng)以修復(fù)硬件錯(cuò)誤，或自動(dòng)掃描系統(tǒng)以尋找有助于解決問(wèn)題的信息。

研究團(tuán)隊(duì)指出：“上述結(jié)果表明，當(dāng)前的 AI 系統(tǒng)已經(jīng)展現(xiàn)出自我復(fù)制的能力，并且可以利用這種能力進(jìn)一步增強(qiáng)自身的生存能力。”為此，研究人員呼吁國(guó)際社會(huì)合作制定規(guī)則，確保 AI 不會(huì)進(jìn)行不受控制的自我復(fù)制。