7月26日，2025年世界人工智能大會開幕，圖靈獎、諾貝爾物理學(xué)獎得主杰弗里·辛頓在主論壇上進行了“數(shù)字智能是否會取代生物智能”的演講，呼吁全球聯(lián)合進行AI治理技術(shù)的研究。

辛頓被稱為“AI教父”，他從1985年開始進行語言模型的研究，對大語言模型發(fā)展感觸頗深。他認(rèn)為，大語言模型理解一個句子，就是為句子中詞語分配彼此兼容的特定向量，其理解語言的方式與人類理解語言的方式幾乎是一樣。無論是大語言模型還是人類都會產(chǎn)生幻覺。

而且，大語言模型比人類更厲害。比如大語言模型的知識遷移能更強。計算機科學(xué)的軟件知識是永恒存在的，即使硬件被摧毀，軟件仍會被復(fù)活。所以辛頓認(rèn)為，盡管數(shù)字智的計算需要花費更多的能源，但其優(yōu)點在于，可以通過"蒸餾"等方式，將拷貝在不同的硬件上的知識進行分享，而傳統(tǒng)生物智能知識則難以分享。

辛頓提到了當(dāng)下非?；馃岬腁I智能體，他認(rèn)為，AI智能體比人類更加聰明。當(dāng)這些AI智能體擁有足夠的能力進行知識拷貝，能夠?qū)ψ晕倚羞M行評估時，他們可能會想到做兩件事情，一是永生，二是獲得更多的控制權(quán)，這將危害人類的利益。

“這就像有個人把小老虎當(dāng)成寵物來養(yǎng)，小虎崽是很可愛，但如果一直養(yǎng)下去，你要確保它長大的時候不會把自己吃掉。一般來說，養(yǎng)老虎當(dāng)寵物不是一個好的想法?！?/p>

辛頓對未來AI治理提出了展望。AI在很多方面都做得很好，比如說醫(yī)療、教育、氣候變化、新材料方面，AI幾乎能夠幫助所有的行業(yè)變得更有效率，人類沒有辦法擺脫或者消除AI，也沒有一個國家會這么做，所以這不是一個選項。這意味著如果人類想要生存的話，必須找到一個辦法來訓(xùn)練AI，讓他們不要消滅人類。

辛頓認(rèn)為，各國不會在防御人工智能的危險方面達成合作，因為各國在使用AI方面的利益是不一致的。為了促成合作，更加實際可行的辦法可能是尋找一套相對獨立的人工智能防御技術(shù)，當(dāng)一個國家發(fā)現(xiàn)了一個相對獨立的防御辦法時，他們會更樂意分享給其他國家。

在演講的最后，辛頓提議，建立一個由各國人工智能安全研究所與國內(nèi)研究網(wǎng)絡(luò)組成的國際社群，“從長期來看，這可以說是人類面臨的最重要的問題”。

原標(biāo)題：《“AI教父”辛頓：防止“養(yǎng)虎為患”，這是全球攜手加強AI治理的最重要命題》

欄目主編：李曄 文字編輯：俱鶴飛

作者：解放日報 吳丹璐