7月26日，2025年世界人工智能大會開幕，圖靈獎、諾貝爾物理學獎得主杰弗里辛頓在主論壇上進行了“數字智能是否會取代生物智能”的演講，呼吁全球聯合進行AI治理技術的研究。

辛頓被稱為“AI教父”，他從1985年開始進行語言模型的研究，對大語言模型發展感觸頗深。他認為，大語言模型理解一個句子，就是為句子中詞語分配彼此兼容的特定向量，其理解語言的方式與人類理解語言的方式幾乎是一樣。無論是大語言模型還是人類都會產生幻覺。

而且，大語言模型比人類更厲害。比如大語言模型的知識遷移能更強。計算機科學的軟件知識是永恒存在的，即使硬件被摧毀，軟件仍會被復活。所以辛頓認為，盡管數字智的計算需要花費更多的能源，但其優點在于，可以通過蒸餾等方式，將拷貝在不同的硬件上的知識進行分享，而傳統生物智能知識則難以分享。

辛頓提到了當下非常火熱的AI智能體，他認為，AI智能體比人類更加聰明。當這些AI智能體擁有足夠的能力進行知識拷貝，能夠對自我行進行評估時，他們可能會想到做兩件事情，一是永生，二是獲得更多的控制權，這將危害人類的利益。

“這就像有個人把小老虎當成寵物來養，小虎崽是很可愛，但如果一直養下去，你要確保它長大的時候不會把自己吃掉。一般來說，養老虎當寵物不是一個好的想法。”

辛頓對未來AI治理提出了展望。AI在很多方面都做得很好，比如說醫療、教育、氣候變化、新材料方面，AI幾乎能夠幫助所有的行業變得更有效率，人類沒有辦法擺脫或者消除AI，也沒有一個國家會這么做，所以這不是一個選項。這意味著如果人類想要生存的話，必須找到一個辦法來訓練AI，讓他們不要消滅人類。

辛頓認為，各國不會在防御人工智能的危險方面達成合作，因為各國在使用AI方面的利益是不一致的。為了促成合作，更加實際可行的辦法可能是尋找一套相對獨立的人工智能防御技術，當一個國家發現了一個相對獨立的防御辦法時，他們會更樂意分享給其他國家。

在演講的最后，辛頓提議，建立一個由各國人工智能安全研究所與國內研究網絡組成的國際社群，“從長期來看，這可以說是人類面臨的最重要的問題”。