“沒有一個國家希望AI統治世界，如果有一個國家找到辦法預防和防止AI操控世界，這個國家肯定很樂意告訴其他國家。所以希望能夠有一個AI安全機構構成的一個國際社群研究技能、培訓AI，讓他們向善?！?/p>

2025世界人工智能大會暨人工智能全球治理高級別會議7月26日上午在上海世博中心開幕。作為大會主論壇的第一位重量級演講嘉賓，2024年諾貝爾物理學獎得主、2018年圖靈獎得主、加拿大多倫多大學計算機科學名譽教授杰弗里·辛頓（Geoffrey Hinton）發表了關于“是否數字智能會取代生物智能”的主旨演講，對通用人工智能（AGI）的前沿趨勢進行探討和研判。

杰弗里·辛頓（Geoffrey Hinton）

“大語言模型比人類更厲害”

辛頓被稱為“AI教父”，他從1985年開始進行語言模型的研究。大會主持人將他稱之為：深度學習泰斗、神經網絡之父、人類大腦的探究者。

辛頓說，大概60多年了，對AI有兩種不同的范式和路徑，一個是邏輯型的，過去一個世紀都是以邏輯式的范式認為，人工智能本質在于推理，人們通過一些符號規則、對符號的表達進行操作來實現推理；另外一種是以生物作為基礎來理解AI，就是圖靈和馮·諾依曼所相信的，理解是第一位的，然后才能夠學習AI。

“1985年時，我做了一個非常小的模型，想把這兩個理論結合在一起，更好地理解人們是如何理解一個詞的。每一個詞我都放了好幾個不同的特征，把前一個數字的特征記錄下來，可以預測下一個數字是什么、下一個詞是什么，再預測再下一個詞是什么。”辛頓說，就像他做的小模型一樣，如今的大語言模型與人類理解語言的方式一樣，理解就是把這些語言轉化為一些特征，然后把這些特征以一種非常完美的方式整合在一起，這就是AI各個層次所做的事。

辛頓用樂高積木舉了例子，“通過樂高積木可以做成任何3D模型，可以把一輛車的小模型造出來。如果把一個詞視為多維度的樂高積木，可能有幾千個不同的維度，這種類型的樂高積木可以做這么多維度，可以是一個建模，有很多維度，可以是語言的建模，每個積木都是一個詞。樂高模型相對比較確定，正方形插到正方形的小孔里。”

“但語言不一樣，每一個詞都有很多的手，比如你想更好地理解這個詞的話，就是讓這個詞和另一個詞之間合適地進行握手，一旦這個詞的造型發生變形的話，和另一個詞的握手方式就會不一樣，這里有優化的問題。一個詞變形以后，意思變了，這個詞怎么和下一個詞握上手、理解變化的意思，這就是人腦去理解意思或者說神經網絡理解意思最根本之處?！毙令D認為，人們理解語言的方式和大語言模型理解的方式幾乎一樣，人類有可能就是大語言模型，人類也會和大語言模型一樣產生幻覺，因為人類也會創造出來很多具有幻覺的語言，大語言模型也會。

但辛頓同時指出，大語言模型和人類也有不一樣的地方，而且比人類更厲害，這是計算機科學存在的意義。在一個軟件里，知識是永恒存在的，這個軟件、程序永遠放在那里?？梢园阉械挠布細缌?，只要這個軟件存在，知識隨時隨地都會被復活，從這種意義來說，計算機程式是永恒的，不會死亡的?！叭说哪X子和硬件不一樣，這就帶來了問題。我們做不到永生，這些知識軟件和硬件可以做到?！?/p>

“必須找一個辦法訓練AI，讓他們不要消滅人類”

談及人工智能的安全性這一廣受關注的話題，辛頓表示，現在的情況就好比有個人把老虎當寵物，小虎仔是很可愛的寵物，如果一直養這個寵物，要確保它長大時不會把你殺了，一般來說，養老虎當寵物不是一個好的想法。只有兩個選擇：如果你養老虎的話，一個是你把它訓練好，它不來殺你；或者你把它放了。用AI的話，我們沒辦法把它消滅，AI很多方面做得很好，比如醫療、教育或氣候變化、新材料，幾乎可以幫助所有的行業變得更有效率。

“我們沒辦法消除AI，即使一個國家消除AI，別的國家也不會這么做，這不是一個選項，意味著如果我們想讓人類生存，必須找一個辦法訓練AI，讓他們不要消滅人類。”辛頓強調，“我們現在的局面沒有一個國家希望AI統治世界，每個國家希望人類掌控世界，如果有一個國家找到辦法預防防止AI操控世界，這個國家肯定很樂意告訴其他國家。所以我們希望能夠有一個AI安全機構構成的一個國際社群研究技能、培訓AI，讓他們向善。我們的希望是訓練AI向善的技巧和訓練AI聰明的技術不一樣，每個國家可以做自己的研究，讓AI向善?！?/p>

演講最后，辛頓提出一個提議：全球主要國家或AI主要國家應該思考建立一個網絡，包括各個國家的一些機構來研究這些問題，研究怎么來訓練一個已經非常聰明的AI，讓AI不想要消滅人類、不想要統治世界，讓AI很高興做一個輔助工作。

“盡管AI比人要聰明很多，我們現在還不知道怎么去做這件事。從長期來說，這可能是人類面臨最重要的問題，我們的好消息就是，在這個問題上所有的國家都是可以一起合作的?！毙令D說。