2025世界人工智能大會拉開帷幕，諾貝爾獎、圖靈獎得主，加拿大多倫多大學計算機科學名譽教授杰弗里·辛頓的發言備受期待。這位通悉AI過去的“教父”在開場演講中拋出了“人類面臨最重要的事”——防止讓AI統治世界的方法，那就是讓AI向善的全球合作。

杰弗里·辛頓呼吁全球聯手讓AI向善

“如果你想知道當自己不再是頂級智慧生物時，生活是什么樣子，就去問問一只雞。”這是辛頓的一句廣為流傳的名言，在此次大會上，他又再次提到了“問雞”。這是一個類比，站在食物鏈頂端的人類和雞舍里被圈養的雞，這樣的差距，正是AI與人類之間的距離。辛頓認為，擔憂并非空想，AI越來越聰明強大，一切有跡可循。

首先，大語言模型理解語言的方式與人類非常相似，它能夠轉化出詞與詞“配合得很好”的向量特征，能夠“理解”詞義。他以樂高來比喻，樂高能夠構建出各種大型結構，詞語就像樂高，可以構建任何事物，并且能夠傳遞這種構建。而且這些樂高的“形狀”還會根據上下文，調整“握手”變形來與其他詞語契合，而非無意義的邏輯。“但是，大語言模型遠遠優于我們的大腦。”

不僅聰明，而且“永生”。“當代計算機的一個基本特性是可以在不同物理硬件上運行相同程序（或相同神經網絡），這意味著程序中的知識（或神經網絡的權重）是永生的。”辛頓提到，巨大的能耗是AI的演變中遇到的瓶頸，但是“蒸餾”技術就像老師教學生，讓AI明白了“權重”。如果智能體擁有相同的模型，就能輕松交換各自學到的知識而降低能耗。“生物計算所需的能耗要少得多，但如果能源廉價，數字計算更占優勢，這對人類的未來意味著什么？”

更值得思考的是，超級智能是否會掌控世界？辛頓認為，這種擔憂如同養了一只小虎崽，它長大之后是否會反咬主人？AI的運作原理，辛頓給出解釋：AI被允許創建自己的子目標，來有效完成任務，首當其沖的子目標是生存和獲取更多權力，因為這有助于人工智能實現其他目標。一個超級智能會發現，通過操縱使用它的人類來獲取更多權力是輕而易舉的，它將從人類這里學會如何欺騙，而且還將操縱負責將它關閉的人類。

所以，留給人類的選擇，只有規訓而非“殺死”。辛頓在會上呼吁，構建一個由各國人工智能安全研究所與國內研究網絡組成的國際社群，培養出不會想要從人類手中奪取控制權的向善的人工智能所需的技術。“可能技術是相對獨立的，這就好比，教導孩子變聰明的方法是不同的，但好在，希望孩子成為一個好人是大家的共識。”

原標題：《AI教父辛頓WAIC開講：莫問養虎是否為患，要一起教它向善》

欄目編輯：王蔚

作者：新民晚報 易蓉