辛頓

北京時間10月9日，當地時間周二，加拿大多倫多大學的“AI教父”杰弗里·辛頓(Geoffrey E. Hinton)、美國普林斯頓大學的生命科學家約翰·霍普費爾德(John J. Hopfield)因推動人工神經網絡的發展獲得了諾貝爾物理學獎。人工神經網絡對于當今谷歌等搜索引擎、ChatGPT等聊天機器人的發展至關重要。

霍普費爾德和辛頓的獲獎得益于他們兩人開發的技術：霍普菲爾德在1982年開發的“霍普菲爾德神經網絡”(Hopfield network)、辛頓在1985年發明的隨機神經網絡模型“玻爾茲曼機”(Boltzmann machine)。

2019年，辛頓博士等三人共同獲得了圖靈獎，以表彰他們在神經網絡領域的工作。這一獎項常被稱為“計算機領域的諾貝爾獎”。去年，辛頓登上了新聞頭條，因為他辭去了在谷歌擔任研究員的工作，并警告稱他所幫助創造的人工智能技術有朝一日可能會毀滅人類。

但是，辛頓不是一名物理學家。他曾經在一次學術會議上被介紹成了這樣一個人：“物理學不及格，放棄了心理學，然后加入了一個根本沒有標準的領域：人工智能”。

辛頓出生在英國，性格幽默，經常自嘲。他很喜歡重復這個故事，但是會換一種說法。“我并不是在物理學上不及格、放棄了心理學，”他說道，“而是我在心理學上不及格，放棄了物理學，這樣說要體面得多。”

辛頓獲得諾貝爾物理學獎

在得知自己獲得諾貝爾獎后不久，辛頓接受了《紐約時報》的采訪，談到了獲獎感受并回答了記者的一些提問。

以下是采訪對話：

記者：恭喜恭喜。你聽到今早的獲獎消息時是什么反應？

辛頓：我很震驚、驚訝和目瞪口呆。我從來沒有想到會獲得諾貝爾獎。

記者：神經網絡是計算機技術，它與物理學有什么關系？

辛頓：霍普菲爾德網絡以及它的延伸玻爾茲曼機都是基于物理學的。霍普菲爾德網絡使用了一種能量函數，而玻爾茲曼機則借鑒了統計物理的理念。因此，當時的神經網絡發展確實很大程度上依賴于物理學的理念。

但是，構建當今人工智能模型的是一種被稱為“反向傳播”的不同技術，它與物理學的關系較小。反向傳播指的是對多層人工神經網絡進行梯度下降的算法。

記者：玻爾茲曼機和反向傳播之間的關系是什么？

辛頓：目前，它們之間沒有太大聯系。它們是兩種關于如何讓神經網絡運行的替代理論。

在早期研究時，我曾設法將它們結合起來，使用玻爾茲曼機對反向傳播網絡進行“預訓練”。但現在人們不再這樣做了。

記者：你說的預訓練是什么意思？你能用通俗易懂的語言給讀者解釋一下嗎？

辛頓：這讓我想起了物理學家理查德·費曼(Richard Feynman)在獲得諾貝爾獎時曾說過的話。

一位記者問他：“費曼教授，你能在幾分鐘內解釋一下你為什么獲得諾貝爾獎嗎？”費曼回答說：“聽著，朋友，如果我能在幾分鐘內解釋清楚，那這項技術就不值得獲得諾貝爾獎了。”

記者：對于人工智能來說，玻爾茲曼機可以說是一個死胡同。研究方向已經轉向其他地方了嗎？

辛頓：我把它看作是一種酶。酶能夠幫助你跨越一個障礙，即使它不是最終解決方案的一部分。

玻爾茲曼機就像一種酶。它幫助我們克服了“如何訓練深度神經網絡？”這個障礙。它使訓練變得更容易。一旦我們學會了如何做到這一點，我們就不再需要玻爾茲曼機了。

記者：你曾經在這些想法上直接與與霍普菲爾德合作過？

辛頓：沒有。我讀過他的論文。但我的一位主要合作者特里·塞若斯基(Terry Sejnowski)與霍普菲爾德合作過，并在霍普菲爾德的指導下完成了他的博士學位。

記者：你獲得這個物理學獎是否很奇怪？

辛頓：如果有諾貝爾計算機科學獎，我們的工作顯然更適合得這個獎項，但目前并沒有這樣的獎項。

記者：你說得很好

辛頓：這也是一個提示。

記者：是的，也許我們需要一個諾貝爾計算機科學獎。無論如何，你因為協助創造了一項你現在擔心會給人類帶來嚴重危險的技術，而獲得了諾貝爾獎。你對此有何感想？

辛頓：獲得諾貝爾獎可能意味著人們會更認真地對待我。

記者：在你警告未來危險時，更認真對待你？

辛頓：是的。