03:06

受圖靈獎得主、上海期智研究院院長姚期智先生邀請，諾貝爾物理學獎和圖靈獎得主、多倫多大學教授Geoffrey Hinton首次來到中國上海參加兩場AI領域國際重要會議：第四屆AI安全國際對話IDAIS(International Dialogues on AI Safety)和2025 WAIC(World Artificial Intelligence Conference)。與全球頂尖的人工智能 (AI) 科學家齊聚上海，共同圍繞未來人工智能系統可能超越人類智能水平帶來的失控風險，進行了深入的交流與研討。繼7月22日至7月25日IDAIS高濃度思想碰撞后，7月26日下午，Geoffrey Hinton與姚期智在WAIC “人工智能發展與安全”全體會議中進行了長達1小時的巔峰對話。他們重點圍繞人工智能與神經科學、人工智能的“自我意識”、量子計算對人工智能發展的影響等前沿話題展開深度討論。

本段對話Geoffrey Hinton與姚期智討論：大語言模型真的理解自己說的話嗎？

Geoffrey Hinton說：“我曾第一次在和我女兒的爭論中輸給了她，那時她才 4 歲。她下樓來對我說：“爸爸，你知道嗎？鸚鵡會說話哦？”我說：“不，Emma，鸚鵡不會說話。它們只是能發出聽起來像說話的聲音，但那只是學舌，它們不明白那些聲音的含義。”她說：“不，你錯了，爸爸。它們會說話。”于是我說：“不，Emma，它們并不理解這些詞的意思。”她說：“會的。我剛看了一個節目，一個女士給鸚鵡看了一輛汽車，鸚鵡就說‘汽車’。”就這樣，我在和我 4 歲女兒的爭論中輸了。而我覺得如今的語言學家在某種程度上也有點類似。

如果你真想把下一個詞預測好——尤其當它是回答一個問題的第一個詞時——你就需要已經理解了別人說的話。所以有趣且對我們大有幫助的一點是，僅僅通過努力預測下一個詞，如果你想把它做到極致，你就迫使系統去理解那個問題。”

編輯: 劉俊

責編: 康萬郡