07:43

受圖靈獎得主、上海期智研究院院長姚期智先生邀請，諾貝爾物理學獎和圖靈獎得主、多倫多大學教授Geoffrey Hinton首次來到中國上海參加兩場AI領域國際重要會議：第四屆AI安全國際對話IDAIS(International Dialogues on AI Safety)和2025 WAIC(World Artificial Intelligence Conference)。與全球頂尖的人工智能 (AI) 科學家齊聚上海，共同圍繞未來人工智能系統(tǒng)可能超越人類智能水平帶來的失控風險，進行了深入的交流與研討。繼7月22日至25日IDAIS高濃度思想碰撞后，7月26日下午，Geoffrey Hinton與姚期智在WAIC “人工智能發(fā)展與安全”全體會議中進行了長達1小時的巔峰對話。他們重點圍繞人工智能與神經科學、人工智能的“自我意識”、量子計算對人工智能發(fā)展的影響等前沿話題展開深度討論。

本段Geoffrey Hinton與姚期智對話，討論AI 領域最重要的未解決問題是什么？

Geoffrey Hinton談及一個重要問題是訓練出善良的AI，他認為訓練AI很像養(yǎng)育孩子?！梆B(yǎng)孩子的時候，你可以給他定規(guī)矩，但那幾乎不起什么作用。你可以獎賞懲罰他，有一點效果?；蛘吣憧梢越o他展示好的行為榜樣。如果父母表現出良好的行為，孩子通常會成長為一個品德高尚的人。所以我覺得我們應該用精心篩選的數據來培養(yǎng) AI。當 AI 開始學習時，它只接觸好的行為。我們把所有人的不良行為先存起來，等它學會了什么是好的行為之后，再把那些不良行為給它看?！?/p>

編輯: 劉俊

責編: 康萬郡