2024年圖靈獎得主、“強化學習之父”理查德·薩頓（Richard Sutton）。

9月11日上午，2025 Inclusion·外灘大會在上海黃浦世博園區開幕。2024年圖靈獎得主、“強化學習之父”理查德·薩頓（Richard Sutton）在開幕式上針對AI帶來偏見、失業甚至人類滅絕的擔憂表示，這種對人工智能的恐懼被夸大了。人工智能和人類繁榮將來自去中心化協作，“協作并非總能實現，卻是世間一切美好事物的源泉，我們必須尋求協作、支持協作，并致力將協作制度化。”

被譽為“AI教父”的計算機科學家、諾貝爾獎得主杰弗里·辛頓（Geoffrey Hinton）曾預測，隨著企業用人工智能取代工人，AI將引發失業率上升與企業利潤激增。盡管目前裁員尚未激增，但越來越多的證據表明，人工智能正在壓縮入門級崗位。

對于AI帶來偏見、失業甚至人類滅絕的擔憂，薩頓則認為，這種對人工智能的恐懼被夸大了，并且是被某些從中獲利的組織和個人煽動起來的。他以經濟社會的運行為例，只有當每個人有不同的目標和能力，經濟才能運行得最好。同樣，不同目標的智能體可以通過去中心化的協作實現雙贏。“人類最卓越的超能力，就在于比其他任何動物都更擅長協作。人類最偉大的成功在協作本身。”薩頓表示，人工智能和人類繁榮將來自去中心化協作。“協作并非總能實現，卻是世間一切美好事物的源泉，我們必須尋求協作、支持協作，并致力將協作制度化。”

薩頓表示，今天大多數機器學習的目標是把人類已有的知識轉移到靜態、缺乏自主學習能力的AI 上。但人類數據紅利正逼近極限，“我們逐漸達到人類數據的極限，現有的方法不能生成新的知識，不適合持續學習，而持續學習對智能的效用至關重要。”他認為，人類正進入“經驗時代”，需要由智能體與世界直接交互生成的一種新數據源，這正是人類和其他動物的學習方式，是近期AlphaProof在國際數學奧林匹克斬獲銀牌的路徑。

“經驗”是指觀察、行動和獎勵，這三種信號在智能體與世界之間來回傳遞。“知識來自于經驗，可以從經驗中學習。一個智能體的智能程度取決于它能預測并控制自身輸入信號的程度。經驗是一切智能的核心與基礎。”他表示，強化學習帶領我們進入了新的經驗時代，但要釋放全部潛力，還需要兩項目前尚不成熟的技術——持續學習（continual learning）和元學習（meta-learning）技術。

薩頓將宇宙的歷史分為四個時代：粒子時代、恒星時代、復制者時代和設計時代。他認為人類的獨特之處在于“把設計推向極致”，創造出能自己設計的事物。人類至少是催化劑，是助產士，更是開啟宇宙第四大時代“設計時代”的先驅。他認為人類終將真正理解智能，并借助技術創造智能。當前人類的智力水平很快將會被超級人工智能或超級智能增強的人類遠遠超越，權力和資源會流向最聰明的智能體。