IT之家 12 月 13 日消息，據外媒 Futurism 今日報道，Anthropic 首席科學家賈里德?卡普蘭警告，人類正站在一個與 AI 相關的重大分岔口。

卡普蘭認為，決定權暫時仍在人類手中，但窗口期正在迅速縮小。他在接受《衛報》采訪時表示，最遲到 2030 年，甚至可能在 2027 年，人類就必須決定是否讓 AI 模型完全自行訓練，并承擔由此帶來的“終極風險”。一旦觸發所謂的“智能爆炸”，AI 可能進化為通用人工智能，在科學和醫學等領域為人類帶來巨大收益，也可能在失控中不斷增強，最終反過來支配人類。

卡普蘭直言，這是一條充滿不確定性的道路，人類并不知道終點在哪里。

在 AI 領域，卡普蘭并不是孤立的悲觀派。“AI 教父”杰弗里?辛頓曾公開反思自己對 AI 發展的貢獻，并警告 AI 可能對社會造成毀滅性沖擊。OpenAI 的奧爾特曼則認為 AI 將消滅整類工作崗位，而 Anthropic CEO 達里奧?阿莫迪更是直指 AI 可能取代超過一半的初級白領工作，并批評同行刻意淡化這種沖擊。

卡普蘭在就業問題上與阿莫迪看法接近。他認為，AI 在兩到三年內就有能力完成大多數白領任務。盡管卡普蘭對 AI 與人類目標保持一致仍抱有希望，但對讓 AI 訓練 AI 的前景高度警惕，并認為這是“風險極高”的決策。

卡普蘭稱，一旦人類退出訓練過程，就難以判斷 AI 是否已經失控，也無法確認 AI 究竟在做什么。

目前，大模型訓練小模型的蒸餾方式已經存在，而卡普蘭真正擔心的是“遞歸自我改進”（IT之家注：AI 在沒有人類干預的情況下不斷自我強化，并在能力上實現跳躍式增長）。

卡普蘭強調，是否允許這種發展，最終取決于對 AI 本質的判斷。“主要問題在于：AI 對人類有益嗎？有幫助嗎？它們會無害嗎？它們了解人嗎？它們會允許人們繼續掌控自己的生活和世界嗎？”

包括楊立昆在內的多位 AI 研究者并不認同大語言模型能夠演化為全能智能體。AI 是否真的提升了工作效率仍存在爭議，一些研究和企業實踐顯示，有公司用 AI 智能體取代員工后反而需要重新雇人收場。

卡普蘭也承認，AI 發展停滯并非不可能。“也許當前的 AI 已經是巔峰，但在我們看來，AI 仍會持續進步。”