（來源：MIT TR）

互聯網上的惡意、謾罵以及其它非瑣碎、足以改變世界的意見不合...

人工智能既性感又酷炫。它在加深不平等、顛覆就業市場并破壞教育體系。人工智能像是主題公園的游樂設施，又好像是魔術戲法。它是我們的終極發明，也是道德責任的體現。人工智能是這十年的流行語，也是源自 1955 年的營銷術語。人工智能類人，又似異星來客；它超級智能卻也愚不可及。人工智能熱潮將推動經濟發展，而其泡沫似乎也將一觸即發。人工智能將增加富足，賦能人類在宇宙中最大限度地繁榮發展，卻又預示著我們的末日。

大家都在談論些什么呢？

人工智能是我們時代最炙手可熱的技術。但它究竟是什么？這聽起來像是一個愚蠢的問題，但從未像現在這樣緊迫。簡而言之，人工智能是一系列技術的總稱，這些技術使計算機能夠完成那些當人類執行時被認為需要智慧的任務。想想面部識別、語音理解、駕駛汽車、寫作句子、回答問題、創作圖像等。但即便這樣的定義也包含多重含義。

而這正是問題所在。讓機器“理解”語音或“書寫”句子意味著什么？我們能要求這類機器完成哪些任務？我們又該對它們的執行能力給予多大信任？

隨著這項技術從原型快速轉化為產品，這些問題已成為我們所有人的議題。但（劇透警告！）我并沒有答案。甚至無法確切告訴你人工智能是什么。制造它的人也不真正知道。Anthropic 人工智能實驗室位于舊金山的首席科學家 Chris Olah 表示：“這些都是重要的問題，以至于每個人都覺得自己可以有意見。同時，我認為你可以對此爭論不休，而目前沒有任何證據會反駁你。”

但如果你愿意坐穩并加入這場探索之旅，我可以告訴你為何無人真正知曉，為何大家看似各執一詞，以及你為何應當關注這一切。

讓我們從一個隨口的玩笑開始...

回溯至 2022 年，在《神秘 AI 炒作劇場 3000》這一檔略顯掃興的播客首集的中途——該播客由易怒的聯合主持人 Alex Hanna 和 Emily Bender 主持，他們樂此不疲地用“最鋒利的針”刺向硅谷一些最被吹捧的神圣不可侵犯的事物中——他們提出了一個荒謬的建議。當時，他們正在大聲朗讀 Google 工程副總裁 Blaise Agüera y Arcas 在 Medium 上發表的一篇長達 12,500 字的文章，題為《機器能學會如何表現嗎？》。Agüera y Arcas 認為，人工智能能夠以某種與人類相似的方式理解概念——比如道德價值觀這樣的概念，從而暗示機器或許能夠被教導如何表現。

（來源：MIT TR）

然而，Hanna 和 Bender 并不買賬。他們決定將“AI”一詞替換為“數學魔法”——就是大量且復雜的數學運算。

這個不敬的表達旨在戳破他們認為存在于引述句中的夸張和擬人化描述。很快，身為分布式人工智能研究機構的研究主任及社會學家的 Hanna，以及華盛頓大學計算語言學家、因批評科技行業夸大其詞而在網絡上聲名鵲起的 Bender，就在 Agüera y Arcas 想要傳達的信息與其選擇聽取的內容之間劃開了一道鴻溝。

Agüera y Arcas 問道：“AI、其創造者及使用者應如何在道德上承擔責任？”

Bender 則反問：“數學魔法應如何在道德上承擔責任？”

她指出：“這里存在分類錯誤。”Hanna 和 Bender 不只是反對 Agüera y Arcas 的觀點，他們認為這種說法毫無意義。“我們能否停止使用‘一個人工智能’或‘人工智能們’這樣的表述，好像它們是世界上的個體一樣？”Bender 說。

這聽起來仿佛他們在討論完全不同的事物，但實際上并非如此。雙方討論的都是當前人工智能熱潮背后的技術——大型語言模型。只是關于人工智能的討論方式比以往任何時候都更加兩極分化。同年 5 月，OpenAI 的 CEO Sam Altman 在預告其公司旗艦模型 GPT-4 的最新更新時，在推特上寫道：“對我來說，這感覺就像魔法。”

從數學到魔法之間，存在著一條漫長的道路。

人工智能擁有信徒，他們對技術當前的力量和不可避免的未來進步抱有信仰般的信念。他們宣稱，通用人工智能已近在眼前，超級智能緊隨其后。同時，也有異見者對此嗤之以鼻，認為這些都是神秘主義的胡言亂語。

流行的、充滿話題性的敘述受到一系列大人物的影響，從 Sundar Pichai 和 Satya Nadella 這樣的大型科技公司首席營銷官，到 Elon Musk 和 Altman 這樣的行業邊緣玩家，再到 Geoffrey Hinton 這樣的明星計算機科學家。有時，這些鼓吹者和悲觀論者是同一批人，告訴我們這項技術好到令人擔憂的地步。

隨著人工智能的炒作不斷膨脹，一個直言不諱的反炒作陣營也應運而生，時刻準備著擊破那些雄心勃勃、往往過于離譜的聲明。在這個方向上努力的，包括 Hanna 和 Bender 在內的一大群研究者，還有諸如前谷歌員工、有影響力的計算機科學家 Timnit Gebru 和紐約大學認知科學家 Gary Marcus 這樣的行業批評者。他們每個人都有眾多追隨者，在評論中爭吵不休。

簡而言之，人工智能已經成為所有人眼中無所不能的存在，將領域分割成一個個粉絲群體。不同陣營之間的交流似乎常常驢唇不對馬嘴，而且并不總是出于善意。

也許你覺得這一切都很愚蠢或煩人。但鑒于這些技術的力量和復雜性——它們已被用于決定我們的保險費用、信息檢索方式、工作方式等等——至少就我們正在討論的內容達成共識已經刻不容緩。

然而，在我與處于這項技術前沿的人們的諸多對話中，沒有人直接回答他們究竟在構建什么。（旁注：本文主要聚焦于美國和歐洲的人工智能辯論，很大程度上是因為許多資金最充裕、最先進的 AI 實驗室都位于這些地區。當然，其他國家也在進行重要的研究，尤其是中國，他們對人工智能有著各自不同的看法。）部分原因在于技術發展的速度，但科學本身也非常開放。如今的大型語言模型能夠完成令人驚嘆的事情，從解決高中數學問題到編寫計算機代碼，再到通過法律考試乃至創作詩歌。當人做這些事情時，我們認為這是智慧的標志。那么，當計算機做到這些時呢？表象上的智慧是否足夠？

這些問題觸及了我們所說的“人工智能”這一概念的核心，人們實際上已經為此爭論了幾十年。但隨著能夠以或令人驚悚，或令人著迷的真實模仿我們說話和寫作方式的大型語言模型的興起，圍繞 AI 的討論變得更加尖酸刻薄。

我們已經制造出了具有類人行為的機器，卻沒有擺脫想象機器背后存在類人思維的習慣。這導致對人工智能能力的過高評價；它將直覺反應固化為教條式的立場，并且加劇了技術樂觀主義者與懷疑主義者之間更廣泛的文化戰爭。

在這團不確定性的燉菜中，再加上大量的文化負擔，從我敢打賭許多行業內人士成長過程中接觸到的科幻小說，到更惡劣地影響我們思考未來的意識形態。鑒于這種令人陶醉的混合體，關于人工智能的爭論不再僅僅是學術性的（或許從來都不是）。人工智能點燃了人們的激情，使得成年人互相指責。

（來源：MIT TR）

“目前這場辯論并不處于一個智力健康的狀態，”Marcus 這樣評價道。多年來，Marcus 一直在指出深度學習的缺陷和局限性，正是這項技術將人工智能推向主流，支撐著從大型語言模型到圖像識別，再到自動駕駛汽車的一切應用。他在 2001 年出版的《代數思維》一書中提出，作為深度學習基礎的神經網絡本身無法獨立進行推理。（我們暫時略過這一點，但稍后我會回來探討像“推理”這樣的詞匯在一個句子中的重要性。）

Marcus 表示，他曾試圖與 Hinton 就大型語言模型的實際能力展開一場恰當的辯論，而 Hinton 去年公開表達了對自己參與發明的這項技術的生存恐懼。“他就是不愿意這么做，”Marcus 說，“他叫我傻瓜。”（過去在與 Hinton 談及 Marcus 時，我可以證實這一點。Hinton 去年曾告訴我：“ChatGPT 顯然比他更了解神經網絡。”）Marcus 在他撰寫的一篇名為《深度學習正遭遇瓶頸》的文章后也招致了不滿。Altman 在推特上回應稱：“給我一個平庸深度學習懷疑論者的自信吧。”

與此同時，敲響警鐘也讓 Marcus 成為了一個個人品牌，并獲得了與 Altman 并肩坐在美國參議院人工智能監督委員會面前作證的邀請。

而這正是所有這些爭論比普通網絡惡意更重要的原因。當然，這里涉及到巨大的自我和巨額的資金。但更重要的是，當行業領袖和有觀點的科學家被國家元首和立法者召集，來解釋這項技術是什么以及它能做什么（以及我們應該有多害怕）時，這些爭議就顯得尤為重要。當這項技術被嵌入到我們日常使用的軟件中，從搜索引擎到文字處理應用程序，再到手機上的助手，人工智能不會消失。但如果我們不知道自己購買的是什么，誰又是那個受騙者呢？

Stephen Cave 和 Kanta Dihal 在 2023 年出版的論文集《構想 AI》中寫道：“很難想象歷史上還有其他技術能引起這樣的辯論——一場關于它是否無處不在，或者根本不存在的辯論。對人工智能能有這樣的辯論，證明了它的神話特質。”

最重要的是，人工智能是一種觀念、一種理想，它受到世界觀和科幻元素的塑造，就如同數學和計算機科學的塑造一樣。當我們談論人工智能時，弄清楚我們在談論什么將澄清許多事情。我們可能在這些事情上無法達成一致，但就人工智能的本質達成共識將是討論人工智能應該成為什么樣子，至少是一個良好的開端。

那么，大家到底在爭什么呢？

2022 年末，就在 OpenAI 發布 ChatGPT 之后不久，一個新的梗開始在網上流傳，這個梗比任何其他方式都更能捕捉到這項技術的奇異之處。在多數版本中，一個名為“修格斯”的洛夫克拉夫特式怪物——全身觸須和眼球——舉起一個平淡無奇的笑臉表情符號，仿佛要掩飾其真實的本質。ChatGPT 在對話中的措辭表現出類似人類的親和力，但在那友好的表面之下隱藏著難以理解的復雜性乃至恐怖之處。（正如 H.P. 洛夫克拉夫特在他的 1936 年中篇小說《瘋狂山脈》中所寫：“那是一個可怕得無法形容的東西，比任何地鐵列車都要龐大——一團無定形的原生質泡狀聚合物。”）

（來源：ANTHRUPAD）

這些爭論核心在于，人工智能不僅是一個技術問題，它觸及了我們對自身認知、創造力、道德責任，乃至我們對未來的希望和恐懼的根本理解。一方看到的是人工智能帶來的無限潛能，是人類智慧的延伸，是解決復雜問題、提高生活質量的工具；另一方則擔憂它可能帶來的失業、隱私侵犯、社會不公，甚至是人類自主性和生存的威脅。ChatGPT 的出現，如同那個舉起笑臉表情的修格斯，象征著人工智能技術在提供友好交互界面的同時，也隱藏著深刻的社會、倫理和哲學挑戰。這場辯論，實質上是關于我們如何界定智能、何為人性，以及我們愿意讓技術在我們的生活中扮演何種角色的深刻反思。

多年來，流行文化中人工智能最著名的參照物之一是《終結者》，Dihal 提到。但 OpenAI 通過免費上線 ChatGPT，讓數百萬人親身經歷了一種截然不同的東西。“人工智能一直是一個非常模糊的概念，可以無限擴展以包含各種想法，”她說。但 ChatGPT 讓這些想法變得具體起來：“突然間，每個人都有了一個具體的參照物。”對于數百萬人來說，人工智能的答案現在變成了：ChatGPT。

人工智能產業正大力推銷這個微笑的面孔。想想《每日秀》最近如何通過行業領袖的言論來諷刺這種炒作。硅谷風投大佬 Marc Andreessen 說：“這有可能讓生活變得更好……我覺得這簡直就是個輕松得分的機會。”Altman 說：“我不想在這里聽起來像個烏托邦式的技術狂人，但人工智能能帶來的生活質量提升是非凡的。”Pichai 說：“人工智能是人類正在研究的最深遠的技術。比火還要深遠。”

Jon Stewart 諷刺道：“是啊，火，你吃癟吧！”

但正如這個梗所示，ChatGPT 是一個友好的面具。在其背后，是一個名為 GPT-4 的怪物，這是一個基于龐大神經網絡的大型語言模型，其攝入的文字量超過我們大多數人千輩子閱讀的總量。在持續數月、耗資數千萬美元的訓練過程中，這類模型被賦予了填充來自數百萬本書籍和互聯網相當大部分內容中句子空白的任務。它們一遍又一遍地執行這個任務。從某種意義上說，它們被訓練成超級自動補全機器。結果是生成了一個模型，它將世界上大部分書面信息轉換成了一個統計表示，即哪些詞最有可能跟隨其他詞出現，這一過程跨越了數十億計的數值。

這確實是數學——大量的數學。沒有人對此有異議。但問題在于，這只是數學嗎，還是這種復雜的數學編碼了能夠類似人類推理或概念形成的算法？

許多對這個問題持肯定態度的人相信，我們即將解鎖所謂的通用人工智能（AGI），這是一種假設中的未來技術，能在多種任務上達到人類水平。他們中的一些人甚至將目標瞄準了所謂的超級智能，即科幻小說中那種能遠超人類表現的技術。這一群體認為 AGI 將極大地改變世界——但目的是什么？這是另一個緊張點。它可能解決世界上所有問題，也可能帶來世界的末日。

（來源：X）

如今，AGI 出現在全球頂級 AI 實驗室的使命宣言中。但這個詞是在 2007 年作為一個小眾嘗試而創造出來的，旨在為當時以讀取銀行存款單上的手寫內容或推薦下一本購書為主的領域注入一些活力。其初衷是重拾最初設想的人工智能，即能做類人事務的人工智能（更多內容即將揭曉）。

Google DeepMind 聯合創始人 Shane Legg，也就是創造了這個術語的人，在去年告訴我，這其實更多是一種愿望：“我沒有特別清晰的定義。”

AGI 成為了人工智能領域最具爭議的想法。一些人將其炒作為下一個重大事件：AGI 就是人工智能，但你知道的，要好得多。其他人則聲稱這個術語太過模糊，以至于毫無意義。

“AGI 曾經是個忌諱的詞，”OpenAI 前首席科學家 Ilya Sutskever 在辭職前告訴過我。

但大型語言模型，特別是 ChatGPT，改變了一切。AGI 從忌諱之詞變成了營銷夢想。

這就引出了我認為目前最具說明性的爭議之一——這場爭議設定了辯論雙方以及其中的利害關系。

在機器中看見魔法

在 OpenAI 的大型語言模型 GPT-4 于 2023 年 3 月公開發布前幾個月，公司與微軟分享了一個預發布版本，微軟希望利用這個新模型來改造其搜索引擎 Bing。

那時，Sebastian Bubeck 正在研究 LLMs（大型語言模型）的局限性，并對它們的能力持一定程度的懷疑態度。尤其是身為華盛頓州雷德蒙德微軟研究院生成 AI 研究副總裁的 Bubeck，一直在嘗試并未能成功讓這項技術解決中學數學問題。比如：x - y = 0；x 和 y 各是多少？“我認為推理是一個瓶頸，一個障礙，”他說，“我原以為你必須做一些根本性不同的事情才能克服這個障礙。”

然后他接觸到了 GPT-4。他做的第一件事就是嘗試那些數學問題。“這個模型完美解決了問題，”他說，“坐在 2024 年的現在，當然 GPT-4 能解線性方程。但在當時，這太瘋狂了。GPT-3 做不到這一點。”

但 Bubeck 真正的頓悟時刻來自于他推動 GPT-4 去做一些全新的事情。

關于中學數學問題，它們遍布互聯網，GPT-4 可能只是記住了它們。“你如何研究一個可能已經看過人類所寫一切的模型？”Bubeck 問道。他的答案是測試 GPT-4 解決一系列他和他的同事們認為是新穎的問題。

在與微軟研究院的數學家 Ronen Eldan 一起嘗試時，Bubeck 要求 GPT-4 以詩歌的形式給出證明存在無限多質數的數學證明。

以下是 GPT-4 回應的一段：“如果我們取 S 中未在 P 中的最小數/并稱之為 p，我們可以將它加入我們的集合，你看不見嗎？/但是這個過程可以無限重復。/因此，我們的集合 P 也必定是無限的，你會同意。”

很有趣，對吧？但 Bubeck 和 Eldan 認為這遠遠不止于此。“我們在那個辦公室，”Bubeck 通過 Zoom 指著身后的房間說，“我們兩個都從椅子上摔了下來。我們無法相信自己所看到的。這太有創意了，如此與眾不同。”

微軟團隊還讓 GPT-4 生成代碼，在用 Latex（一種文字處理程序）繪制的獨角獸卡通圖片上添加一只角。Bubeck 認為這表明模型能夠閱讀現有的 Latex 代碼，理解其描繪的內容，并識別角應該加在哪里。

“有很多例子，但其中一些是推理能力的鐵證，”他說——推理能力是人類智能的關鍵構建塊。

（來源：Bubeck）

Bubeck、Eldan 及微軟的其他研究團隊成員在一篇名為《人工通用智能的火花》的論文中闡述了他們的發現，文中提到：“我們相信，GPT-4 所展示的智能標志著計算機科學領域及之外的一次真正范式轉變。”Bubeck 在網上分享該論文時，在推特上寫道：“是時候面對現實了，#AGI 的火花已被點燃。”

這篇《火花》論文迅速變得臭名昭著，同時也成為 AI 支持者的試金石。Agüera y Arcas 與 Google 前研究總監、《人工智能：現代方法》一書的合著者 Peter Norvig 共同撰寫了一篇文章，題為《人工通用智能已經到來》。該文章發表在洛杉磯智庫 Berggruen 研究所支持的雜志 Noema 上，其中援引《火花》論文作為出發點，指出：“人工通用智能（AGI)對不同的人來說意味著許多不同的事物，但它的最重要部分已經被當前一代的先進大型語言模型實現。幾十年后，它們會被公認為第一批真正的 AGI 實例。”

此后，圍繞這一議題的炒作持續膨脹。當時在 OpenAI 專注于超級智能研究的 Leopold Aschenbrenner 去年告訴我：“過去幾年里，AI 的發展速度異常迅速。我們不斷打破各種基準測試記錄，而且這種進步勢頭不減。但這只是個開始，我們將擁有超越人類的模型，比我們更聰明得多的模型。”（他聲稱因提出構建技術的安全性問題并“觸怒了一些人”，于今年 4 月被 OpenAI 解雇，并隨后在硅谷成立了投資基金。）

今年 6 月，Aschenbrenner 發布了一份長達 165 頁的宣言，稱 AI 將在“2025/2026 年”超過大學畢業生，并在本十年末實現真正意義上的超智能。然而，業內其他人對此嗤之以鼻。當 Aschenbrenner 在推特上發布圖表，展示他預計 AI 在未來幾年內如何繼續保持近年來的快速進步速度時，科技投資者 Christian Keil 反駁道，按照同樣的邏輯，他剛出生的兒子如果體重翻倍的速度保持不變，到 10 歲時將重達 7.5 萬億噸。

因此，“AGI 的火花”也成為了過度炒作的代名詞，不足為奇。“我認為他們有點得意忘形了，”Marcus 在談到微軟團隊時說，“他們像發現新大陸一樣興奮，‘嘿，我們發現了東西！這太神奇了！’但他們沒有讓科學界進行驗證。”Bender 則將《火花》論文比喻為一部“粉絲小說”。

宣稱 GPT-4 的行為顯示出 AGI 跡象不僅具有挑釁性，而且作為在其產品中使用 GPT-4 的微軟，顯然有動機夸大這項技術的能力。“這份文件是偽裝成研究的營銷噱頭，”一位科技公司的首席運營官在領英上如此評論。

一些人還批評該論文的方法論存在缺陷。其證據難以驗證，因為這些證據源自與未向 OpenAI 和微軟以外公開的 GPT-4 版本的互動。Bubeck 承認，公眾版 GPT-4 設有限制模型能力的護欄，這使得其他研究人員無法重現他的實驗。

一個團隊嘗試使用一種名為 Processing 的編程語言重新創建獨角獸示例，GPT-4 同樣能用此語言生成圖像。他們發現，公眾版 GPT-4 雖能生成一個過得去的獨角獸圖像，卻不能將該圖像旋轉 90 度。這看似微小的區別，但在聲稱繪制獨角獸的能力是 AGI 標志時，就顯得至關重要。

《火花》論文中的關鍵點，包括獨角獸的例子，是 Bubeck 及其同事認為這些都是創造性推理的真實案例。這意味著團隊必須確保這些任務或非常類似的任務未包含在 OpenAI 用于訓練其模型的龐大數據集中。否則，結果可能被解釋為 GPT-4 重復其已見過的模式，而非創新性的表現。

（來源：JUN IONEDA）

Bubeck 堅持表示，他們只給模型設置那些在網上找不到的任務。用 Latex 繪制卡通獨角獸無疑就是這樣的一個任務。但互聯網浩瀚無邊，很快就有其他研究者指出，實際上確實存在專門討論如何用 Latex 繪制動物的在線論壇。“僅供參考，我們當時知道這件事，”Bubeck 在 X 平臺上回復道，“《火花》論文中的每一個查詢都在互聯網上進行了徹底的搜索。”

（但這并未阻止外界的指責：“我要求你停止做江湖騙子，”加州大學伯克利分校的計算機科學家 Ben Recht 在推特上回擊，并指控 Bubeck“被當場抓包撒謊”。）

Bubeck 堅稱這項工作是出于好意進行的，但他和他的合著者在論文中承認，他們的方法并不嚴格，只是基于筆記本觀察而非無懈可擊的實驗。

即便如此，他并不后悔：“論文已經發表一年多，我還沒有看到有人給我一個令人信服的論證，比如說，為何獨角獸不是一個真實推理的例子。”

這并不是說他對這個重大問題能給出直接答案——盡管他的回答揭示了他希望給出的那種答案類型。“什么是 AI？”Bubeck 反問我，“我想跟你說明白，問題可以簡單，但答案可能很復雜。”

“有很多簡單的問題，我們至今仍不知道答案。而其中一些簡單的問題，卻是最深刻的，”他接著說，“我把這個問題放在同等重要的地位上，就像，生命起源于何？宇宙的起源是什么？我們從何而來？這類大大的問題。”

在機器中只見數學

Bender 成為 AI 推動者的首席對手之前，她曾作為兩篇有影響力的論文的合著者在 AI 領域留下了自己的印記。（她喜歡指出，這兩篇論文都經過了同行評審，與《火花》論文及許多備受關注的其他論文不同。）第一篇論文是與德國薩爾蘭大學的計算語言學家 Alexander Koller 共同撰寫，于 2020 年發表，名為“邁向自然語言理解（NLU）”。

“這一切對我來說開始于與計算語言學界的其他人爭論，語言模型是否真正理解任何東西，”她說。（理解，如同推理一樣，通常被認為是人類智能的基本組成部分。）

Bender 和 Koller 認為，僅在文本上訓練的模型只會學習語言的形式，而不是其意義。他們認為，意義由兩部分組成：詞匯（可能是符號或聲音）加上使用這些詞匯的原因。人們出于多種原因使用語言，比如分享信息、講笑話、調情、警告他人退后等。剝離了這一語境后，用于訓練如 GPT-4 這樣的大型語言模型（LLMs）的文本足以讓它們模仿語言的模式，使得許多由 LLM 生成的句子看起來與人類寫的句子一模一樣。然而，它們背后沒有真正的意義，沒有靈光一閃。這是一種顯著的統計學技巧，但卻完全無意識。

他們通過一個思維實驗來闡述自己的觀點。想象兩個說英語的人被困在相鄰的荒島上，有一條水下電纜讓他們能夠互相發送文字信息。現在設想一只對英語一無所知但擅長統計模式匹配的章魚纏繞上了電纜，開始監聽這些信息。章魚變得非常擅長猜測哪些詞會跟隨其他詞出現。它變得如此之好，以至于當它打斷電纜并開始回應其中一個島民的信息時，她相信自己仍在與鄰居聊天。（如果你沒注意到，這個故事中的章魚就是一個聊天機器人。）

與章魚交談的人會在一段時間內被騙，但這能持續嗎？章魚能理解通過電纜傳來的內容嗎？

（來源：JUN IONEDA）

想象一下，現在島民說她建造了一個椰子彈射器，并請章魚也建造一個并告訴她它的想法。章魚無法做到這一點。由于不了解消息中的詞匯在現實世界中的指代，它無法遵循島民的指示。也許它會猜測回復：“好的，酷主意！”島民可能會認為這意味著與她對話的人理解了她的信息。但如果真是這樣，她就是在沒有意義的地方看到了意義。最后，想象島民遭到熊的襲擊，通過電纜發出求救信號。章魚該如何處理這些詞語呢？

Bender 和 Koller 認為，這就是大型語言模型如何學習以及為什么它們受限的原因。“這個思維實驗表明，這條路不會引領我們走向一臺能理解任何事物的機器，”Bender 說。“與章魚的交易在于，我們給它提供了訓練數據，即那兩個人之間的對話，僅此而已。但是，當出現了出乎意料的情況時，它就無法應對，因為它沒有理解。”

Bender 另一篇知名的論文《隨機鸚鵡的危險》強調了一系列她和她的合著者認為制作大型語言模型的公司正在忽視的危害。這些危害包括制造模型的巨大計算成本及其對環境的影響；模型固化的種族主義、性別歧視和其他辱罵性語言；以及構建一個系統所帶來的危險，該系統可能通過“隨意拼接語言形式的序列……根據它們如何結合的概率信息，而不參考任何意義：一個隨機鸚鵡”，從而欺騙人們。

谷歌高級管理層對該論文不滿，由此引發的沖突導致 Bender 的兩位合著者 Timnit Gebru 和 Margaret Mitchell 被迫離開公司，她們在那里領導著 AI 倫理團隊。這也使得“隨機鸚鵡”成為了大型語言模型的一個流行貶義詞，并將 Bender 直接卷入了這場互罵的漩渦中。

對于 Bender 和許多志同道合的研究人員來說，底線是該領域已被煙霧和鏡子所迷惑：“我認為他們被引導去想象能夠自主思考的實體，這些實體可以為自己做出決定，并最終成為那種能夠對其決定負責的東西。”

作為始終如一的語言學家，Bender 現在甚至不愿在不加引號的情況下使用“人工智能”這個詞。“我認為它是一種讓人產生幻想的概念，讓人想象出能夠自我決策并最終為這些決策承擔責任的自主思考實體，”她告訴我。歸根結底，對她而言，這是大型科技公司的一個流行語，分散了人們對諸多相關危害的注意力。“我現在置身事中，”她說。“我關心這些問題，而過度炒作正在妨礙進展。”

非凡的證據？

Agüera y Arcas 將像 Bender 這樣的人稱為“AI 否定者”，暗示他們永遠不會接受他視為理所當然的觀點。Bender 的立場是，非凡的主張需要非凡的證據，而我們目前還沒有這樣的證據。

但有人正在尋找這些證據，在他們找到明確無疑的證據——無論是思維的火花、隨機鸚鵡還是介于兩者之間的東西——之前，他們寧愿置身事外。這可以被稱為觀望陣營。

正如在布朗大學研究神經網絡的 Ellie Pavlick 對我所說：“向某些人暗示人類智能可以通過這類機制重現，對他們來說是冒犯。”

她補充道，“人們對這個問題有著根深蒂固的信念——這幾乎感覺像是宗教信仰。另一方面，有些人則有點上帝情結。因此，對他們來說，暗示他們就是做不到也是無禮的。”

Pavlick 最終持不可知論態度。她堅持自己是一名科學家，會遵循科學的任何導向。她對那些夸張的主張翻白眼，但她相信有一些令人興奮的事情正在發生。“這就是我和 Bender 及 Koller 意見不同的地方，”她告訴我，“我認為實際上有一些火花——也許不是 AGI 級別的，但就像，里面有些東西是我們未曾預料到會發現的。”

問題在于，要找到對這些令人興奮的事物及其為何令人興奮的共識。在如此多的炒作之下，很容易變得憤世嫉俗。

當你聽取像 Bubeck 這樣的研究人員的意見時，你會發現他們似乎更為冷靜。他認為內部爭執忽視了他工作的細微差別。“同時持有不同的觀點對我來說沒有任何問題，”他說，“存在隨機鸚鵡現象，也存在推理——這是一個范圍，非常復雜。我們并沒有所有的答案。”

“我們需要一套全新的詞匯來描述正在發生的事情，”他說，“當我談論大型語言模型中的推理時，人們會反駁，原因之一是它與人類的推理方式不同。但我認為我們無法不稱之為推理，它確實是一種推理。”

盡管他的公司 Anthropic 是目前全球最炙手可熱的 AI 實驗室之一，且今年早些時候發布的 Claude 3——與 GPT-4 一樣（甚至更多）獲得了大量夸張贊譽的大型語言模型，但 Olah 在被問及如何看待 LLMs 時仍表現得相當謹慎。

“我覺得關于這些模型能力的很多討論都非常部落化，”他說，“人們有先入為主的觀念，而且任何一方的論證都沒有充分的證據支撐。然后這就變成了基于氛圍的討論，我認為互聯網上的這種基于氛圍的爭論往往會走向糟糕的方向。”

Olah 告訴我他有自己的直覺。“我的主觀印象是，這些東西在追蹤相當復雜的思想，”他說，“我們沒有一個全面的故事來解釋非常大的模型是如何工作的，但我認為我們所看到的很難與極端的‘隨機鸚鵡’形象相調和。”

這就是他的極限：“我不想超越我們現有證據所能強烈推斷出的內容。”

上個月，Anthropic 發布了一項研究的結果，研究人員給 Claude 3 做了相當于神經網絡的 MRI。通過監測模型運行時哪些部分開啟和關閉，他們識別出了在模型展示特定輸入時激活的特定神經元模式。

例如，當模型接收到金門大橋的圖像或與之相關的詞匯時，似乎就會出現一種特定的模式。研究人員發現，如果他們增強模型中這一部分的作用，Claude 就會完全沉迷于這座著名的建筑。無論你問它什么問題，它的回答都會涉及這座橋——甚至在被要求描述自己時，它也會將自己與橋聯系起來。有時它會注意到提及橋梁是不恰當的，但又忍不住會這樣做。

（來源：Claude）

Anthropic 還報告了與嘗試描述或展示抽象概念的輸入相關的模式。“我們看到了與欺騙和誠實、諂媚、安全漏洞、偏見相關的特征，”Olah 說，“我們發現了與尋求權力、操縱和背叛相關的特征。”

這些結果讓我們迄今為止最清晰地看到了大型語言模型的內部情況。這是對看似難以捉摸的人類特質的一種誘人一瞥。但它真正告訴我們什么呢？正如 Olah 所承認的，他們不知道模型如何處理這些模式。“這是一個相對有限的畫面，分析起來相當困難，”他說。

即使 Olah 不愿意具體說明他認為像 Claude 3 這樣的大型語言模型內部究竟發生了什么，顯而易見的是，這個問題對他來說為什么重要。Anthropic 以其在 AI 安全方面的工作而聞名——確保未來強大的模型會按照我們希望的方式行動，而不是以我們不希望的方式（在行業術語中稱為“對齊”）。弄清楚當今模型的工作原理，不僅是如果你想控制未來模型所必需的第一步；它也告訴你，首先你需要對末日情景擔心多少。“如果你認為模型不會有很強的能力，”Olah 說，“那么它們可能也不會很危險。”

為何我們難以達成一致

在 2014 年 BBC 對她職業生涯回顧的一次采訪中，現年 87 歲的有影響力的認知科學家 Margaret Boden 被問及她是否認為有任何限制會阻止計算機（或者她所謂的“錫罐子”）去做人類能做的事情。

“我當然不認為原則上存在這樣的限制，”她說，“因為否認這一點就意味著人類的思維是靠魔法發生的，而我不相信它是靠魔法發生的。”

但她警告說，強大的計算機本身并不足以使我們達到這一目標：AI 領域還需要“有力的想法”——關于思維如何發生的全新理論，以及可能復制這一過程的新算法。“但這些東西非常、非常困難，我沒有理由假設有一天我們能夠回答所有這些問題。或許我們能；或許我們不能。”

博登回顧了當前繁榮期的早期階段，但這種我們能否成功的搖擺不定反映了數十年來她和她的同僚們努力解決的難題，這些難題正是今天研究人員也在努力克服的。AI 作為一個雄心勃勃的目標始于大約 70 年前，而我們至今仍在爭論哪些是可實現的，哪些不是，以及我們如何知道自己是否已經實現了目標。大部分——如果不是全部的話——這些爭議歸結為一點：我們尚未很好地理解什么是智能，或者如何識別它。這個領域充滿了直覺，但沒有人能確切地說出答案。

自從人們開始認真對待 AI 這一理念以來，我們就一直卡在這個問題上。甚至在此之前，當我們消費的故事開始在集體想象中深深植入類人機器的概念時，也是如此。這些爭論的悠久歷史意味著，今天的爭論往往強化了自一開始就存在的分歧，使得人們更加難以找到共同點。

為了理解我們是如何走到這一步的，我們需要了解我們曾經走過的路。因此，讓我們深入探究AI的起源故事——這也是一個為了資金而大肆宣傳的故事。

人工智能宣傳簡史

計算機科學家 John McCarthy（約翰·麥卡錫） 在 1955 年為新罕布什爾州達特茅斯學院 (Dartmouth College)的一個暑期研究項目撰寫資助申請時，被認為提出了“人工智能”這一術語。

（來源：COURTESY OF THE MINSKY FAMILY）

計劃是讓 McCarthy 和他的幾個研究員同伴——戰后美國數學家和計算機科學家的精英群體，或如劍橋大學研究 AI 歷史以及谷歌 DeepMind 倫理與政策的研究員 Harry Law 所稱的“John McCarthy 和他的小伙伴們”——聚在一起兩個月（沒錯，是兩個月），在這個他們為自己設定的新研究挑戰上取得重大進展。

McCarthy 和他的合著者寫道：“該研究基于這樣一個假設進行：學習的每一個方面或智力的任何其他特征原則都可以被如此精確地描述，以至于可以制造一臺機器來模擬它。我們將嘗試找出如何讓機器使用語言、形成抽象概念、解決目前僅限于人類的問題，并自我改進。”

他們想讓機器做到的這些事情——Bender 稱之為“充滿憧憬的夢想”——并沒有太大改變。使用語言、形成概念和解決問題仍然是當今 AI 的定義性目標。傲慢也并未減少多少：“我們認為，如果精心挑選的一組科學家一起工作一個夏天，就能在這些問題中的一個或多個方面取得顯著進展。”他們寫道。當然，那個夏天已經延長到了七十年。至于這些問題實際上現在解決了多少，仍然是人們在網絡上爭論的話題。

然而，這段經典歷史中常被忽略的是，人工智能差點就沒有被稱為“人工智能”。

不止一位 McCarthy 的同事討厭他提出的這個術語。據歷史學家 Pamela McCorduck （帕梅拉·麥考達克）2004 年的書《思考的機器》引用，達特茅斯會議參與者及首臺跳棋電腦創造者 Arthur Samuel（亞瑟·塞繆爾） 說：“'人工'這個詞讓你覺得這里面有些虛假的東西。”數學家 Claude Shannon（克勞德·香農），達特茅斯提案的合著者，有時被譽為“信息時代之父”，更喜歡“自動機研究”這個術語。Herbert Simon（赫伯特·西蒙）和 Allen Newell（艾倫·紐厄爾），另外兩位 AI 先驅，在之后的多年里仍稱自己的工作為“復雜信息處理”。

事實上，“人工智能”只是可能概括達特茅斯小組汲取的雜亂思想的幾個標簽之一。歷史學家 Jonnie Penn 當時已確認了一些可能的替代選項，包括“工程心理學”、“應用認識論”、“神經控制論”、“非數值計算”、“神經動力學”、“高級自動編程”和“假設性自動機”。這一系列名稱揭示了他們新領域靈感來源的多樣性，涵蓋了生物學、神經科學、統計學等多個領域。另一位達特茅斯會議參與者 Marvin Minsky 曾將 AI 描述為一個“手提箱詞”，因為它能承載許多不同的解釋。

但 McCarthy 想要一個能捕捉到他愿景雄心壯志的名稱。將這個新領域稱為“人工智能”吸引了人們的注意——以及資金。別忘了：AI 既性感又酷。

除了術語，達特茅斯提案還確定了人工智能相互競爭的方法之間的分裂，這種分裂自此以后一直困擾著該領域——Law 稱之為“AI 的核心緊張關系”。

（來源：MIT TR）

McCarthy 和他的同事們想用計算機代碼描述“學習的每一個方面或其他任何智力特征”，以便機器模仿。換句話說，如果他們能弄清楚思維是如何工作的——推理的規則——并寫下來，他們就可以編程讓計算機遵循。這奠定了后來被稱為基于規則或符號 AI（現在有時被稱為 GOFAI，即“好老式的人工智能”）的基礎。但提出硬編碼規則來捕獲實際、非瑣碎問題的解決過程證明太難了。

另一條路徑則偏愛神經網絡，即試圖以統計模式自行學習這些規則的計算機程序。達特茅斯提案幾乎是以附帶的方式提到它（分別提到“神經網絡”和“神經網”）。盡管這個想法起初似乎不太有希望，但一些研究人員還是繼續在符號 AI 的同時開發神經網絡的版本。但它們真正起飛要等到幾十年后——加上大量的計算能力和互聯網上的大量數據。快進到今天，這種方法支撐了整個 AI 的繁榮。

這里的主要收獲是，就像今天的研究人員一樣，AI 的創新者們在基礎概念上爭執不休，并陷入了自我宣傳的旋渦。就連 GOFAI 團隊也飽受爭吵之苦。年近九旬的哲學家及 AI 先驅 Aaron Sloman 回憶起他在 70 年代認識的“老朋友”明斯基和麥卡錫時，兩人“強烈意見不合”：“Minsky 認為 McCarthy 關于邏輯的主張行不通，而 McCarthy 認為 Minsky 的機制無法做到邏輯所能做的。我和他們都相處得很好，但我當時在說，‘你們倆都沒搞對。’”（斯洛曼仍然認為，沒有人能解釋人類推理中直覺與邏輯的運用，但這又是另一個話題！）

隨著技術命運的起伏，“AI”一詞也隨之時興和過時。在 70 年代初，英國政府發布了一份報告，認為 AI 夢想毫無進展，不值得資助，導致這兩條研究路徑實際上都被擱置了。所有那些炒作，實質上都未帶來任何成果。研究項目被關閉，計算機科學家從他們的資助申請中抹去了“人工智能”一詞。

當我在 2008 年完成計算機科學博士學位時，系里只有一個人在研究神經網絡。Bender 也有類似的記憶：“在我上大學時，一個流傳的笑話是，AI 是我們還沒有弄清楚如何用計算機做的任何事。就像是，一旦你弄明白怎么做了，它就不再神奇，所以它就不再是 AI 了。”

但那種魔法——達特茅斯提案中概述的宏偉愿景——仍然生機勃勃，正如我們現在所見，它為 AGI（通用人工智能）夢想奠定了基礎。

好行為與壞行為

1950 年，也就是 McCarthy 開始談論人工智能的五年前，Alan Turing（艾倫·圖靈） 發表了一篇論文，提出了一個問題：機器能思考嗎？為了探討這個問題，這位著名的數學家提出了一個假設測試，即后來聞名的圖靈測試。測試設想了一個場景，其中一個人類和一臺計算機位于屏幕后，而第二個人類通過打字向他們雙方提問。如果提問者無法分辨哪些回答來自人類，哪些來自計算機，Turing 認為，可以說計算機也可以算是思考的。

與 McCarthy 團隊不同，Turing 意識到思考是一個很難描述的事情。圖靈測試是一種繞開這個問題的方法。“他基本上是在說：與其關注智能的本質，不如尋找它在世界中的表現形式。我要尋找它的影子，”Law 說。

1952 年，英國廣播公司電臺組織了一個專家小組進一步探討 Turing 的觀點。圖靈在演播室里與他的兩位曼徹斯特大學同事——數學教授 Maxwell Newman （麥克斯韋爾·紐曼）和神經外科教授 Geoffrey Jefferson（杰弗里·杰斐遜），以及劍橋大學的科學、倫理與宗教哲學家 Richard Braithwaite（理查德·布雷斯韋特）一同出席。

Braithwaite 開場說道：“思考通常被認為是人類，也許還包括其他高等動物的專長，這個問題可能看起來太荒謬了，不值得討論。但當然，這完全取決于‘思考’中包含了什么。”

小組成員圍繞 Turing 的問題展開討論，但始終未能給出確切的定義。

當他們試圖定義思考包含什么，其機制是什么時，標準一直在變動。“一旦我們能在大腦中看到因果關系的運作，我們就會認為那不是思考，而是一種缺乏想象力的苦力工作，”圖靈說道。

問題在于：當一位小組成員提出某種可能被視為思考證據的行為——比如對新想法表示憤怒——另一位成員就會指出，計算機也可以被編程來做到這一點。

（來源：MIT TR）

正如 Newman 所說，編程讓計算機打印出“我不喜歡這個新程序”是輕而易舉的。但他承認，這不過是個把戲。

Jefferson 對此表示贊同：他想要的是一臺因為不喜歡新程序而打印出“我不喜歡這個新程序”的計算機。換言之，對于 Jefferson 來說，行為本身是不夠的，引發行為的過程才是關鍵。

但 Turing 并不同意。正如他所指出的，揭示特定過程——他所說的苦力工作——并不能確切指出思考是什么。那么剩下的還有什么？

“從這個角度來看，人們可能會受到誘惑，將思考定義為我們還不理解的那些心理過程，”Turing 說，“如果這是正確的，那么制造一臺思考機器就是制造一臺能做出有趣事情的機器，而我們其實并不完全理解它是如何做到的。”

聽到人們首次探討這些想法感覺有些奇怪。“這場辯論具有預見性，”哈佛大學的認知科學家 Tomer Ullman 說，“其中的一些觀點至今仍然存在——甚至更為突出。他們似乎在反復討論的是，圖靈測試首先并且主要是一個行為主義測試。”

對 Turing 而言，智能難以定義但容易識別。他提議，智能的表現就足夠了，而沒有提及這種行為應當如何產生。

然而，大多數人被逼問時，都會憑直覺判斷何為智能，何為非智能。表現出智能有愚蠢和聰明的方式。1981 年，紐約大學的哲學家 Ned Block 表明，Turing 的提議沒有滿足這些直覺。由于它沒有說明行為的原因，圖靈測試可以通過欺騙手段（正如紐曼在 BBC 廣播中所指出的）來通過。

“一臺機器是否真的在思考或是否智能的問題，難道取決于人類審問者的易騙程度嗎？”布洛克問道。（正如計算機科學家 Mark Reidl 所評論的那樣：“圖靈測試不是為了讓 AI 通過，而是為了讓人類失敗。”）

Block 設想了一個龐大的查找表，其中人類程序員錄入了對所有可能問題的所有可能答案。向這臺機器輸入問題，它會在數據庫中查找匹配的答案并發送回來。Block 認為，任何人使用這臺機器都會認為其行為是智能的：“但實際上，這臺機器的智能水平就像一個烤面包機，”他寫道，“它展現的所有智能都是其程序員的智能。”

Block 總結道，行為是否為智能行為，取決于它是如何產生的，而非它看起來如何。Block 的“烤面包機”（后來被稱為 Blockhead）是對 Turing 提議背后假設最強有力的反例之一。

探索內在機制

圖靈測試本意并非實際衡量標準，但它對我們今天思考人工智能的方式有著深遠的影響。這一點隨著近年來大型語言模型（LLMs）的爆炸性發展變得尤為相關。這些模型以外在行為作為評判標準，具體表現為它們在一系列測試中的表現。當 OpenAI 宣布 GPT-4 時，發布了一份令人印象深刻的得分卡，詳細列出了該模型在多個高中及專業考試中的表現。幾乎沒有人討論這些模型是如何取得這些成績的。

這是因為我們不知道。如今的大型語言模型太過復雜，以至于任何人都無法確切說明其行為是如何產生的。除少數幾家開發這些模型的公司外，外部研究人員不了解其訓練數據包含什么；模型制造商也沒有分享任何細節。這使得區分什么是記憶（隨機模仿）什么是真正的智能變得困難。即便是在內部工作的研究人員，如 Olah，面對一個癡迷于橋梁的機器人時，也不知道真正發生了什么。

這就留下了一個懸而未決的問題：是的，大型語言模型建立在數學之上，但它們是否在用智能的方式運用這些數學知識呢？

爭論再次開始。

布朗大學的 Pavlick 說：“大多數人試圖從理論上推測（armchair through it），”這意味著他們在沒有觀察實際情況的情況下爭論理論。“有些人會說，‘我認為情況是這樣的，’另一些人則會說，‘嗯，我不這么認為。’我們有點陷入僵局，每個人都不滿意。”

Bender 認為這種神秘感加劇了神話的構建。（“魔術師不會解釋他們的把戲，”她說。）沒有恰當理解 LLM 語言輸出的來源，我們便傾向于依賴對人類的熟悉假設，因為這是我們唯一的真正參照點。當我們與他人交談時，我們試圖理解對方想告訴我們什么。“這個過程必然涉及想象言語背后的那個生命，”Bender 說。這就是語言的工作方式。

（來源：JUN IONEDA）

“ChatGPT 的小把戲如此令人印象深刻，以至于當我們看到這些詞從它那里冒出來時，我們會本能地做同樣的事，”她說。“它非常擅長模仿語言的形式。問題是，我們根本不擅長遇到語言的形式而不去想象它的其余部分。”

對于一些研究者來說，我們是否能理解其運作方式并不重要。Bubeck 過去研究大型語言模型是為了嘗試弄清楚它們是如何工作的，但 GPT-4 改變了他的看法。“這些問題似乎不再那么相關了，”他說。“模型太大，太復雜，以至于我們不能指望打開它并理解里面真正發生的事情。”

但 Pavlick 像 Olah 一樣，正努力做這件事。她的團隊發現，模型似乎編碼了物體之間的抽象關系，比如國家和首都之間的關系。通過研究一個大型語言模型，Pavlick 和她的同事們發現，它使用相同的編碼映射法國到巴黎，波蘭到華沙。我告訴她，這聽起來幾乎很聰明。“不，它實際上就是一個查找表，”她說。

但讓 Pavlick 感到震驚的是，與 Blockhead 不同，模型自己學會了這個查找表。換句話說，LLM 自己發現巴黎對于法國就如同華沙對于波蘭一樣。但這展示了什么？自編碼查找表而不是使用硬編碼的查找表是智能的標志嗎？我們該在哪里劃清界限？

“基本上，問題在于行為是我們唯一知道如何可靠測量的東西，” Pavlick 說。“其他任何東西都需要理論上的承諾，而人們不喜歡不得不做出理論上的承諾，因為它承載了太多含義。”

并非所有人都這樣。許多有影響力的科學家樂于做出理論上的承諾。例如，Hinton 堅持認為神經網絡是你需要的一切來重現類似人類的智能。“深度學習將能夠做一切，”他在 2020 年接受《麻省理工科技評論》采訪時說。

這是一個 Hinton 似乎從一開始就堅持的信念。Sloman 記得當 Hinton 是他實驗室的研究生時，兩人曾發生過爭執，他回憶說自己無法說服 Hinton 相信神經網絡無法學習某些人類和其他某些動物似乎直觀掌握的關鍵抽象概念，比如某事是否不可能。Sloman 說，我們可以直接看出什么時候某事被排除了。“盡管 Hinton 擁有杰出的智慧，但他似乎從未理解這一點。我不知道為什么，但有大量的神經網絡研究者都有這個盲點。”

然后是 Marcus，他對神經網絡的看法與 Hinton 截然相反。他的觀點基于他所說的科學家對大腦的發現。

Marcus 指出，大腦并不是從零開始學習的白板——它們天生帶有指導學習的固有結構和過程。他認為，這就是嬰兒能學到目前最好的神經網絡仍不能掌握的東西的原因。

“神經網絡研究者手頭有這個錘子，現在一切都變成了釘子，”Marcus 說。“他們想用學習來做所有的事，許多認知科學家會認為這不切實際且愚蠢。你不可能從零開始學習一切。”

不過，作為一名認知科學家，Marcus 對自己的觀點同樣確信。“如果真有人準確預測了當前的情況，我想我必須排在任何人名單的最前面，”他在前往歐洲演講的 Uber 后座上告訴我。“我知道這聽起來不太謙虛，但我確實有這樣一個視角，如果你試圖研究的是人工智能，這個視角就顯得非常重要。”

鑒于他對該領域公開的批評，你或許會驚訝于 Marcus 仍然相信通用人工智能（AGI）即將來臨。只是他認為當今對神經網絡的執著是個錯誤。“我們可能還需要一兩個或四個突破，”他說。“你和我可能活不到那么久，很抱歉這么說。但我認為這將在本世紀發生。也許我們有機會見證。”

炫彩之夢的力量

在以色列拉馬特甘家中通過 Zoom 通話時，Dor Skuler 背后的某個類似小臺燈的機器人隨著我們的談話時亮時滅。“你可以在我身后看到 ElliQ，”他說。Skuler 的公司 Intuition Robotics 為老年人設計這些設備，而 ElliQ 的設計——結合了亞馬遜 Alexa 的部分特征和 R2-D2 的風格——明確表明它是一臺計算機。Skuler 表示，如果有任何客戶表現出對此有所混淆的跡象，公司就會收回這款設備。

ElliQ 沒有臉，沒有任何人類的形狀。如果你問它關于體育的問題，它會開玩笑說自己沒有手眼協調能力，因為它既沒有手也沒有眼睛。“我實在不明白，為什么行業里都在努力滿足圖靈測試，” Skuler 說，“為什么為了全人類的利益，我們要研發旨在欺騙我們的技術呢？”

相反，Skuler 的公司賭注于人們可以與明確呈現為機器的機器建立關系。“就像我們有能力與狗建立真實的關系一樣，”他說，“狗給人們帶來了很多快樂，提供了陪伴。人們愛他們的狗，但他們從不把它混淆成人。”

（來源：MIT TR）

ElliQ 的用戶，很多都是八九十歲的老人，稱這個機器人為一個實體或一種存在——有時甚至是一個室友。“他們能夠為這種介于設備或電腦與有生命之物之間的關系創造一個空間，” Skuler 說。

然而，不管 ElliQ 的設計者多么努力地控制人們對這款設備的看法，他們都在與塑造了我們期望幾十年的流行文化競爭。為什么我們如此執著于類人的人工智能？“因為我們很難想象其他的可能性，” Skuler 說（在我們的對話中，他確實一直用“她”來指代 ElliQ），“而且科技行業的許多人都是科幻迷。他們試圖讓自己的夢想成真。”

有多少開發者在成長過程中認為，構建一臺智能機器是他們可能做的最酷的事情——如果不是最重要的事情？

不久之前，OpenAI 推出了新的語音控制版 ChatGPT，其聲音聽起來像 Scarlett Johansson（斯嘉麗約翰遜），之后包括 Altman 在內的許多人都指出了它與 Spike Jonze （斯派克瓊斯） 2013 年的電影《她》之間的聯系。

科幻小說共同創造了人工智能被理解為何物。正如 Cave 和 Dihal 在《想象人工智能》一書中所寫：“人工智能在成為技術現象很久以前就已經是一種文化現象了。”

關于將人類重塑為機器的故事和神話已有數百年歷史。Dihal 指出，人們對于人造人的夢想可能與他們對于飛行的夢想一樣長久。她提到，希臘神話中的著名人物戴達羅斯，除了為自己和兒子伊卡洛斯建造了一對翅膀外，還建造了一個實質上是巨型青銅機器人的塔洛斯，它會向過往的海盜投擲石頭。

“機器人”這個詞來自 robota，這是捷克劇作家 Karel ?apek 在他的 1920 年戲劇《羅素姆的萬能機器人》中創造的一個術語，意為“強制勞動”。 Isaac Asimov（艾薩克·阿西莫夫）在其科幻作品中概述的“機器人學三大法則”，禁止機器傷害人類，而在像《終結者》這樣的電影中，這些法則被反轉，成為了對現實世界技術的普遍恐懼的經典參考點。2014 年的電影《機械姬》是對圖靈測試的戲劇性演繹。去年的大片《造物主》設想了一個未來世界，在這個世界里，人工智能因引發核彈爆炸而被取締，這一事件被某些末日論者至少視為一個可能的外部風險。

Cave 和 Dihal 講述了另一部電影《超驗駭客》（2014 年），在這部電影中，由 Johnny Depp（約翰尼·德普）飾演的一位人工智能專家將自己的意識上傳到了電腦中，這一情節推動了元末日論者 Stephen Hawking（斯蒂芬·霍金）、物理學家 Max Tegmark（馬克斯·泰格馬克）以及人工智能研究員 Stuart Russell（斯圖爾特·拉塞爾）提出的敘事。在電影首映周末發表在《赫芬頓郵報》上的一篇文章中，三人寫道：“隨著好萊塢大片《超驗駭客》的上映……它帶來了關于人類未來的沖突愿景，很容易將高度智能機器的概念視為純粹的科幻小說。但這將是一個錯誤，可能是我們有史以來最大的錯誤。”

(來源：ALCON ENTERTAINMENT)

大約在同一時期，Tegmark 創立了未來生命研究所，其使命是研究和促進人工智能安全。電影中德普的搭檔 Morgan Freeman（摩根·弗里曼）是該研究所董事會成員，而曾在電影中有客串的 Elon Musk 在第一年捐贈了1000萬美元。對于 Cave 和 Dihal 來說，《超驗駭客》是流行文化、學術研究、工業生產和“億萬富翁資助的未來塑造之戰”之間多重糾葛的完美例證。

去年在 Altman 的世界巡回倫敦站，當被問及他在推特上所說“人工智能是世界一直想要的技術”是什么意思時，站在房間后面，面對著數百名聽眾，我聽到他給出了自己的起源故事：“我小時候非常緊張，讀了很多科幻小說，很多周五晚上都待在家里玩電腦。但我一直對人工智能很感興趣，我覺得那會非常酷。”他上了大學，變得富有，并見證了神經網絡變得越來越好。“這可能非常好，但也可能真的很糟糕。我們要怎么應對？”他回憶起 2015 年時的想法，“我最終創立了 OpenAI。”

為何你應該關心一群書呆子對 AI 的爭論

好的，你已經明白了：沒人能就人工智能是什么達成一致。但似乎每個人都同意的是，當前圍繞 AI 的爭論已遠遠超出了學術和科學范疇。政治和道德因素正在發揮作用，而這并沒有幫助大家減少彼此認為對方錯誤的情況。

解開這個謎團很難。當某些道德觀點涵蓋了整個人類的未來，并將其錨定在一個無人能確切定義的技術上時，要想看清正在發生什么變得尤為困難。

但我們不能就此放棄。因為無論這項技術是什么，它即將到來，除非你與世隔絕，否則你將以這樣或那樣的形式使用它。而技術的形態，以及它解決和產生的問題，都將受到你剛剛讀到的這類人的思想和動機的影響，尤其是那些擁有最大權力、最多資金和最響亮聲音的人。

這讓我想到了 TESCREALists。等等，別走！我知道，在這里引入另一個新概念似乎不公平。但要理解掌權者如何塑造他們構建的技術，以及他們如何向全球監管機構和立法者解釋這些技術，你必須真正了解他們的思維方式。

Gebru 在離開谷歌后創建了分布式人工智能研究所，以及凱斯西儲大學的哲學家和歷史學家 émile Torres（埃米爾·托雷斯），他們追蹤了幾個技術烏托邦信仰體系對硅谷的影響。二人認為，要理解 AI 當前的狀況——為什么像谷歌 DeepMind 和 OpenAI 這樣的公司正在競相構建通用人工智能（AGI），以及為什么像 Tegmark 和 Hinton 這樣的末日預言者警告即將到來的災難——必須通過托雷斯所稱的 TESCREAL 框架來審視這個領域。

這個笨拙的縮寫詞（發音為tes-cree-all）取代了一個更笨拙的標簽列表：超人類主義、外展主義、奇點主義、宇宙主義、理性主義、有效利他主義和長期主義。關于這些世界觀的許多內容（以及將會有的更多內容）已經被撰寫，所以我在這里就不贅述了。（對于任何想要深入探索的人來說，這里充滿了層層遞進的兔子洞。選擇你的領域，帶上你的探險裝備吧。）

這一系列相互重疊的思想觀念對西方科技界中某種類型的天才思維極具吸引力。一些人預見到人類的永生，其他人則預測人類將殖民星辰。共同的信條是，一種全能的技術——無論是通用人工智能（AGI）還是超級智能，選邊站隊吧——不僅觸手可及，而且不可避免。你可以在諸如 OpenAI 這樣的前沿實驗室里無處不在的拼命態度中看到這一點：如果我們不制造出 AGI，別人也會。

更重要的是，TESCREA 主義者認為 AGI 不僅能解決世界的問題，還能提升人類層次。“人工智能的發展和普及——遠非我們應該害怕的風險——是我們對自己、對子女和對未來的一種道德義務，” Andreessen 去年在一篇備受剖析的宣言中寫道。我多次被告知，AGI 是讓世界變得更美好的途徑——這是 DeepMind 的首席執行官和聯合創始人 Demis Hassabis（戴米斯·哈薩比斯）、新成立的微軟 AI 的首席執行官及 DeepMind 的另一位聯合創始人Mustafa Suleyman、Sutskever、Altman 等人告訴我的。

但正如 Andreessen 所指出的，這是一種陰陽心態。技術烏托邦的反面就是技術地獄。如果你相信自己正在建設一種強大到足以解決世界上所有問題的技術，你很可能也相信它有可能完全出錯的風險。當二月份在世界政府峰會上被問及什么讓他夜不能寐時，阿爾特曼回答說：“都是科幻小說里的東西。”

這種緊張局勢是 Hinton 在過去一年里不斷強調的。這也是 Anthropic 等公司聲稱要解決的問題，是 Sutskever 在他的新實驗室關注的焦點，也是他去年希望 OpenAI 內部特別團隊專注的，直到在公司如何平衡風險與回報上的分歧導致該團隊大多數成員離職。

當然，末日論也是宣傳的一部分。（“聲稱你創造了某種超級智能的東西有利于銷售數字，”迪哈爾說，“就像是，‘請有人阻止我這么好，這么強大吧。’”）但不論繁榮還是毀滅，這些人號稱要解決的到底是什么問題？誰的問題？我們真的應該信任他們建造的東西以及他們向我們的領導人講述的內容嗎？

Gebru 和 Torres（以及其他一些人）堅決反對：不，我們不應該。他們對這些意識形態及其可能如何影響未來技術，特別是 AI 的發展持高度批評態度。從根本上講，他們將這些世界觀中幾個以“改善”人類為共同焦點的觀念與 20 世紀的種族優生運動聯系起來。

他們認為，一個危險是，資源向這些意識形態要求的科技創新轉移，從構建 AGI 到延長壽命再到殖民其他星球，最終將以數十億非西方和非白人群體的利益為代價，使西方和白人受益。如果你的目光鎖定在幻想的未來上，很容易忽視創新的當下成本，比如勞工剝削、種族和性別偏見的根深蒂固以及環境破壞。

Bender 反思這場通往 AGI 競賽的犧牲時問道：“我們是否在試圖建造某種對我們有用工具？”如果是這樣，那是為誰建造的，我們如何測試它，它工作得有多好？“但如果我們要建造它的目的僅僅是為了能夠說我們做到了，這不是我能支持的目標。這不是值得數十億美元的目標。”

Bender 說，認識到 TESCREAL 意識形態之間的聯系讓她意識到這些辯論背后還有更多的東西。“與那些人的糾纏是——”她停頓了一下，“好吧，這里不僅僅只有學術思想。其中還捆綁著一種道德準則。”

當然，如果這樣缺乏細微差別地闡述，聽起來好像我們——作為社會，作為個人——并沒有得到最好的交易。這一切聽起來也很愚蠢。當 Gebru 去年在一次演講中描述了 TESCREAL 組合的部分內容時，她的聽眾笑了。也的確很少有人會認同自己是這些思想流派的忠實信徒，至少在極端意義上不會。

但如果我們不了解那些構建這項技術的人是如何看待它的，我們又怎么能決定我們要達成什么樣的協議呢？我們決定使用哪些應用程序，我們想向哪個聊天機器人提供個人信息，我們在社區支持哪些數據中心，我們想投票給哪些政治家？

過去常常是這樣：世界上有一個問題，我們就建造一些東西來解決它。而現在，一切都顛倒了：目標似乎是建造一臺能做所有事情的機器，跳過在找到解決方案前緩慢而艱難地識別問題的工作。

正如 Gebru 在那次演講中所說，“一臺能解決所有問題的機器：如果這都不是魔法，那它是什么呢？”

語義，語義……還是語義？

當直截了當地問及什么是人工智能時，很多人會回避這個問題。Suleyman 不是這樣。四月份，微軟 AI 的首席執行官站在 TED 的舞臺上，告訴觀眾他對六歲侄子提出同樣問題時的回答。Suleyman 解釋說，他能給出的最佳答案是，人工智能是“一種新型的數字物種”——一種如此普遍、如此強大的技術，以至于稱其為工具已不再能概括它能為我們做什么。

“按照目前的發展軌跡，我們正走向某種我們都難以描述的出現，而我們無法控制我們不理解的事物，”他說，“因此，比喻、心智模型、名稱——這些都至關重要，只有這樣我們才能在最大限度利用人工智能的同時限制其潛在的負面影響。”

（來源：MIT TR）

語言很重要！我希望從我們經歷過的曲折、轉折和情緒爆發中，這一點已經很清楚了。但我也希望你在問：是誰的語言？又是誰的負面影響？Suleyman 是一家科技巨頭的行業領導者，該公司有望從其 AI 產品中賺取數十億美元。將這些產品的背后技術描述為一種新型物種，暗示著某種前所未有的東西，它具有我們從未見過的自主性和能力。這讓我感到不安，你呢？

我無法告訴你這里是否有魔法（諷刺與否）。我也無法告訴你數學是如何實現 Bubeck 和其他許多人在這項技術中看到的（目前還沒有人能做到）。你必須自己下結論。但我可以揭示我自己的觀點。

在 2020 年寫到 GPT-3 時，我說人工智能最偉大的把戲就是說服世界它存在。我仍然這么認為：我們天生就會在表現出特定行為的事物中看到智慧，不管它是否存在。在過去幾年里，科技行業本身也找到了理由來說服我們相信人工智能的存在。這使我對接收到的許多關于這項技術的聲明持懷疑態度。

與此同時，大型語言模型讓我感到驚奇。它們究竟可以做什么以及如何做到，是我們這個時代最令人興奮的問題之一。

也許人類一直對智慧著迷——它是什么，還有什么擁有它。Pavlick 告訴我，哲學家長期以來一直在構想假設場景，來想象遇到非人類來源的智能行為意味著什么——比如說，如果一波浪沖刷海灘，當它退去時在沙灘上留下了一行字，拼湊成一首詩？

通過大型語言模型——通過它們的微笑面具——我們面臨著前所未有的思考對象。“它將這個假設的東西變得非常具體，”Pavlick 說，“我從未想過一段語言的生成是否需要智慧，因為我從未處理過來自非人類的言語。”

人工智能包含很多東西。但我不認為它是類人的。我不認為它是解決我們所有（甚至大部分）問題的答案。它不是 ChatGPT、Gemini 或 Copilot，也不是神經網絡。它是一種理念、一種愿景，一種愿望的實現。理念受到其他理念、道德、準宗教信念、世界觀、政治和直覺的影響。“人工智能”是描述一系列不同技術的有用簡略說法。但人工智能并不是單一事物；從來都不是，不管品牌標識多么頻繁地烙印在外包裝上。

“事實是，這些詞匯——智力、推理、理解等——在需要精確界定之前就已經被定義了，”Pavlick 說，“當問題變成‘模型是否理解——是或否？’時，我并不喜歡，因為，嗯，我不知道。詞語會被重新定義，概念會不斷進化。”

我認為這是對的。我們越早能后退一步，就我們不知道的事達成共識，并接受這一切尚未塵埃落定，我們就能越快地——我不知道，或許不是手牽手唱起 Kumbaya(《歡聚一堂》)，但我們可以停止互相指責。

原文鏈接：

https://www.technologyreview.com/2024/07/10/1094475/what-is-artificial-intelligence-ai-definitive-guide/