大家都知道，上周差評君去WAIC上看機器人去了，但其實咱也順便看了看諾獎得主，AI教父辛頓的一個演講。

話里話外的總結一下就是，老爺子又開始擔憂了。

現(xiàn)在AI太厲害了，已經(jīng)有點控制不住了，各國得趕緊想辦法給它管管，可不能養(yǎng)虎為患。

當然很多差友估計也都知道，這也不是老爺子第一次這么說，這兩年他一直覺得自己打開了潘多拉魔盒，跟葉文潔似的，點燃了火，卻控制不了它。

該說不說，AI這玩意兒到底安不安全，會不會突然長腦子，把咱人類給一波團滅了，其實一直是這行里最前沿的話題之一，谷歌的哈薩比斯前幾天也擔憂過。

雖然每次大家一說AI要成精了，科學家們都會站出來辟謠，讓大家冷靜冷靜。但是你要較真，未來AI到底會不會有意識，毀滅人類？那他們可就不好說了，科學家里也有信的有不信的。

這里邊兒最核心，大家都公認的事其實就一個，AI現(xiàn)在確實太強了。不過咱今天想跟大家嘮的是，讓這些大佬感到恐懼的，究竟是什么。

中國現(xiàn)代有個哲學家叫趙汀陽，這人說你要討論AI安全性這塊兒，那就得話分兩頭。一個叫意識的威脅，另一個叫能力的威脅，先別把這兩件事搞混。

咱就拿辛頓這次講話來說，首先第一個前提，他覺得這人腦，跟現(xiàn)在的大語言模型（LLM）其實差不多，都一個類型。

其實這也好理解，深度學習、神經(jīng)網(wǎng)絡啥的說白了，它本來就是帶點模仿生物的樣子做的嘛。咱編輯部不少有育兒經(jīng)驗的同事也覺得，小孩剛開始學語言啥就跟訓練大模型很像很像。

所以你要這么去推理，AI這玩意他很可能也就跟小孩一樣，能發(fā)展出來自我意識，那它就也有青春期，也會叛逆啊。看過動漫的都知道，中二小孩談個對象都得毀天滅地的，萬一這AI學歪了，那不就完蛋了。

所以像這種，這就叫意識的威脅。

舉個例子，22年谷歌有個事兒鬧挺大。說是有個谷歌工程師，跟谷歌的LaMDA模型聊天，聊著聊著發(fā)現(xiàn)這東西太像人了，什么都懂，還說自己有意識，不想被關掉。于是這哥們兒就嚇到了，一封預警信交上去，結果谷歌反手把他給開了。當時就搞得一堆人說，谷歌這老小子有陰謀啊，搞智械危機啊。

然而在工程師眼中，這屬實是有點san值太低了。因為LaMDA其實跟別的模型沒啥區(qū)別，只是規(guī)模更大了，語言更流暢，所以剛開始接觸到的測試者就被嚇暈了。

但在三年后的現(xiàn)在，各家的大模型其實都比LaMDA會說話，甚至像GPT-4o啥的，還專門要測一個情商分。

至于大家覺得像人，當時有認知科學家就分析，說這是因為人類天然有擬人化的偏見，會把有人類特征的東西投射在非人實體上，這種事在視覺上其實更常見，比如這張圖。

那有朋友可能就要問了，你咋就能確定模型沒有自我意識呢，萬一這些模型其實都有意識，只不過裝的清純無害呢？

老實說，要這么問，那這問題其實沒法回答。

現(xiàn)代哲學上有一個叫哲學僵尸的概念，啥意思呢，就是假設你身邊有個偽人，跟活人一毛一樣，他也會說話，也會拉屎，下雨也知道往家走，你跟他講笑話他也跟著笑，你倆看恐怖片他也抖，但是以上這些所有動作都是它裝的，其實它沒有自我意識，內(nèi)心毫無波瀾，只是個有這種逢場作戲的條件反射的軀殼。

那么問題來了，你怎么判斷你身邊這個朋友是活人還是偽人呢？

這個思想實驗就是說，對個體而言，你其實沒法判斷對面的人是不是真有自我意識，那就更不要說AI和機器人了。

所以對于AI會不會產(chǎn)生意識的討論，說白了辯論雙方再怎么討論也是雞同鴨講眼碌碌。

用連線雜志主編，技術預言家凱文凱利的話來說，我們對意識本身幾乎一無所知，我們甚至不知道我們自己的意識是什么，所以去討論它們“有沒有”意識其實非常困難。

所以，對意識的恐懼，其實目前更多還是在哲學的層面上，也確實不好討論。那既然不用討論，辛頓這些大佬是不是就擱這兒杞人憂天呢？恰恰相反。

這咱就得說到另一邊兒，能力的威脅。

還是拿辛頓來講，老頭呢這次的第二個觀點就說，這大模型啊，他學知識學的太快了，嚇銀。

拿我們?nèi)祟惐龋瑒⒋刃赖男≌f鄉(xiāng)村教師里就寫，我們?nèi)祟愂强柯晭г诳諝饫飩鞑フ駝觼斫粨Q信息的物種，一秒的傳輸量才幾個比特，哪怕你從中專開始學說唱，完事兒你叭叭半天，信息量都趕不上百度網(wǎng)盤下載速度。

而且就算你講出來，聽的人能不能學會還兩碼事呢。不少信息都是左耳進右耳出，這咱上過學的都懂。

但是這AI它就不一樣。首先人家在電腦里，信息速度那首先海了去了，就不說在電線里跑，這次WAIC上連光通信的都有了，這你咋比。

再一個，人家學的也快。不光是人家能力進步快，一秒讀完好幾本書這種，關鍵AI這東西哪怕互相學習，它也快。

比方你有一很牛的大模型，你怎么讓小模型也學會呢？只需要蒸餾一遍，這小模型就能全掌握，變成大模型的樣子。

所以這辛頓就擔憂，那要照這么發(fā)展下去，人類不就遲早玩成了AI的玩物了？這回演講中他就說，大家搞這個是養(yǎng)老虎，別看它現(xiàn)在小，以后長大了遲早要吃人。

該說不說，辛頓這話確實有道理，聽得有點后背發(fā)涼是不。

就拿現(xiàn)在用的最多的聊天AI來說，光這玩意負面新聞就也不少了，有宣傳納粹思想的，有教唆青少年自殺的，有讓小孩子加入邪教獻祭儀式的。

再比如，《侏羅紀公園》的作者以前寫過一篇科幻小說，說是某天人類發(fā)明了一個醫(yī)用機器人，可以自己制造打印材料，制造新的機器人。但有一天出了個bug，機器人開始從環(huán)境里掠食有機物來復制，于是就把地球上所有生命（包括你我）都團滅了。

所以哪怕這AI它就算沒有意識，但就這個成長速度，未來AI跟硬件互聯(lián)還能控制機器人，那出點兒什么事，我是想都不敢想。

那看到這，可能有朋友得生氣了，聽你這么一說，合著發(fā)展AI就是個錯唄，那大家干脆學波爾布特行了。

然而你瞅瞅外邊兒，這AI大趨勢奪么火熱，就知道那肯定不是所有人都這么想的。比方說馬克·安德里森，人就覺得AI就純粹是一工具，能“給人類帶來無限繁榮”的“有史以來最好的東西”，吹上天了這一塊。

不過在凱文·凱利（KK）看來，甭管是辛頓還是馬克·安德里森，其實都沒說到點子上。

在他十年前出版的《必然》一書中認為，烏托邦和反烏托邦其實都更像是基于對未來盲目，這種盲目或許只是現(xiàn)代社會難以逃避的苦惱，因為技術的發(fā)展實在是太快了。

而真正的未來，反而是當下就能看到的、正在“形成”這種進程的產(chǎn)物（protopia）。

所以他倒是覺得，AI更像一種工具，最終發(fā)展估計就像電一樣，會成為大家生活里的一個基礎設施。那家用電還能短路起火災呢，有本事你別用啊。

照他的意思，它不是來取代人類的，是來增強人類的。AI下棋軟件的出現(xiàn)，并沒有讓國際象棋完蛋。反而是在這些超強軟件的幫助下，下棋的人數(shù)、比賽的數(shù)量、棋手的水平，全都達到了歷史最高，棋力碾壓古人。

這么想，未來一定是人和AI融合的，就像我們離不開手機一樣。

圖源Bilibili: 野路子梗畫師

其實說白了，任何大有作為的新發(fā)明都會有反對者，而且作為越大，反對聲也越大。 現(xiàn)在大家對AI的恐慌，研究技術奇點帶來會毀滅還是狂歡，這場面倒特像50年前大家討論互聯(lián)網(wǎng)。

1994 年,《時代周刊》認為互聯(lián)網(wǎng)“并非為商業(yè)設計,也不能優(yōu)雅地容忍新用戶”，所以永遠不會成為主流。。。

1995年2月,《新聞周刊》在標題里更是直接開大，互聯(lián)網(wǎng)？我呸！(Internet ? Bah!)。這文章還認為在線購物和網(wǎng)絡社區(qū)有違常識，都是不切實際的幻想，覺得在線數(shù)據(jù)庫不會取代報紙。

你瞅瞅這臉打的。

不過雖然凱文·凱利認為AI的重要性不亞于火、印刷術和工業(yè)革命，然而他也說，100年后估計AI會真的有大眾理解的那種意識，而且會是與人類完全不同的模式，他稱之為異人意識(alien consciousness)。

實際上，甚至在互聯(lián)網(wǎng)尚未起步的時代，科幻作家和哲學家們就已經(jīng)開始擔憂機械智能毀滅人類了，比如戰(zhàn)錘40k里的鐵人叛亂。

用哲學家趙汀陽的話說，以前的技術革命，只是理性的技術升級，但人工智能和基因編輯不僅僅是技術革命，而且是存在論水平上的革命，技術的無限進步也許是一場不可信任的賭博。

不過要我說，無論是覺得有沒有意識，啥樣的意識，還是認為AI是養(yǎng)老虎或者新電力，我覺得咱還是得從務實的角度來看。

目前大多數(shù)人都同意一件事是，這玩意的力量確實超乎人類想象，那就絕不能放任自流，該管還得管。這就好比核能。核裂變可以發(fā)電，但核武器的威脅一天都沒離開過我們，上個月美國還為這事飛B2呢。

大國之間既然可以通過協(xié)商，制訂條約來限制核武器，那在AI這塊兒其實也一樣。人類需要一起坐下來，給它訂一個防火墻，來防止那個可能發(fā)生在100年后的危機。

比方說馬斯克就老琢磨，AI這玩意兒以后估計要都集中在幾個巨頭手里，那萬一哪家AI叛變了，剩下的也夠嗆打得過。所以他要去搞開源的OpenAI，覺得人人有槍那它就不亂，提出一些美國方案。

這方案好不好咱先不說，但這說明，大家已經(jīng)開始認真思考如何建墻的問題了。

所以在我看來，AI這事兒，你要說它是天網(wǎng)降臨那有點過，要說天下太平也不至于。

就像KK說的，我們現(xiàn)在就像站在1984年，看著一堆剛剛注冊的.com域名一樣，一臉懵逼又滿心激動。本世紀前半葉最偉大的事物已經(jīng)出現(xiàn)在我們面前，只不過那些奇跡般的發(fā)明，都在等著人類用卓識遠見和智慧來采摘那些累累果實。

技術爆炸的未來注定是一場冒險，而我們，全人類，都是這未來的一份子。

撰文：納西

編輯：江江 & 面線

美編：萱萱

圖片、資料

《必然》，電子工業(yè)出版社

《獵物》，譯林出版社

《5000天后的世界》，中信出版社

《智能與智慧——人工智能遇見中國哲學家》，中信出版社

李建忠對話 KK 凱文·凱利《AI 的進化和顛覆》實錄

趙汀陽：技術的無限進步也許是一場不可信任的賭博

Marc Andreessen：Why AI Will Save the World

Lex Fridman：Demis Hassabis: Future of AI, Simulating Reality, Physics and Video Games

科學網(wǎng)，theRegister，鈦媒體等，部分圖源網(wǎng)絡