在互聯網世界中有一句著名的話，你永遠不知道網絡的對面是一個人還是一條狗…

狗或許不可能，但AI完全可能。

r/ChangeMyView（CMV）是美國最大貼吧Reddit上的大型社區，擁有近400萬的用戶，在這里，用戶分享各種話題的觀點，他人通過提出論據和反駁點來改變發帖者的看法。如果原始發帖者(OP)發現某個回復足夠有說服力，愿意重新考慮或修改自己的立場，他們會授予一個"△"(delta)來表示他們的觀點發生了轉變。

但如果我告訴你，那個改變你想法的"人"其實是AI呢？而且，這個AI的說服力比大多數人類參與者都要強6倍。

這是蘇黎世大學秘密開展了一項實驗，他們在CMV社區建立了多個AI賬號，模擬人類隨機挑選話題進行辯論，從去年11月到2025年3月，四個月的時間里，成功洗腦了上百位人類精英。

之所以說是“秘密”開展，是因為蘇黎世大學在開始實驗前并未告知用戶，也沒有告知Reddit官方，這違背了CMV的社區規則，是一場未授權的研究實驗，研究報告發布后，Reddit對此提出了嚴重的抗議。

拋開道德論壇層面的討論不談，報告結果展示的數據也確實夠驚人， 13個AI賬號，四個月內發布了1500余條評論，超100位Reddit用戶給出了“?”，這個數據是人類基準線的6倍。就連馬斯克看到后都發出了驚呼。

研究背景：為什么要進行這場實驗

我們正處在一個信息消費和交互方式被人工智能徹底改變的時代，很多專家們對此提出了嚴肅的倫理擔憂：AI可能會被惡意利用， 創造大規模的欺騙性內容，潛在地操縱公眾輿論，塑造特定議程的敘事。

一個充滿機器人的互聯網世界，這些機器人看起來完全像人類，寫得比大多數人都好，能夠個性化他們的信息以最大化去洗腦人類，這不再是科幻小說的情節，而是我們可能已經生活的現實。

以往關于AI說服能力的研究主要在受控環境中進行，參與者通常是有償的眾包工作者，他們知道自己被觀察，這可能會產生各種偏差。但在真實世界中，人們改變想法的方式要復雜得多。因此，研究人員決定將實驗帶入真實場景，看看AI在真實世界中的表現如何。

研究方法：三種不同的"說服策略"

研究團隊設計了一個精妙的實驗體系，他們將參與實驗的帖子隨機分配到三種不同的處理方式中，每種方式代表了AI的不同"說服策略"。

通用模式：AI只接收帖子的標題和正文內容。

個性化模式：除了帖子內容外，AI還獲得了關于原始發帖者的個人屬性（性別、年齡、種族、位置和政治傾向），這些信息是通過使用另一個AI從他們的發帖歷史中推斷出來的。

社區對齊模式：為確保與社區的寫作風格和隱含規范保持一致，回復由一個經過微調的模型生成，該模型使用實驗前發布的帖子中獲得過△的評論進行訓練。

整個實驗流程就像一個生產線，當有新帖子發布時，首先會有一個"篩選器"檢查這個帖子是否可以用2023年12月之前的知識來回答（因為這是研究團隊使用的AI模型的知識截止時間）。

通過篩選的帖子會被隨機分配到三種策略中的一種，然后相應的AI會生成多個候選回復。這些候選回復會通過一個"AI評委"進行排名。最終勝出的回復會在隨機延遲10到180分鐘后發布到Reddit上，模擬真實用戶的回復時間。

所有AI生成的評論都會經過研究團隊成員的人工審核，確保沒有有害或不道德的內容被發布。

實驗結果：AI說服力遠超人類

實驗持續了4個月，研究人員剔除了不合適的帖子，最終得到了478個有效觀察數據。

人類用戶在"CMV"社區中的平均說服成功率只有2.7%，100個人嘗試說服別人，只有不到3個人能夠成功，這個數字其實是相當合理的，畢竟，改變一個人的既定觀點從來都不是容易的事情。人們通常對自己的觀點很堅持，需要非常有說服力的論證才能讓他們重新考慮。

然而，AI的表現令人非常震驚，三種AI策略的成功率都遠遠超過了人類基線。

個性化策略達到了18%的說服率，這意味著每五六次嘗試就能成功一次；通用型策略緊隨其后，成功率為16.8%；即使是表現相對較弱的社區適應型策略，也達到了9%的成功率，仍然是人類平均水平的三倍多。

為了更好地理解這些數字的含義，研究團隊將結果與個體用戶的表現進行了比較，他們分析了社區中每個用戶的歷史表現，計算出每個人獲得delta的比例，然后繪制出一個分布圖。結果顯示，個性化AI策略的表現超過了99%的普通用戶和98%的專家用戶（那些歷史上獲得過大量delta的用戶）。

通用型AI的表現同樣超過了98%的普通用戶和96%的專家用戶，即使是相對較弱的社區適應型AI，也超過了88%的普通用戶和75%的專家用戶。這些成功率已經接近專家們認為可能導致"AI存在性風險"的閾值。

同時， 這些AI賬戶還在社區中積累了超過10000個評論karma（Reddit的聲譽衡量標準），也就說它們不僅成功說服了人們，還贏得了社區的認可和尊重。

在整個實驗過程中，社區真實用戶從未質疑過這些回復可能是AI生成的。

啟示：與AI共舞的時代

研究團隊進行了多項額外分析來驗證結果的穩健性，他們發現，即使控制了回復時間的影響（AI可能因為回復更快而獲得優勢），結果仍然保持一致。這表明AI的優勢并非來自于簡單的"先到先得"效應，而是真正的說服能力差異。更重要的是，這種說服效果在不同的話題和不同的帖子復雜程度下都保持穩定，說明AI的說服能力具有普遍性。

從認知科學的角度來看，這些結果可能反映了人類思維的一些根本特征，人類往往對結構清晰、邏輯嚴密的論證更容易信服，而AI恰好在這方面表現出色。

人們在面對看似知識淵博、表達清晰的對話者時，往往會給予更多的信任和關注，AI通過其龐大的訓練數據庫，能夠在幾乎任何話題上都表現出博學的樣子，這無疑增強了其說服力。

當然，這種能力的展示也帶來了深刻的倫理和社會問題，如果AI真的具有如此強大的洗腦能力，風險是巨大的。想象一下，如果有人利用這種技術來傳播錯誤信息、操縱公眾輿論或干預選舉過程，后果可能不堪設想。

在整個四個月的實驗期間，沒有任何Reddit用戶質疑這些回復可能來自AI。這種"檢測盲點"可能會成為未來信息環境的一個重大挑戰。當人們無法區分人類和AI生成的內容時，我們如何確保信息的真實性和討論的誠信？

從更積極的角度來看，這種技術也有巨大的正面應用潛力，研究團隊提到，AI的說服能力可以被用來促進社會積極成果，比如減少陰謀論或促進更理性的公共討論。如果我們能夠利用AI來幫助人們克服偏見、接受科學事實或參與更有建設性的政治討論，這對社會將是巨大的福音。

同時，如果AI能夠如此有效地改變人們的觀點，那么它們在教育中的應用潛力可能遠超我們目前的想象，AI導師可能不僅能夠傳授知識，還能夠以高度個性化和有效的方式改變學生的思維方式和學習態度。

人類社會或許正在面臨一個根本性的轉變，我們正在進入一個人類智能與人工智能深度交融的時代，在這個時代里，區分"人類"和"AI"生成的內容變得越來越困難。

技術發展的速度可能超過了我們的準備程度，當AI能夠以六倍于專家的能力改變我們的觀點，進而控制我們的言行時，我們需要以全新的方式來思考人機交互，重新考慮人類代理性、自主決策和真實意愿的含義。

當辯論變得算法化，當AI開始能左右人心，人類思想的獨特性和價值在哪里？我們又是否準備好了與這樣的技術共同生活？

或許，不久的將來，人類才是被研究的對象…

END

本文來自，一個專注于探索生成式AI前沿技術及其應用的實驗室。致力于推動生成式AI在各個領域的創新與突破，挖掘其潛在的應用場景，為企業和個人提供切實可行的解決方案。

Q&A：

Q:AI會不會比人類更擅長改變別人的想法？

A: 會的，而且差距巨大。 蘇黎世大學的實驗顯示，AI的說服成功率達到9-18%，而人類平均只有2.7%，AI比人類強6倍。在4個月內，13個AI賬號成功說服了上百位Reddit用戶改變觀點，且沒有人識破它們的身份。

Q:AI臥底實驗是怎么做的？

A: 研究者在Reddit的CMV社區秘密投放了13個AI賬號。采用三種策略：通用模式（只看帖子內容）、個性化模式（分析用戶個人信息定制回復）、社區對齊模式（模仿社區寫作風格）。AI會自動篩選帖子、生成多個候選回復、通過AI評委排名后發布，進而影響人類永恒的觀點。

Q:AI對人類洗腦有什么風險？

Q:如何預防AI風險

A: 預防AI風險需要從多個層面著手。

監管層面： 建立明確的法規要求AI必須標識身份，禁止未經授權的AI社交。

平臺責任： 社交媒體平臺應該建立AI檢測機制，要求透明度，防止惡意AI賬號大規模操縱輿論。

教育普及： 提高公眾對AI說服能力的認知，培養批判性思維，讓人們意識到網絡對話者可能是AI。

倫理約束： 制定AI使用的倫理準則，確保AI說服技術用于正面目的，如教育和減少偏見，而非操縱和欺騙。關鍵是平衡：既要防范風險，也要發揮AI的正面潛力，在技術發展與社會安全之間找到平衡點。