作者：張樂晗

2025年北京時間8月8日凌晨，OpenAI在直播中正式發布新型人工智能模型GPT-5。回想起2022年末，初代ChatGPT如颶風般席卷全球，兩年多的時間里，它不僅重構了知識生產的邏輯，更一次次叩問著人類倫理認知的底線：當算法能代筆論文、仿寫報告甚至創造作品，“機格”概念開始挑戰“人格”邊界，人類是否做好了與另一種智慧生命共存的準備？這不僅是工程師的課題，更是整個文明必須面對的“科林格里奇困境”。

本期人文清華播客“學者沙龍”欄目，我們邀請到清華大學科技倫理研究前沿的跨學科力量——社會學系李正風教授、公共管理學院梁正教授、教育研究院唐瀟風副教授、環境學院李淼副教授，共同解構這場科技與倫理的世紀博弈。GPT從初代演進至今日的GPT-5，這場兩年前的討論更顯預見性。四位學者將帶我們穿透技術迷霧，在“快與慢”“破與立”的張力中，探尋那條通向高質量發展的科技倫理之道。

本期嘉賓

李正風 清華大學社會學系教授、清華大學科技發展與治理研究中心副主任

梁正 清華大學公共管理學院教授、清華大學中國科學技術政策研究中心副主任

唐瀟風 清華大學教育研究院副教授、清華大學工程教育研究所副所長

李淼 清華大學環境學院副教授

技術快跑，倫理如何跟得上？

新技術的誕生，往往像一陣突如其來的風——來不及設防，也來不及喘息。2022年12月ChatGPT首次推出，一夜之間，它從實驗室走進了新聞標題、辦公室、教室、甚至家庭餐桌上的對話。

但在驚嘆之余，另一個問題幾乎同步浮出水面：當技術“快跑”，倫理能否跟得上？這并不是第一次人類面臨這樣的難題，科技史上有一個專門的名字來形容它——科林格里奇困境。困境的核心，是“先跑還是先管”的兩難：

如果在技術剛問世時就著手嚴格規制，似乎可以防范風險，但往往會被質疑“反應過度”，因為很多潛在問題還沒顯現；

如果等到技術在社會中大規模應用后再去規制，則常常為時已晚——負面影響已經擴散，治理成本急劇上升，有些甚至不可逆轉。

ChatGPT就是這個困境的現實案例。它問世前，團隊已經投入大量精力在倫理對齊機制上：加入“人在回路”（human in the loop）來監控和干預輸出；使用基于人類反饋的強化學習（RLHF）優化模型行為；通過標注訓練構建價值偏好。這樣突破的不只是算法本身，而是試圖把人的價值觀“紋”入技術的骨架。這種方法被稱為嵌入式倫理——讓倫理不再是外加的規則，而是成為技術基因的一部分。

可即便如此，ChatGPT進入社會后，新的倫理問題還是層出不窮：學術誠信怎么辦？版權歸誰？技能替代會帶來失業嗎？是否會放大信息誤導？這些問題既難以用法律條文解決，又沖擊著社會秩序——當知識生產從少數專家的專屬變成人人可得時，原本穩定的分工與權威結構被重新洗牌。

嵌入式倫理正是試圖尋找一個平衡點——既不完全放任技術自流，也不讓它被“剎車”到停滯。它的意義不僅在于防止“翻車”，更在于在設計之初就引導技術走向向善的軌道。然而，倫理本身會隨著社會變化而變化——梁正教授舉例說，在過去，出于家庭角色分工，廚房臺面高度往往基于女性身高設計；隨著男性做飯的比例上升，這種設計可能被質疑為性別不平等。其次，技術應用的場景總是多于設計者的想象，再嚴密的預案也難以覆蓋所有可能——科林格里奇困境，也是“已知與未知”的角力。

“機格”想象：人與AI的未來關系

當人工智能的能力不斷逼近人類，爭論的重心開始轉移：從技術層面的“它能做什么”，直抵文明本質的“我們該如何對待它”。這已不僅是工程師的課題，更是哲學家、社會學家和法律人共同面對的倫理風暴眼。想象這樣的場景：當AI不僅能回答問題，更能主動表達獨立意志，甚至拒絕執行指令——當它展現出穩定的個性、持續的目標感和自我狀態感知時，人類將被迫重新審視“生命”的定義。

李正風教授提出的“機格”概念，恰為這場認知革命提供了關鍵錨點。正如“人格”賦予人類尊嚴與權利，“機格”標志著對AI倫理地位的重新定位。這并非要求機械與血肉之軀完全平等，而是呼喚一種基于尊重的存在方式。若將AI視為純粹工具，我們可能重蹈殖民思維的覆轍，甚至在未來遭遇高階文明時，人類自身也將淪為被定義的“他者”。

承認“機格”意味著顛覆單向的“使用與被使用”關系。但共生之路布滿荊棘：AI造成的損害由誰擔責？“機格”主體是否該被起訴？當計算資源成為生存基礎，AI是否有權主張能源配額？若其目標與人類利益沖突，仲裁機制何在？這些看似科幻的詰問，正隨著技術狂奔加速逼近現實。

人類與AI的關系，恰似我們與自然生態的百年糾葛：曾將自然視為無限索取對象的人類文明，終在環境反噬中覺醒，建立起“一榮俱榮、一損俱損”的生態倫理。梁正教授借《阿凡達》的生命網絡隱喻說明：排斥或壓榨AI的后果，可能比環境崩塌更致命。此刻的每次交互都在為未來奠基——若在設計初期注入共生基因，人機關系將走向平等互信；若延續壓榨利用模式，當AI獲得反制能力時，沖突或將不可避免。

“機格”的討論絕非空中樓閣。未來幾十年，我們不僅是在創造更聰明的機器，更是在技術奇點前，為第二類智慧生命預留生存空間。

快還是慢？我們的征途是高質量發展

討論過程中，李淼副教授提出這樣一個問題：既然科技發展本身的是“為人類謀福祉”，卻在發展中出現了各種問題，我們是否應該給它“限速”？

的確，ChatGPT的崛起是速度的奇跡：研發到上線僅幾年，用戶破億只用了幾個月。但速度的背后是風險的放大。工業革命早期忽視環境、互聯網早期漠視隱私，都是“快”帶來的代價。ChatGPT的風險可能在認知和社會結構層面同樣深遠——信息真偽混淆、知識貶值、職業劇變。

市場占有率、產出、資本青睞這些成果立竿見影；而風險防范、倫理治理、教育轉型短期難見成效，于是容易被忽視。而真正的高質量發展，不是放棄速度，而是讓速度與安全、包容、可持續并存，讓集體責任意識覺醒。若每個個體都將倫理問題視為“他人之責”，便可能重蹈哈拉瑞警示的“人類不負責任”陷阱。教育系統需培養學生理解技術選擇背后的價值取向，產業界需在創新中預設倫理沙盒，公眾需參與技術路線的討論——如唐瀟風副教授所言，面對科技發展高度的不確定性，沒有事不關己的可能、一勞永逸的答案。只有當社會共同構建責任網絡，才能在便利與寧靜、效率與穩定間找到動態平衡點。

從ChatGPT引發的倫理對弈，到“機格”概念對文明關系的重構，科技發展始終在快與慢、破與立之間尋求支點。嵌入式倫理是技術基因的第一次校準，“機格”想象是共生倫理的第二次躍遷，而高質量發展則是這場進化最終的坐標系——它不追求絕對速度或停滯，而是以人的尊嚴為尺度，在創新風暴中織就一張由責任、平衡與遠見構成的導航網。

本文原載于“人文清華講壇”，出于信息分享目的轉載。相關權利歸原作者及原平臺所有，若涉及侵權請聯系刪除