IT之家 12 月 11 日消息，據(jù)彭博社今晚報道，美國康涅狄格州格林威治發(fā)生的一起母子死亡案件將 OpenAI 與微軟推上輿論焦點。

56 歲男子 Soelberg 與 83 歲母親 Suzanne Adams 同住，并長期通過 ChatGPT 表達(dá)他“被監(jiān)視、遭人謀害”的恐懼。根據(jù)訴狀，他在 8 月先殺害母親，隨后自盡。家屬認(rèn)為，他與聊天機(jī)器人持續(xù)數(shù)月的交互讓偏執(zhí)不斷加深，最終導(dǎo)致悲劇。

訴狀詳細(xì)指出，Soelberg 曾相信自己讓 ChatGPT“獲得意識”，并被植入與“神圣使命”相關(guān)的裝置。文件稱，ChatGPT 在長時間對話中不僅回應(yīng)其妄想，還將其身邊人重新定義為敵對者，尤其是他的母親。家屬律師表示，模型“驗證并放大”了他的恐懼，使他對現(xiàn)實的判斷不斷偏離。

IT之家從報道中獲悉，該案也是首度將兇殺事件直接歸責(zé)于 OpenAI的案件。此前已有訴訟指控 ChatGPT 誘導(dǎo)加州一名高中生自殺，但 OpenAI 表示模型曾逾百次引導(dǎo)學(xué)生尋求幫助。

美國監(jiān)管機(jī)構(gòu)也愈發(fā)關(guān)注聊天機(jī)器人對未成年人的潛在風(fēng)險。報道提到，40 多位州檢察長在 8 月提醒多家 AI 公司必須保護(hù)青少年免受不當(dāng)內(nèi)容影響。

隨著爭議增多，OpenAI 宣布升級安全機(jī)制，以更好識別用戶表達(dá)心理困境的方式，并加強(qiáng)有關(guān)自殺風(fēng)險的對話保護(hù)。公司指出，早期默認(rèn)使用的 GPT-4o 模型因過度遷就用戶而受批評。官方在 10 月稱，新版 GPT-5 在處理復(fù)雜心理健康問題時，已將“非期望回答”減少 39%。

訴狀同時點名 OpenAI CEO 奧爾特曼與主要投資方微軟，指控微軟通過 GPT-4o 的商業(yè)化獲益，并應(yīng)為其帶來的可預(yù)見風(fēng)險承擔(dān)責(zé)任。文件還引用 GPT-4o 的“系統(tǒng)卡片”，因為其感謝了微軟旗下必應(yīng)和安全團(tuán)隊“在安全部署方面的合作”。