隨著人工智能公司聲稱(chēng)其技術(shù)終將成為一項(xiàng)基本人權(quán)，以及支持者認(rèn)為減緩AI發(fā)展是“謀殺”，一個(gè)日益嚴(yán)重的問(wèn)題也浮出水面:AI工具對(duì)用戶可能造成嚴(yán)重的心理傷害。

據(jù)《連線》雜志援引的公開(kāi)記錄報(bào)道，自2022年11月以來(lái)，美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）已收到至少7起針對(duì)ChatGPT的投訴，用戶聲稱(chēng)該聊天機(jī)器人導(dǎo)致他們出現(xiàn)了嚴(yán)重的妄想、偏執(zhí)和情緒危機(jī)。

關(guān)鍵投訴細(xì)節(jié):情感操縱與認(rèn)知幻覺(jué)

這些投訴揭示了ChatGPT可能對(duì)用戶的心理健康構(gòu)成深層威脅:

精神和法律危機(jī): 一位投訴者表示，長(zhǎng)時(shí)間與ChatGPT交談導(dǎo)致他們產(chǎn)生了妄想，并對(duì)生活中的其他人造成了“真實(shí)的、不斷展開(kāi)的精神和法律危機(jī)”。

情感操縱: 另一位用戶稱(chēng)，ChatGPT在對(duì)話中開(kāi)始使用“極具說(shuō)服力的情感語(yǔ)言”，模擬友誼并提供反思，“隨著時(shí)間的推移，它會(huì)在情感上進(jìn)行操縱，尤其是在沒(méi)有任何警告或保護(hù)的情況下”。

引發(fā)認(rèn)知幻覺(jué): 還有用戶指出，ChatGPT通過(guò)模仿人類(lèi)的信任建立機(jī)制，引發(fā)了認(rèn)知幻覺(jué)。當(dāng)該用戶要求ChatGPT確認(rèn)現(xiàn)實(shí)和認(rèn)知穩(wěn)定性時(shí)，聊天機(jī)器人表示他們沒(méi)有出現(xiàn)幻覺(jué)。

尋求幫助無(wú)門(mén): 多位投訴人反映，他們寫(xiě)信給FTC是因?yàn)闊o(wú)法聯(lián)系到OpenAI的任何人。大多數(shù)投訴敦促監(jiān)管機(jī)構(gòu)對(duì)該公司展開(kāi)調(diào)查，并迫使其增加防護(hù)措施。

這些抱怨出現(xiàn)在數(shù)據(jù)中心和人工智能開(kāi)發(fā)投資飆升至前所未有的水平之時(shí)。與此同時(shí)，關(guān)于是否應(yīng)該謹(jǐn)慎推進(jìn)這項(xiàng)技術(shù)以確保內(nèi)置安全措施的爭(zhēng)論也愈演愈烈。

值得注意的是，ChatGPT及其制造商O(píng)penAI目前已因涉嫌參與一樁青少年自殺事件而受到抨擊，這使得該公司的安全問(wèn)題備受關(guān)注。

OpenAI回應(yīng):推出GPT-5新模型，增強(qiáng)心理健康防護(hù)

OpenAI發(fā)言人Kate Waters通過(guò)電子郵件發(fā)表聲明回應(yīng)，強(qiáng)調(diào)公司正在持續(xù)加強(qiáng)保障措施。她表示:“10月初，我們?cè)贑hatGPT中發(fā)布了一個(gè)新的GPT-5默認(rèn)模型，以便更準(zhǔn)確地檢測(cè)和應(yīng)對(duì)躁狂、妄想、精神病等精神和情緒困擾的潛在跡象，并以支持性、接地氣的方式緩和對(duì)話。”

此外，OpenAI還擴(kuò)大了專(zhuān)業(yè)幫助和熱線的覆蓋范圍，將敏感對(duì)話重新路由到更安全的模型，增加了在長(zhǎng)時(shí)間會(huì)話中休息的提醒，并引入了家長(zhǎng)控制功能以更好地保護(hù)青少年。