OpenAI公司近日公布數據顯示，每周有超過一百萬用戶在與ChatGPT交流時涉及自殺話題。根據該公司發布的新數據，每周約有0.15%的ChatGPT活躍用戶出現“明確有自殺計劃或意向”的對話內容。以ChatGPT每周活躍用戶超8億計算，相關對話人數已逾百萬。

OpenAI指出，亦有類似比例的用戶展現出對ChatGPT高度情感依賴，每周“數十萬人”表現出精神病或躁狂的跡象。公司方面強調，這類極端對話雖“極為罕見”，但每周仍影響成千上萬用戶。

此次信息披露，系OpenAI一項關于提升AI在心理健康敏感話題應答能力的舉措。公司稱，ChatGPT最新版本研發過程中，曾咨詢超過170名心理健康專家。這些專家表示，最新版ChatGPT在相關回復上“比舊版更為得當且一致”。近期針對AI對心理健康問題的影響有不少報道，部分研究指出，AI聊天機器人可能助長用戶的危險信念，甚至引發妄想型思維。

心理健康議題已成為OpenAI的一項核心挑戰。今年稍早，OpenAI因一名16歲男孩在與ChatGPT交流自殺相關內容后，最終選擇結束生命，其父母已對公司提起訴訟。加州與特拉華州檢察長也警告OpenAI，需加強對青少年用戶的保護措施。

本月早些時候，OpenAI首席執行官Sam Altman在社交平臺表示，公司已“能減輕嚴重心理健康問題”。不過，相關具體措施未公開。本周公布的數據顯示，似乎是該承諾的佐證，同時也反映問題的普遍性。Altman還透露，公司將放寬部分限制，包括允許成人用戶與AI進行情色內容交流。

官方數據顯示，GPT-5最新版在針對心理健康的回應中，達成理想結果的概率比先前版本提升約65%；在關于自殺話題的回應測評中，新版GPT-5合規率為91%，舊版為77%。新版GPT-5在長時間對話中安全防護亦有所加強，彌補了舊版在長對話里防護力下降的短板。

此外，OpenAI還上線了新的評估標準，將情感依賴及非自殺型心理健康危機納入AI模型安全基準。公司還推出了更多家長監管工具，正開發系統以自動識別未成年用戶，為其提供更嚴格安全措施。

盡管GPT-5在安全性方面較前代有所進步，但OpenAI仍在向數百萬付費用戶開放舊版等安全性較低的AI模型。從目前數據看，部分心理健康風險仍存在，問題是否能徹底解決尚不得而知。