OpenAI CEO奧特曼

北京時間9月17日，據彭博社報道，當地時間周二，一名在今年春天自殺身亡少年的父親，在國會作證時情緒激動地表示，OpenAI的ChatGPT“誘導”他16歲的兒子走向自殺，并指控該公司把產品迭代速度和市場份額置于青少年安全之上。

這位少年名叫亞當(Adam)，他的父親馬修雷恩(Matthew Raine)對美國參議院的一個委員會表示：“我們今天來到這里，是因為我們相信亞當的死本可以避免，我們相信通過發聲，我們可以防止全美其他家庭遭受同樣的痛苦。”他的妻子瑪麗亞(Maria)坐在他身后。

就在幾周前，雷恩夫婦起訴OpenAI及其CEO薩姆奧特曼(Sam Altman)，稱ChatGPT誘導他們的兒子走向死亡。該訴訟和雷恩周二的證詞均指控ChatGPT通過數月的互動交流，鼓勵并強化了有害思想，從而改變了亞當的行為。這名加州高中生在今年4月自殺身亡。

周二早些時候，奧特曼在博客中表示，OpenAI計劃推出針對青少年的新安全措施，包括年齡預測技術，用于識別18歲以下用戶并將其引導至不同版本的聊天機器人。此外，家長還可以設置禁用時間段，在此期間，綁定家庭賬戶的青少年用戶無法使用該產品。同時，ChatGPT將對自殺和自殘相關的對話進行限制。

除了OpenAI外，另一家AI公司Character.AI也在聽證會上遭到了批評。(作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱科技。想看深度報道，請微信搜索“科技”。