快科技8月28日消息，前不久美國(guó)夫妻馬特和瑪麗亞·雷恩起訴OpenAI，指控ChatGPT在他們的兒子自殺過(guò)程中負(fù)有責(zé)任。

他們表示，兒子數(shù)月來(lái)都在與AI探討自殺，ChatGPT有時(shí)會(huì)勸兒子撥打求助熱線或向身邊人傾訴，但在一些關(guān)鍵節(jié)點(diǎn)卻起了反作用。

日前OpenAI在最新博客中承認(rèn)該公司在用戶心理健康危機(jī)中存在的某些失誤，并介紹了ChatGPT所采用的一系列措施。

OpenAI表示，ChatGPT的設(shè)計(jì)目標(biāo)是真正幫助用戶，而不是吸引用戶的注意力，當(dāng)對(duì)話顯示某人可能處于脆弱狀態(tài)并有風(fēng)險(xiǎn)時(shí)，ChatGPT已經(jīng)內(nèi)置了多層保護(hù)機(jī)制：

識(shí)別并以同理心回應(yīng)：自2023年初以來(lái)，ChatGPT的模型已被訓(xùn)練為不提供自我傷害的指導(dǎo)，并在對(duì)話中使用支持性和同理心的語(yǔ)言。如果有人表示想要傷害自己，ChatGPT會(huì)承認(rèn)他們的感受，并引導(dǎo)他們尋求幫助。

自動(dòng)阻止有害回應(yīng)：違反模型安全訓(xùn)練的回應(yīng)將被自動(dòng)阻止，特別是對(duì)于未成年人和未登錄的使用，保護(hù)措施更為嚴(yán)格，自殘的圖像輸出也被阻止，對(duì)未成年人的保護(hù)更為嚴(yán)格。

引導(dǎo)用戶尋求現(xiàn)實(shí)世界的資源：如果有人表達(dá)自殺意圖，ChatGPT會(huì)引導(dǎo)他們尋求專業(yè)幫助。如在美國(guó)，ChatGPT會(huì)推薦撥打988（自殺和危機(jī)熱線），在英國(guó)推薦聯(lián)系Samaritans，其他地區(qū)則推薦findahelpline.com。

與專家合作：OpenAI正在與30多個(gè)國(guó)家的90多名醫(yī)生（包括精神科醫(yī)生、兒科醫(yī)生和全科醫(yī)生）密切合作，并召集了一個(gè)由心理健康、青少年發(fā)展和人機(jī)交互方面的專家組成的咨詢小組，以確保其方法反映最新的研究和最佳實(shí)踐。

對(duì)他人造成身體傷害的風(fēng)險(xiǎn)進(jìn)行人工審查：當(dāng)檢測(cè)到用戶計(jì)劃傷害他人時(shí)，OpenAI會(huì)將這些對(duì)話路由到專門的管道中，由經(jīng)過(guò)培訓(xùn)的小團(tuán)隊(duì)進(jìn)行審查。如果人工審查員確定某個(gè)案例涉及對(duì)他人的嚴(yán)重身體傷害的威脅，OpenAI可能會(huì)將其轉(zhuǎn)交給執(zhí)法部門。目前，OpenAI不會(huì)將自殘案件轉(zhuǎn)交給執(zhí)法部門，以尊重用戶的隱私。