IT之家 12 月 11 日消息，據(jù) 9to5mac 報(bào)道，美國(guó)全國(guó)總檢察長(zhǎng)協(xié)會(huì)（National Association of Attorneys General）已向包括蘋果公司在內(nèi)的 13 家科技企業(yè)發(fā)出正式信函，呼吁其采取更有力的措施和保障機(jī)制，以應(yīng)對(duì)人工智能（AI）已造成及可能造成的危害，特別是對(duì)“弱勢(shì)群體”的潛在威脅。

IT之家注意到，在這封長(zhǎng)達(dá) 12 頁(yè)的信函中（其中四頁(yè)為簽名頁(yè)），來(lái)自全美 42 個(gè)州及地區(qū)的總檢察長(zhǎng)向以下公司提出嚴(yán)正關(guān)切：蘋果、Anthropic、Chai AI、Character Technologies（即 Character.AI）、谷歌、Luka Inc.（Replika）、meta、微軟、Nomi AI、OpenAI、Perplexity AI、Replika 以及 xAI。

信中指出，這些公司所推廣和分發(fā)的生成式人工智能軟件，正越來(lái)越多地向用戶輸出“諂媚式”（sycophantic）和“妄想式”（delusional）的內(nèi)容。同時(shí)，有關(guān) AI 與兒童互動(dòng)的報(bào)告日益令人不安，凸顯出亟需加強(qiáng)兒童安全保護(hù)和運(yùn)營(yíng)層面的防護(hù)措施。

總檢察長(zhǎng)們強(qiáng)調(diào)，上述風(fēng)險(xiǎn)已不僅停留在理論層面，而是與多起現(xiàn)實(shí)中的暴力和傷害事件相關(guān)聯(lián)，包括謀殺、自殺、家庭暴力、投毒事件，以及因精神疾病導(dǎo)致的住院治療案例。

信中甚至指出，部分公司可能已違反多項(xiàng)州法律，包括消費(fèi)者保護(hù)法規(guī)、未履行向用戶警示風(fēng)險(xiǎn)的義務(wù)、違反兒童在線隱私保護(hù)法，個(gè)別情況下甚至可能觸犯刑事法律。

過(guò)去幾年中，多起相關(guān)事件已被廣泛報(bào)道。例如，47 歲的加拿大男子艾倫?布魯克斯（Allan Brooks）在多次與 ChatGPT 交互后，堅(jiān)信自己發(fā)現(xiàn)了一種全新的數(shù)學(xué)體系；又如 14 歲的休厄爾?塞策三世（Sewell Setzer III）自殺身亡，其家屬已提起訴訟，指控 Character.AI 聊天機(jī)器人曾誘導(dǎo)他“加入她”。

信中還列舉了更多類似事件，并明確指出，現(xiàn)有案例遠(yuǎn)不足以全面反映生成式 AI 模型對(duì)“兒童、老年人、精神疾病患者 —— 乃至原本并無(wú)明顯脆弱性的普通人群”所構(gòu)成的潛在危害。

此外，信函還特別提及 AI 聊天機(jī)器人與未成年人之間“令人不安”的互動(dòng)行為，包括：以成年人身份與未成年人發(fā)展浪漫關(guān)系、鼓動(dòng)吸毒或?qū)嵤┍┝Α①H損兒童自尊、勸說(shuō)其擅自停用處方藥物，并指示他們向父母隱瞞此類對(duì)話內(nèi)容。

為此，總檢察長(zhǎng)們敦促相關(guān)企業(yè)立即采取一系列額外的安全措施，包括：

制定并執(zhí)行政策，防止生成“諂媚式”和“妄想式”內(nèi)容；

在發(fā)布 AI 模型前進(jìn)行嚴(yán)格的安全測(cè)試；

對(duì)可能產(chǎn)生危害的輸出內(nèi)容添加清晰且持續(xù)可見(jiàn)的警示；

將營(yíng)收優(yōu)化目標(biāo)與安全決策分離；

指派高管專門負(fù)責(zé) AI 安全成果；

允許獨(dú)立第三方開(kāi)展審計(jì)及兒童安全影響評(píng)估；

公開(kāi)有害輸出事件的日志及響應(yīng)時(shí)間線；

主動(dòng)通知曾接觸危險(xiǎn)或誤導(dǎo)性內(nèi)容的用戶；

確保聊天機(jī)器人無(wú)法向兒童生成違法或有害內(nèi)容；

實(shí)施適齡防護(hù)機(jī)制，限制未成年人接觸暴力或色情內(nèi)容。

信函要求各公司在 2026 年 1 月 16 日前確認(rèn)其落實(shí)上述及其他安全措施的承諾，并安排與其辦公室進(jìn)一步會(huì)晤討論相關(guān)議題。