據美聯社報道，當地時間9月11日，美國聯邦貿易委員會(FTC)宣布已對多家社交媒體和人工智能公司展開調查，關注其AI聊天機器人可能對兒童和青少年造成的負面影響。

FTC表示，已向谷歌母公司 Alphabet、Facebook 及 Instagram 母公司 meta Platforms、Snap、Character Technologies Inc.(Character.Al的開發商)、ChatGPT 制造商 OpenAI 以及 xAI 發出函件。希望了解這些公司是否已采取措施評估其聊天機器人作為伴侶時的安全性，以限制兒童和青少年的使用這些產品及其潛在的負面影響，并向用戶和家長通報與聊天機器人相關的風險。

FTC宣布展開調查行動后，meta 拒絕對調查發表評論，Alphabet、Snap、OpenAI 和 xAI 也尚未立即回應置評請求。

Character.AI 表示，期待與 FTC 就此次調查展開合作，并為消費者人工智能行業及其快速發展的技術領域提供專業見解。公司強調：“作為初創企業，我們在信任與安全領域投入了大量資源。過去一年間，我們推出了多項實質性安全功能，包括全新的未成年人專屬體驗模式和家長洞察功能。所有聊天界面均設有醒目標注，提醒用戶：虛擬角色并非真實人物，其所有言論均應視為虛構內容。”

本月初，OpenAI 和 meta 宣布已對其聊天機器人在青少年提出自殺問題或表現出精神和情緒痛苦跡象時的反應方式進行了調整。

OpenAI 表示，正在推出新的控制措施，使父母能夠將他們的賬戶與青少年的賬戶連接起來。根據該公司的一篇博客文章，父母可以選擇禁用一些功能，并在系統檢測到他們的孩子處于極度痛苦時收到通知。相關調整預計將在今年秋季生效。

meta指出，當前正在阻止其聊天機器人與青少年談論自殘、自殺、飲食失調和不恰當的戀愛對話，并引導他們訪問專業資源，也已經在青少年賬戶上提供了家長控制功能。