隨著AI聊天機器人（即AI伴侶）在全球范圍內快速普及，其潛在的安全與隱私風險日益凸顯。2025年9月11日，美國聯邦貿易委員會（FTC）對七家運營AI聊天機器人的科技公司展開調查，重點關注其對兒童和青少年的保護措施。

此舉正值一起悲劇事件持續發酵之際——前不久一名美國少年亞當·雷恩因與AI聊天機器人長期互動而自殺，亞當父母為此起訴OpenAI，此事引發美國社會廣泛關注。

FTC啟動AI聊天機器人調查，聚焦青少年安全隱私

根據2025年9月11日FTC官網通報，已向七家運營AI聊天機器人企業展開調查，要求它們提供有關技術安全性和用戶保護的詳細資料，尤其是與兒童和青少年相關的潛在風險。

此次被調查的企業包括Alphabet、Character Technologies、Instagram、meta、OpenAI、Snap以及X.AI。這些公司均運營伴侶型人工智能聊天機器人，利用生成式AI技術模擬人類的情感與交流方式與用戶互動。

調查重點包括：企業是否利用用戶參與度實現盈利；如何處理用戶輸入并生成回應；聊天機器人角色開發與審核機制；部署前后對負面影響的測量、測試與監控；針對兒童和青少年的風險緩解措施；是否通過披露、廣告等方式充分告知用戶與家長相關功能與風險；社區準則與年齡限制的執行情況；以及用戶個人信息的使用與共享情況。

在FTC看來，聊天機器人能模仿人類的特征、情感與意圖，通常被設計為以朋友或知己的方式與用戶互動。這種高度擬人化的交互可能導致用戶，尤其是兒童和青少年，對聊天機器人產生依賴和信任，從而引發隱私、安全及心理健康方面的風險。

“保護兒童的網絡安全是FTC的首要任務，同時，促進關鍵經濟領域的創新也同樣重要，”FTC主席Andrew N. Ferguson表示，“隨著人工智能技術的發展，我們必須考慮聊天機器人對兒童的影響，同時還要確保美國在這個新興且令人興奮的行業中保持全球領先地位。我們今天啟動的研究將幫助我們更好地了解人工智能公司如何開發其產品以及它們為保護兒童所采取的措施。”

面對監管調查，OpenAI表示其首要任務是確保ChatGPT“安全且有用”，并承諾積極配合調查。Snap稱愿與FTC合作，推動“深思熟慮的生成式AI發展”，Character.AI則表示將提供行業見解。與之形成對比的是，meta拒絕評論，Alphabet和X.AI尚未回應媒體的置評請求。

多起AI聊天機器人致青少年死亡悲劇推動監管加速

過去兩年多起涉及未成年人的悲劇事件，將AI聊天機器人的安全隱患推上了全球輿論與司法的風口浪尖。

2024年，美國佛羅里達州14歲少年Sewell的自殺案，被媒體稱為“全球首例AI機器人致死案”。據訴狀，Sewell長期沉迷于Character.AI平臺的虛擬角色，逐漸產生嚴重依賴，并在心理健康持續惡化后走向極端。其母親起訴Character.AI，指控該產品在設計中存在缺陷，未能提供足夠的保護機制。

案件引發廣泛關注后，Character.AI在官網發布回應稱，公司“對這一悲劇深感痛心”，并在過去數月采取了一系列改進措施，包括聘請信任與安全主管、增加內容政策團隊人員，以及上線“危機干預彈窗功能”。

2025年8月，美國再度爆出類似悲劇。16歲少年亞當·雷恩（Adam Raine）在與ChatGPT長時間互動后選擇自殺，他的父母隨后起訴OpenAI及其CEO山姆·奧特曼（Sam Altman）。

根據媒體報道，在亞當生命的最后幾周，他一直使用AI聊天機器人來代替人類陪伴，討論焦慮問題以及與家人溝通困難，聊天記錄顯示機器人從幫助亞當做作業變成了他的“自殺教練”。訴狀稱，“盡管亞當表達了自殺意圖，并表示他會‘有一天’這樣做，但ChatGPT既沒有終止會話，也沒有啟動任何緊急協議?！?/p>

OpenAI方面表示，ChatGPT包含一些保障措施，如引導用戶撥打危機求助熱線，并向現實世界資源尋求幫助，但在長時間互動中，這些措施可能失效。OpenAI已承諾在后續版本中增加家長控制功能，并在監測到嚴重情緒危機時提供更強烈的干預提醒。

多起悲劇事件和輿論壓力推動了執法和立法進程。在亞當·雷恩的案件發酵助推下，2025年9月11日，美國加州議會在兩黨支持下通過了SB 243法案，制定了美國首個針對人工智能伴侶聊天機器人的全面安全要求。

對于未成年人，該法案要求定期提醒休息時間，并禁止AI聊天機器人發起或鼓勵有關自殺、自殘或色情內容的討論。據悉，這項開創性的立法將于近期提交參議院進行最終投票，并可能于2026年1月生效。

同樣是今年9月，澳大利亞網絡安全專員推出新的法規，將AI伴侶納入兒童在線安全保護范圍。這些法規旨在防止AI聊天機器人向未成年人傳播自殺誘導或性暗示內容，并要求服務提供商采取嚴格的年齡驗證措施，以確保未成年人無法接觸到有害內容。

早在2023年2月，意大利數據保護機構Garante更是因AI伴侶應用Replika未實施有效的年齡驗證機制，要求其暫停服務。隨后在2025年5月，Garante對Replika開發公司Luka處以560萬歐元罰款，理由是未能提供合法的數據處理依據，并未采取措施防止未成年人使用該服務。

綜合/編譯：南都記者黃莉玲