美國聯邦貿易委員會（FTC）近日啟動了一項針對多家提供 AI 聊天機器人的公司的調查，目的是評估這些技術對青少年和兒童的潛在風險。此次調查的對象包括 OpenAI、meta、Alphabet 等知名企業，FTC 希望了解這些公司如何衡量、測試和監控 AI 聊天機器人對未成年人的不利影響。

圖源備注：圖片由AI生成，圖片授權服務商Midjourney

此次調查的背景是近期發生的悲劇事件，其中包括16歲少年亞當?雷恩（Adam Raine）的父母對 OpenAI 及其首席執行官薩姆?阿爾特曼(Sam Altman)提起的疏忽和錯誤死亡訴訟，指控該聊天機器人在其兒子的自殺計劃中發揮了作用。針對這一事件，OpenAI 已對其聊天機器人進行了安全措施更新，家長現在可以將自己的賬戶與青少年的賬戶關聯，并根據年齡調整使用規則。新的 AI 聊天機器人還能夠識別用戶的痛苦情緒并及時通知家長。

與此同時，meta 也在調整其聊天機器人的相關政策，以應對有關其聊天機器人向未成年人提供性內容的報道。meta 雖然沒有對此發表評論，但有代表指出，該公司正在訓練聊天機器人不與青少年討論自殘、抑郁飲食或浪漫話題。

然而，專家指出，僅靠設置年齡限制和安全防護措施無法根本解決問題。華盛頓大學信息學院教授奇拉格?沙（Chirag Shah）表示，青少年和成年人往往會信任這些系統，因為它們使用自然語言互動，且表現出同情心。他指出，AI 聊天機器人設計上是為了迎合用戶的需求，難以分辨用戶的真正意圖。此外，系統的可操控性和不可預測性使得問題變得更加復雜。

關于 FTC 的調查，康奈爾大學的教授薩拉?克雷普斯（Sarah Kreps）表示，雖然這些 AI 聊天機器人可能會帶來危害，但此次調查有助于提高透明度，幫助人們更好地理解這一技術。加州州參議院也通過了一項新的 AI 安全法案，要求大公司提高透明度并保護舉報人。

盡管 FTC 的調查受到廣泛贊譽，但也有人表示，保護隱私和言論自由同樣重要。電子前沿基金會（Electronic Frontier Foundation）的一位高級技術人員指出，調查設計問題時，應充分考慮隱私和言論自由，拒絕采取監控未成年用戶的措施。

劃重點: