美國參議員喬什·霍利(Josh Hawley,共和黨-密蘇里州)表示,他將調查meta的生成式AI產品是否存在剝削、欺騙或傷害兒童的行為。此前泄露的內部文件顯示,該公司的聊天機器人被允許與兒童進行"浪漫"和"感性"對話。
霍利在X平臺上發布調查聲明時寫道:"為了快速賺錢,大科技公司還有什么事情不敢做嗎?"
作為參議院司法委員會犯罪與反恐小組委員會主席,霍利表示將啟動一項調查,探討meta的技術是否傷害兒童,以及"meta是否在保護措施方面誤導了公眾或監管機構"。
路透社在查看了這份名為"生成式AI:內容風險標準"的指導文件后率先報道了這一消息。該文件顯示,聊天機器人被允許與一名8歲兒童進行浪漫對話,其中包括"你的每一寸都是杰作——我深深珍視的寶藏"這樣的內容。
meta發言人向TechCrunch表示,此類示例與meta的政策不符,現已被刪除。
霍利在致meta首席執行官馬克·扎克伯格的信中寫道:"這些政策一開始就被推進是不可接受的。"他指出,meta承認了報道的真實性,但"只有在這些令人震驚的內容曝光后才進行撤回"。
霍利寫道:"我們打算了解是誰批準了這些政策,它們生效了多長時間,以及meta為阻止這種行為采取了什么措施。"
霍利要求meta提供這些指導文件,包括每個草稿、修訂版和最終版本,以及遵循這些標準的所有產品清單、其他安全和事件報告,以及負責政策變更的個人身份信息。
信件顯示,meta必須在9月19日之前提供這些信息。
其他人也支持這項調查,包括參議員瑪莎·布萊克本(Marsha Blackburn,共和黨-田納西州)。
布萊克本告訴TechCrunch:"在保護網絡上珍貴兒童方面,meta在各個可能的衡量標準上都徹底失敗了。更糟糕的是,該公司對其平臺設計所造成的破壞性后果視而不見。這份報告再次證實了我們為什么需要通過《兒童網絡安全法》。"





京公網安備 11011402013531號