,9月10日消息,據外電報道,超過 100 名大型人工智能公司的現任和前任員工呼吁加州州長加文·紐瑟姆 (Gavin Newsom) 通過該州新的人工智能監管法案,該法案在科技界和政策界引起了分歧。
這封信由 OpenAI、Anthropic、谷歌的 DeepMind、meta 和 xAI 的現任和前任員工簽署,表達了對某些人工智能模型開發的擔憂。
該法案 SB 1047 要求人工智能公司在向公眾發布系統之前對其系統進行安全測試。它還要求公司對其模型造成的災難性損害承擔責任,并允許為技術工人提供舉報人保護。
信中寫道: 我們認為,最強大的人工智能模型可能很快就會帶來嚴重風險,例如擴大生物武器的使用范圍和對關鍵基礎設施的網絡攻擊。前沿人工智能公司測試最強大的人工智能模型是否會造成嚴重危害,并針對此類風險實施合理的保障措施,是可行且恰當的。
Axios首先報道了該聲明。
SB 1047 已在州議會和參議院獲得通過。現在由紐森在 9 月 30 日之前簽署該法案使其成為法律或否決它。州長尚未表明他對該法案的立場,他正面臨雙方的強烈游說。
該法案的支持者認為,如果沒有護欄,人工智能的發展可能會帶來災難性的后果。xAI 創始人埃隆·馬斯克 (Elon Musk) 公開支持對人工智能進行監管。OpenAI 的競爭對手 Anthropic 也支持該法案,該公司得到了亞馬遜和 Alphabet 的支持。
人工智能先驅 Yoshua Bengio 和 Geoffrey Hinton 在之前致加州領導人的公開信中寫道:政府現在就如何開發和部署這些強大的人工智能系統所做出的選擇,可能會對加州當前和未來的幾代人以及全世界產生深遠的影響。






京公網安備 11011402013531號