6 月 14 日消息，當地時間周四，紐約州議會通過一項旨在防范 AI 災難的法案，要求 OpenAI、谷歌和 Anthropic 等前沿 AI 模型的開發者，必須避免出現造成百人以上傷亡或超過 10 億美元損失的風險。

該法案名為 RAISE 法案，標志著 AI 安全陣營的一次勝利，更有杰弗里?辛頓和約書亞?本吉奧等重量級學者為法案背書。若最終成為法律，RAISE 將開創全美首部強制前沿 AI 實驗室公開信息的法規。

圖源 Pexels

RAISE 法案與加州曾被否決的 SB 1047 法案存在相似內容，但紐約州參議員 Andrew Gounardes 表示，RAISE 的設計更謹慎，避免打壓初創企業或學術研究者，而這是 SB 1047 飽受批評的一點。“技術發展太快，我們設立防護機制的時間不多了。許多頂尖專家都指出 AI 風險極高…… 這不得不引起警覺。”

法案現已送交紐約州長 Kathy Hochul，等待其簽署、修改或否決。

一旦生效，RAISE 法案將要求全球頭部 AI 實驗室必須披露其前沿模型的安全和保障措施，并在發生異常或被盜事件時及時上報。若企業未按規定執行，紐約州總檢察長有權處以最高 3000 萬美元（注：現匯率約合 2.16 億元人民幣）罰款。

RAISE 法案的目標是對超大規模公司設限，無論總部在加州還是中國。法規適用于訓練耗資超過 1 億美元、并向紐約州用戶開放模型的企業。

Encode 高管 Nathan Calvin 表示，RAISE 法案更注重回應外界質疑。例如，它不要求設“緊急終止開關”，也不追責后期訓練模型的公司。