9月18日訊（記者 朱俊熹）面對一項突飛猛進的新技術，法律和監(jiān)管往往是滯后的。隨著生成式AI正以日新月異的節(jié)奏影響著生活的方方面面，歐盟、中國、美國等全球多地都加快了與AI相關的立法。

當?shù)貢r間9月17日，美國加利福尼亞州州長Gavin Newsom簽署多項AI相關法案。其中三項法案旨在管控通過AI生成的深度偽造或其他欺騙性內容，另兩項法案則與保護演員的數(shù)字肖像有關。

加州是美國人工智能浪潮的中心，擁有數(shù)十家全球領先的AI企業(yè)，包括OpenAI、Anthropic、谷歌、meta等。目前，美國在聯(lián)邦層面尚未出臺統(tǒng)一的AI監(jiān)管法案，因此加州的AI立法對于美國其他地區(qū)乃至全球都將具備參考意義。據(jù)路透社統(tǒng)計，加州立法機構在今年立法季已提出65項涉及AI的法案，其中一些已被否決。

最新通過的“Deepfake”法案

加州州長Gavin Newsom最新簽署的三項Deepfake（深度偽造）法案均與美國選舉密切相關，旨在嚴厲打擊選舉活動中使用AI制作和傳播深度偽造內容的行為。

其中，AB 2839法案將作為緊急法規(guī)立即生效，以規(guī)范2024年美國總統(tǒng)大選。該法案禁止任何個體或其他實體惡意分發(fā)與選舉有關的欺騙性深度偽造內容，這些內容可能會損害候選人的聲譽，破壞公眾對選舉結果的信心。這項新法案將適用時間從選舉前120天內延長至選舉后60天內，進一步覆蓋計票過程。同時還支持已當選官員、候選人、選舉官員對深度偽造內容分發(fā)者提起民事訴訟，尋求損害賠償。

另外兩項法案將于明年1月起正式生效。AB 2655法案要求擁有超百萬加州用戶的大型網(wǎng)絡平臺在選舉前后的特定時期內，對虛假內容進行識別、標記和刪除，包括社交媒體、視頻平臺、搜索引擎等。另一項AB 2355法案則規(guī)定在使用AI生成或大幅更改選舉廣告時，應對此進行明確披露。

Deepfake包括“AI換臉”、改變面部原有特征、生成全新人臉等形式，僅需特定對象的部分圖片和音視頻素材，通過AI就能得到足以亂真的深度偽造內容。近年來隨著Deepfake合成內容愈發(fā)逼真，這項技術越發(fā)頻繁地與生成淫穢色情內容、網(wǎng)絡詐騙等違法犯罪行為相掛鉤，例如近期發(fā)生的韓國Deepfake “N號房”、“AI馬斯克”詐騙等事件。

Deepfake內容也被廣泛運用于選舉中。今年7月，世界首富埃隆·馬斯克在他所擁有的社交媒體X上發(fā)布了一段關于美國副總統(tǒng)兼民主黨總統(tǒng)候選人卡馬拉·哈里斯的深度偽造視頻。該視頻篡改了哈里斯的原始音頻，使她在視頻中對拜登、女性有色人種等發(fā)表評論。Gavin Newsom當時曾在X上回應稱，在這樣的選舉廣告中操縱聲音應該是違法的，他將在幾周內簽署一項法案，以確保這是非法的。

除此之外，Gavin Newsom還簽署了另外兩項與好萊塢演藝人員相關的AI法案。其中一項規(guī)定未經(jīng)演員許可的情況下，雇主不能通過人工智能復制他們的聲音或肖像。另一項法案禁止將已故表演者的數(shù)字復制品用于電影、電視節(jié)目等商業(yè)用途，除非事先獲得遺產管理者的同意。

除了美國加州，深度偽造技術以假亂真的強大能力正在引起全球監(jiān)管機構的關注，中國也在跟進監(jiān)管的步伐。9月14日，國家網(wǎng)信辦就《人工智能生成合成內容標識辦法（征求意見稿）》公開征求意見。征求意見稿要求，網(wǎng)絡信息服務提供者應當按照有關強制性國家標準的要求，對生成合成內容進行顯式或隱式標識。網(wǎng)絡信息內容傳播平臺也應當采取措施，規(guī)范生成合成內容傳播活動。

意見紛紛的SB 1047法案

對加州州長Gavin Newsom來說更棘手的，是擺在他桌上的還有一份備受爭議的AI法案SB 1047。這項法案已獲得州議會通過，Gavin Newsom必須在9月30日之前決定簽署或否決該法案。

SB 1047法案要求對功能強大的前沿人工智能模型進行安全測試。開發(fā)者在構建大模型時必須評估其是否有合理能力造成或實質上促成重大損害，包括制造生物武器或造成網(wǎng)絡攻擊。大模型廠商需要針對這些風險采取保護措施，如必須在新模型中設置“終止開關”，確保在出現(xiàn)問題時能隨時關閉。

這項擬議法案將適用于在加州開展業(yè)務的AI企業(yè)，即使他們的總部或主要業(yè)務設在其他地方。同時，法案明確針對的是訓練成本超1億美元且達到一定計算能力的大模型，這覆蓋了當下最為領先的一些AI模型。AI創(chuàng)企Anthropic首席執(zhí)行官Dario Amodei曾提到，GPT-4o之類的模型訓練成本約為1億美元，目前正在開發(fā)的一些大模型訓練成本可能高達10億美元，未來三年內這一數(shù)字將可能飆升至100億美元甚至1000億美元。

9月17日，Gavin Newsom在一場活動上表達了他對是否簽署SB 1047法案的顧慮。他提到，SB 1047立法可能會產生巨大影響，并產生“寒蟬效應”。加州在人工智能領域占據(jù)了主導地位，但在幾年內簽署錯誤的法案可能會對其競爭力產生深遠影響。

這項AI安全法案在科技行業(yè)內同樣引發(fā)了激烈的意見交鋒。支持者包括同為“AI教父”、圖靈獎得主的Geoffrey Hinton和Yoshua Bengio等科研人員，他們認為該法案能夠有效保證前沿人工智能系統(tǒng)的安全發(fā)展，使其不損害公眾利益。

馬斯克也在X上發(fā)帖呼吁，雖然這是一個可能讓一些人感到不安的艱難決定，但加州應該通過SB 1047法案。而Anthropic的CEO Dario Amodei表示，對于這項法案可能會阻礙創(chuàng)新的擔憂已大大減輕，現(xiàn)在認為法案的好處可能超過其成本，但對此并不確定，法案中仍有一些方面讓他們感到擔憂或模棱兩可。

反對者一列則站著前美國眾議院議長南?！づ迓逦?、“AI教母”李飛飛、meta首席科學家Yann LeCun等多位知名人士和風投公司Andreessen Horowitz等大型機構。他們抨擊該法案過度懲罰開發(fā)者，認為這將會扼殺創(chuàng)新，對開源社區(qū)、學術研究等造成嚴重損害。

谷歌、meta、OpenAI等科技公司也對SB 1047法案表示反對。OpenAI在致法案提出者、加州參議員Scott Wiener的一封信中明確指出，SB 1047將減緩AI創(chuàng)新步伐，導致一流的工程師和企業(yè)家離開加州，到其他地方尋找更大的機會。OpenAI認為，應由聯(lián)邦政府而非各州來監(jiān)管AI風險，這樣才能為人工智能實驗室和開發(fā)者提供清晰度和確定性，同時保障公共安全。

8月底，OpenAI和Anthropic與美國政府簽署了一項協(xié)議，將允許美國人工智能安全研究所在其AI大模型發(fā)布之前和之后都可以進行訪問，以評估模型的能力及其安全風險。這一機構是去年根據(jù)拜登簽署的一項AI相關的行政命令而成立的，旨在評估前沿AI模型已知和新出現(xiàn)的風險。

在上周發(fā)布全新推理大模型o1后，OpenAI承認該模型在CBRN（化學、生物、放射性和核武器）方面被評定為“中等風險”，這是OpenAI迄今為止對其模型給出的最高風險。OpenAI稱，o1模型能夠輔助專家復制已知的生物武器威脅。它還能展現(xiàn)出類似人類的推理能力，就同一主題，o1生成的書面論據(jù)與人類撰寫的文本具有相似的說服力。

AI先驅Yoshua Bengio表示，“如果OpenAI確實像他們報告的那樣，跨過了CBRN的‘中等風險’水平，這只會加強出臺SB 1047這樣的立法來保護公眾的重要性和緊迫性?！?/p>