歐盟在AI法規(guī)制定上顧此失彼

北京時間11月20日，《金融時報》周四發(fā)文，披露了歐盟制定世界首個AI監(jiān)管法規(guī)過程中遭遇的挫折。ChatGPT的橫空出世打了一個歐盟措手不及，令歐盟倉促加入了對大模型的監(jiān)管。在這期間，歐盟對AI的態(tài)度也從監(jiān)管轉(zhuǎn)變?yōu)槲顿Y。最終，在公眾的反對下，歐盟推遲實施《人工智能法》中的關(guān)鍵部分，暫停對高風險AI的監(jiān)管。

以下是文章全文：

《人工智能法》的誕生是一場曠日持久、令人抓狂的拉鋸戰(zhàn)。

2023年12月，歐洲官員們連續(xù)奮戰(zhàn)36小時，才敲定這個“全球首部”AI立法。“我看到同事們都快撐不住了。”勞拉卡羅利(Laura Caroli)表示。她作為歐洲議會關(guān)鍵談判代表的助理參與了談判，并曾任智庫CSIS高級研究員。

這部立法關(guān)系重大。如果成功，它意味著歐盟將率先為AI這項有望改變?nèi)蚪?jīng)濟的技術(shù)制定全面規(guī)范。“當時承受的國際壓力巨大。”卡羅利表示。

最終，在12月9日凌晨約1點，談判代表們達成協(xié)議。隨后，時任歐盟內(nèi)部市場專員蒂埃里布雷頓(Thierry Breton)脫下背心，換上西裝外套。疲憊不堪的議員們打開香檳慶祝，隨即奔赴新聞發(fā)布會現(xiàn)場。

布雷頓協(xié)助商定了《人工智能法》

然而，將近兩年過去，布魯塞爾的氣氛已不在那么高漲。

《人工智能法》的設(shè)計初衷，是利用歐洲的經(jīng)濟影響力，通過風險分級機制強制企業(yè)為其4.5億消費者打造“可信AI”：禁止最具危害性的應(yīng)用，嚴控高風險系統(tǒng)，對低風險領(lǐng)域則寬松監(jiān)管。

但是，由于法案條文過于復雜、匆忙將類似ChatGPT的AI模型納入監(jiān)管范圍，以及執(zhí)行過程雜亂無章，這部AI法已經(jīng)從歐洲領(lǐng)導力的象征，變成了一個證明“歐洲把監(jiān)管置于創(chuàng)新之上”的典型案例。

本周三，歐盟委員會推遲了這部里程碑式AI法規(guī)中關(guān)鍵部分的實施，這是布魯塞爾方面首次正式承認其在推行自有立法時遭遇困境。

眼下，歐洲官員與企業(yè)界正面臨兩個拷問：歐盟是否步子邁得太大、太快？面對歐洲經(jīng)濟正艱難追趕地緣政治對手的現(xiàn)狀，該如何修正法規(guī)以避免錯失AI發(fā)展浪潮？

對歐洲來說，留在AI全球主導權(quán)競賽中至關(guān)重要。由于歐洲未能打造出科技巨頭或讓企業(yè)發(fā)展壯大，它與美國的生產(chǎn)力差距不斷擴大。在錯失其他技術(shù)領(lǐng)域領(lǐng)導地位后，歐盟希望將自身打造成“AI大陸”，但該聯(lián)盟在培養(yǎng)歐洲AI生態(tài)系統(tǒng)、加速追趕中美等全球強國技術(shù)投資方面仍舉步維艱。

歐盟能否成功修補其規(guī)則，其產(chǎn)生的影響遠超歐洲邊界。《人工智能法》是全球首次嘗試監(jiān)管一種不僅可能顛覆全球經(jīng)濟各個行業(yè)、且可能失控并帶來難以預測后果的技術(shù)。若布魯塞爾過度弱化立法效力，那么問題就會變成：接下來由誰或者說還有沒有人能為AI設(shè)置護欄？

原本想實現(xiàn)AI繁榮

頗具諷刺意味的是，歐洲推動AI監(jiān)管的初衷本是為了促進這項新興技術(shù)的繁榮發(fā)展。

2019年，烏爾蘇拉馮德萊恩(Ursula von der Leyen)領(lǐng)導的新一屆歐盟委員會上任后，將“通過法規(guī)培育市場”列為重要執(zhí)政目標之一。她宣布，將在新委員會上任后的100天內(nèi)推出全球首部AI法律。

當時，各界普遍擔憂公眾對AI產(chǎn)品的不信任將導致歐洲技術(shù)發(fā)展放緩。

在法案磋商期間，來自美國的AI新聞深刻影響了歐洲立法者：面部識別工具導致多起錯誤逮捕事件，各類信用評分算法引發(fā)歧視性結(jié)果。為管控這些風險，布魯塞爾方面決定將傳統(tǒng)產(chǎn)品安全法規(guī)與基本權(quán)利保護相結(jié)合，例如禁止大規(guī)模監(jiān)控。

歐盟

卡羅利指出，當時全球已形成“AI需要監(jiān)管”的共識。就連大型科技公司也持相同立場。2020年，meta創(chuàng)始人馬克扎克伯格(Mark Zuckerberg)訪問布魯塞爾會見歐盟高級委員時，曾公開呼吁政府制定在線內(nèi)容新規(guī)。

當時，世界上還有多個相互影響的AI治理倡議，包括經(jīng)合組織和七國集團提出的AI原則，以及特朗普政府第一任期發(fā)布的倡導“依美國價值觀發(fā)展AI”的監(jiān)管原則行政令。

“我們構(gòu)建的AI越可信，就越有利于歐洲的AI普及：這本質(zhì)上就是立法目標，”歐盟委員會《人工智能法》首席起草人加布里埃萊馬齊尼(Gabriele Mazzini)表示。

ChatGPT擾亂進程

然而，當OpenAI的ChatGPT在2022年底橫空出世時，本已進入談判關(guān)鍵期的《人工智能法》被倉促改寫，新增針對通用AI模型的規(guī)制條款。這類能生成文本、圖像或代碼并具備多場景應(yīng)用潛力的大語言模型，在歐盟委員會最初擬定的草案中竟完全未被提及。當時，這些模型基本被視為處于實驗階段。

“該法案本質(zhì)并非ChatGPT監(jiān)管法規(guī)，其立法初衷本不在此。ChatGPT發(fā)布后，整個立法進程陷入了生搬硬套的復雜困境。”數(shù)字權(quán)益組織Access Now高級政策分析師丹尼爾洛伊弗(Daniel Leufer)指出。

此外，生命未來研究所在2023年3月發(fā)表的一封公開信引起關(guān)注，簽署者包括埃隆馬斯克(Elon Musk)、蘋果聯(lián)合創(chuàng)始人史蒂夫沃茲尼亞克(Steve Wozniak)、著名計算機科學家約書亞本吉奧(Yoshua Bengio)和斯圖爾特羅素(Stuart Russell)以及作家尤瓦爾赫拉利(YuvalNoah Harari)。信中呼吁在建立適當保障措施之前，對強大的AI系統(tǒng)開發(fā)暫停六個月。

馬齊尼表示，這封信“完全扭曲了政治討論”。立法者不再僅僅關(guān)注公司和公共部門如何使用AI工具，而是覺得自己還必須監(jiān)管AI系統(tǒng)本身的構(gòu)建方式，并確保法律覆蓋最大的模型。

“議會當時已形成完全共識，至少要監(jiān)管ChatGPT，”卡羅利回憶道，“若離開談判室時連ChatGPT都未能納入監(jiān)管，我們的立法工作將徹底失去意義。”

ChatGPT

馬齊尼還指出，“布魯塞爾彌漫的監(jiān)管狂熱既損害談判質(zhì)量，又迫使各方倉促收場”。隨著2024年6月歐洲議會選舉迫近，談判代表不愿錯失政治窗口期。

馬齊尼表示，政治窗口期的逼迫、外部“干擾”以及圍繞AI生存威脅的討論，“共同形成了常識盡失的混亂局面”。

律師事務(wù)所Cooley全球網(wǎng)絡(luò)、數(shù)據(jù)與隱私業(yè)務(wù)聯(lián)合主席帕特里克范伊克(Patrick Van Eecke)指出，歐盟委員會在監(jiān)管過程一開始就犯了“根本性錯誤”：將AI視為產(chǎn)品而非動態(tài)過程。他指出，像電梯這類靜態(tài)產(chǎn)品需符合安全標準才能上市，但二十年后電梯功能依然如故，而AI卻是持續(xù)演進的動態(tài)過程，“這使得硬性要求無法適用”。

半成品

當《人工智能法》于2024年8月正式生效時，許多人認為其尚不成熟。該法案需要大量配套立法來制定行為準則、指南與標準，以便企業(yè)明確合規(guī)路徑。許多條款僅分階段生效，且具體時間表存在延遲與不確定性。

為企業(yè)提供AI法案咨詢的盛德律師事務(wù)所律師伊麗莎白里吉尼(Elisabetta Righini)表示，這種狀況讓企業(yè)無所適從。“即使是大型數(shù)字公司，也需要時間來準備遵守新規(guī)，”她說，“該法案留下了許多細節(jié)，需要通過實施細則和指南來確定。不確定性對企業(yè)來說從來都不是好事。”

多家企業(yè)表示，即便理清合規(guī)路徑，新規(guī)仍帶來巨大的運營負擔。他們既要評估自身AI系統(tǒng)風險，又須建立機制滿足透明度與問責標準。

律師范伊克強調(diào)，由此產(chǎn)生的合規(guī)成本反而在制造不公平的競爭環(huán)境，“規(guī)模更大、更成熟的企業(yè)能輕松達標，這將使它們獲得比創(chuàng)業(yè)公司更多競爭優(yōu)勢”。

AI創(chuàng)業(yè)公司警告稱，當前局勢正在形成“巨頭蓬勃發(fā)展，成長型企業(yè)與創(chuàng)業(yè)公司僅能勉強求生”的局面。

倫敦AI創(chuàng)業(yè)公司Synthesia的企業(yè)事務(wù)主管亞歷山德魯沃伊卡(Alexandru Voica)表示：“許多成長型企業(yè)將永遠無法達到中美企業(yè)的規(guī)模與影響力，因為它們正被重重監(jiān)管壓得喘不過氣。”

與此同時，大型企業(yè)對該法案同樣感到挫敗。meta等科技巨頭指出，由于企業(yè)擔心違反《人工智能法》而推遲或避免推出某些AI功能，歐盟正在自我隔絕于尖端服務(wù)之外。

今年7月，空客、法國巴黎銀行、奔馳和道達爾能源等大型企業(yè)聯(lián)合敦促歐盟委員會將法案實施時間表推遲兩年，以簡化規(guī)則并給予企業(yè)足夠的準備時間來執(zhí)行。

就連法案的設(shè)計師馬齊尼如今也承認，該法案過于寬泛復雜，“未能提供應(yīng)有的法律確定性”。

歐盟態(tài)度改變

公眾的強烈抗議迫使歐盟委員會改變了態(tài)度。

AI法案引發(fā)的強烈反對恰逢布魯塞爾改變了政策優(yōu)先事項。自馮德萊恩去年開始第二個任期以來，提升歐盟競爭力一直是貫穿其關(guān)鍵政策提案的主線。

與此同時，全球?qū)τ贏I的討論發(fā)生了巨大轉(zhuǎn)變。人們對AI生存風險的恐慌情緒，轉(zhuǎn)變?yōu)閷@項快速發(fā)展技術(shù)的全球主導權(quán)的爭奪。這場爭奪如今已演變?yōu)橹忻乐g的博弈。

對于去年12月接任歐盟數(shù)字和前沿技術(shù)專員的亨娜維爾庫寧(Henna Virkkunen)來說，工作重點已經(jīng)從監(jiān)管轉(zhuǎn)向創(chuàng)新和吸引投資，以確保歐洲在AI領(lǐng)域不會落后。

維爾庫寧

今年2月，布魯塞爾撤回了原計劃確保因AI系統(tǒng)受害的人獲得更多保護的規(guī)定，即所謂的AI責任指令。此舉屬于歐盟放松監(jiān)管的更廣泛舉措的一部分。

本周，歐盟監(jiān)管的轉(zhuǎn)向最終演變成為了一項提議，該提議將高風險AI規(guī)則(人工智能法的關(guān)鍵部分)的實施至少推遲一年。

此次延期引發(fā)爭議，仍需獲得歐洲議會和歐盟成員國批準。各方對這部旗艦性AI法律的實施存在分歧。歐洲央行前行長馬里奧德拉吉(Mario Draghi)稱，為期一年的延期并非無限期中止。

反對聲

盡管如此，《人工智能法》的支持者仍將此視為重大挫折。

歐洲綠黨議員金范斯帕倫塔克(Kim Van Sparrentak)表示，歐盟仍應(yīng)為其率先制定安全AI法規(guī)感到自豪，這將繼續(xù)構(gòu)成競爭優(yōu)勢。日本、巴西和加州等司法管轄區(qū)已對AI模型實施了類似的透明度規(guī)定。

“歐盟委員會應(yīng)當堅守立場，夜以繼日地推進法規(guī)成功，”范斯帕倫塔克強調(diào)，“這意味著我們要說到做到，為歐洲企業(yè)和民眾指明方向，而不是一遇到特朗普和大型科技公司的抱怨就食言。”

在圖靈獎得主、被譽為“AI教父”的本吉奧等人士看來，針對《人工智能法》的批評不過是既得利益集團發(fā)起的“輿論攻勢”。

他認為，《人工智能法》只是將AI實驗室已經(jīng)在執(zhí)行的安全規(guī)程正式化，并提高了透明度。他告訴《金融時報》：“它的作用在于創(chuàng)造一個公平的競爭環(huán)境，促使所有企業(yè)向行業(yè)標桿看齊。”

尋求平衡

但是很顯然，歐盟仍需在AI監(jiān)管與創(chuàng)新之間達成適當?shù)钠胶猓詫崿F(xiàn)其雙重目標：既使歐洲企業(yè)成為全球AI領(lǐng)軍者，又為世界其他地區(qū)樹立法規(guī)范本。

歐盟科技主管維爾庫寧周三強調(diào)，歐盟始終堅持高標準監(jiān)管，“因為歐盟法規(guī)是企業(yè)信任的標志。我們是全球唯一以這種方式制定規(guī)則來守護價值觀與基本權(quán)利的地方”。

與此同時，她承認僅靠監(jiān)管遠遠不夠：“我們必須從規(guī)則制定轉(zhuǎn)向創(chuàng)新構(gòu)建。我們的法規(guī)不應(yīng)成為負擔，而應(yīng)創(chuàng)造附加價值。”

但批評人士指出，周三宣布的法規(guī)延期實施只會讓局面更趨復雜。

法案設(shè)計者馬齊尼始終敦促布魯塞爾對法案進行徹底反思。“現(xiàn)在正是需要展現(xiàn)勇氣的時刻，是時候承認‘我們需要全面重新審視這部法案’。我認為這將是最明智的抉擇。”他表示。(作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱科技。想看深度報道，請微信搜索“科技”。