見習(xí)記者郭聰聰 實(shí)習(xí)生劉欣 北京報道

近期，又一起科技平臺利用用戶數(shù)據(jù)訓(xùn)練AI的行為被英國監(jiān)管機(jī)構(gòu)（ICO）叫停。

此次“踢到鐵板”的科技平臺是目前全球最大的職場社交平臺linkedIn，這家總部位于美國的社交平臺在全球200多個國家/地區(qū)擁有超過8億用戶。

該事件的起因是用戶發(fā)現(xiàn)linkedln在并未更新用戶隱私政策之前，就在較長的一段時間內(nèi)私自使用用戶輸入數(shù)據(jù)訓(xùn)練AI模型，用戶立即對此表達(dá)不滿與擔(dān)憂，輿情引起了英國“開放權(quán)利組織”（ORG）的注意，將此事投訴至ICO。隨后，ICO在一份聲明中表示對linkedIn做法的擔(dān)憂，并建議linkedIn暫停此類模型訓(xùn)練行為。

此前6月，坐擁Facebook和Instagram的meta公司也因ICO監(jiān)管而擱置類似計(jì)劃。不止如此，在近一年內(nèi)，Adobe、Zoom、Snap、谷歌等多家科技公司紛紛試圖通過更新隱私政策的方式，合法使用用戶輸入數(shù)據(jù)，然而無一例外均遭到用戶不滿而引起當(dāng)?shù)乇O(jiān)管注意。當(dāng)?shù)乇O(jiān)管機(jī)構(gòu)可有權(quán)請求科技公司停止違法行為，對拒不改正的科技公司，監(jiān)管機(jī)構(gòu)將依據(jù)歐盟數(shù)據(jù)保護(hù)法規(guī)開展訴訟，事實(shí)上已有科技公司收到了高達(dá)2.4億元的處罰單。

用戶數(shù)據(jù)藍(lán)海的誘惑令科技公司與監(jiān)管機(jī)構(gòu)博弈加劇。此時meta公司另辟蹊徑，選擇與監(jiān)管機(jī)構(gòu)合作，遵守監(jiān)管的反饋建議，同時確保數(shù)據(jù)使用更加透明。目前該合作模式初現(xiàn)成效，9月14日meta已官宣成功重啟了已擱置三個月的用戶數(shù)據(jù)使用計(jì)劃。

9月18日，媒體報道了一則“l(fā)inkedIn未經(jīng)用戶許可，利用用戶數(shù)據(jù)改進(jìn)其生成式AI產(chǎn)品”的新聞，就此事linkedIn回復(fù)媒體稱，“尚未更新其服務(wù)條款以反映這一數(shù)據(jù)處理行為，但將‘很快’更新其服務(wù)條款。”換句話說，linkedIn確認(rèn)了其曾在較長一段時間內(nèi)，存在默認(rèn)使用用戶數(shù)據(jù)訓(xùn)練其 AI 模型的行為。

憑借著精準(zhǔn)的用戶定位、豐富的用戶產(chǎn)品、高效的社交互動，linkedIn在全世界范圍內(nèi)擁有超8億用戶。用戶在注冊時，linkedIn會收集手機(jī)用戶的郵箱信息、手機(jī)號碼等信息，注冊成功之后用戶會上傳個人信息、教育背景、職業(yè)檔案信息、工作場所等信息以獲得求職機(jī)會。

據(jù)報道，多個用戶發(fā)帖稱以linkedIn正在未經(jīng)用戶許可，利用用戶的數(shù)據(jù)來改進(jìn)其生成式AI產(chǎn)品。linkedIn的內(nèi)置生成式AI功能可能會使用用戶的個人信息來自動建議寫作內(nèi)容，并且用戶數(shù)據(jù)被用于訓(xùn)練這些功能背后的模型。

用戶對此表示了強(qiáng)烈的不滿和擔(dān)憂，認(rèn)為這是對隱私的侵犯。有用戶在linkedIn上發(fā)布了如何關(guān)閉數(shù)據(jù)收集功能的指南：用戶可以通過點(diǎn)擊個人資料，選擇“設(shè)置”，然后選擇“數(shù)據(jù)隱私”，找到“用于生成式AI改進(jìn)的數(shù)據(jù)”選項(xiàng)，并關(guān)閉該功能。

隱私專家和數(shù)字權(quán)利組織“開放權(quán)利組織”(ORG)注意到了linkedIn的行為，認(rèn)為linkedIn的行為違反了用戶的數(shù)據(jù)保護(hù)權(quán)益，并向英國信息專員辦公室(ICO)提交了投訴。很快，ICO開始關(guān)注此事，其風(fēng)險執(zhí)行主任Steven Almond在一份聲明中表達(dá)了對linkedIn做法的擔(dān)憂，并建議linkedIn暫停此類模型訓(xùn)練行為。

于是，迫于監(jiān)管機(jī)構(gòu)與用戶的雙重壓力，在報道發(fā)出當(dāng)日，linkedIn就迅速更新了隱私條款。

更新的隱私條款明確了三件事：一、平臺將使用用戶數(shù)據(jù)訓(xùn)練生成式AI模型；二、目前不會訓(xùn)練來自歐盟、歐洲經(jīng)濟(jì)區(qū)、英國或瑞士的成員的內(nèi)容生成 AI 模型；三、允許用戶在賬戶設(shè)置中關(guān)閉用于生成式AI改進(jìn)的數(shù)據(jù)功能。

然而，需要注意的是，即使用戶選擇了關(guān)閉個人數(shù)據(jù)用于AI 模型訓(xùn)練，linkedIn仍可能會使用之前收集的數(shù)據(jù)。

linkedIn表示，公司會收集和處理用戶與平臺交互的數(shù)據(jù)，包括個人數(shù)據(jù)。這可能包括：1)用戶使用生成式AI或其他AI功能的情況；2)用戶的帖子和文章；3)用戶使用linkedIn的頻率；4)用戶的語言偏好；5)用戶提供的任何反饋。

就拿平臺用戶使用生成式AI功能來撰寫“個人資料建議”舉例來說，用戶的輸入和輸出結(jié)果、使用信息、語言偏好以及提供的任何反饋，都將被平臺拿來當(dāng)作“飼料”繼續(xù)“喂”給生成式AI模型。

目前此功能僅對部分linkedIn高級訂閱者開放，僅提供英語、西班牙語、德語、法語和葡萄牙語版本。未來，此功能可能會逐步提供給更多用戶。

當(dāng)AI闊步發(fā)展引發(fā)了行業(yè)數(shù)據(jù)追趕競賽后，如何將存儲在平臺的海量用戶數(shù)據(jù)利用起來是科技公司苦苦求索的難題，首先掣肘的就是用戶隱私政策及法律規(guī)定。因此，各大科技公司紛紛出招，更新隱私政策在用戶接受度與監(jiān)管容忍度的邊緣瘋狂試探。

用戶對于個人數(shù)據(jù)用于生成式AI仍較為抵觸。與linkedIn的違規(guī)做法相同，X公司也在未明確告知用戶的情況下，自動收集了用戶的帖子、互動、輸入和結(jié)果，用于訓(xùn)練生成式AI聊天機(jī)器人。該行為在今年7月被平臺用戶發(fā)現(xiàn)后，被投訴至愛爾蘭數(shù)據(jù)保護(hù)委員會（DPC），DPC采取了訴訟措施，雙方在訴訟中達(dá)成和解，X公司承諾“永久停止處理來自歐盟和歐洲經(jīng)濟(jì)區(qū)用戶的個人數(shù)據(jù)用于人工智能模型訓(xùn)練”。

此外，今年 6 月初，Adobe 也鬧了一個大烏龍。起因是Adobe在隱私政策更新中加入了一句關(guān)于自動化的短語，這被用戶誤認(rèn)為Adobe將使用用戶個人數(shù)據(jù)將被用來訓(xùn)練 AI 模型，因此遭到用戶強(qiáng)烈反對。對此Adobe 特意通過博客文章澄清，這些變更是為了檢測和刪除非法內(nèi)容，不會使用存儲在 Adobe云上的文件來訓(xùn)練其 Firefly AI。

監(jiān)管緊箍咒也遏制了公司借助用戶數(shù)據(jù)訓(xùn)練生成式AI的節(jié)奏，今年6月meta就因受到監(jiān)管壓力而暫停了類似計(jì)劃。

但就在9月14日，meta宣布重啟了其利用英國用戶數(shù)據(jù)訓(xùn)練人工智能的計(jì)劃，meta在一篇博客文章中表示，此次重啟計(jì)劃是與信息專員辦公室（ICO）的達(dá)成了合作，已獲得數(shù)據(jù)使用的明確性和合法性，這為企業(yè)與監(jiān)管機(jī)構(gòu)之間的協(xié)作帶來了新消息。

ICO監(jiān)管風(fēng)險執(zhí)行主任Stephen Almond表示：“ meta對其方法進(jìn)行了調(diào)整，包括簡化用戶反對數(shù)據(jù)處理的流程，并為用戶提供更長的反對期限。meta現(xiàn)已決定恢復(fù)其計(jì)劃，我們將密切關(guān)注meta如何向英國用戶傳達(dá)此信息，并在未來幾周內(nèi)開始處理數(shù)據(jù)。”

此外，在數(shù)據(jù)使用透明度方面，meta也做出了示范操作。meta明確表示，他們不會以私人消息、18歲以下用戶的信息進(jìn)行AI訓(xùn)練，對于成年用戶的信息也是經(jīng)用戶授權(quán)同意后才會使用。

meta稱，9月下旬開始將向英國成年用戶推送應(yīng)用內(nèi)通知，并明確其數(shù)據(jù)使用方式及如何反對其數(shù)據(jù)被用于AI訓(xùn)練的選項(xiàng)。

在公眾與監(jiān)管的關(guān)注下，meta此次重啟計(jì)劃離不開與ICO的合作，本次meta采用的數(shù)據(jù)合規(guī)使用方式無疑是積極有效的，人工智能技術(shù)的未來離不開大規(guī)模的數(shù)據(jù)集，如何確保訓(xùn)練過程中的數(shù)據(jù)使用完全合規(guī)是，需要科技公司進(jìn)一步探索。

更多內(nèi)容請下載21財(cái)經(jīng)APP