21世紀(jì)經(jīng)濟報道記者 孟荇 見習(xí)記者 章馳 實習(xí)生 鄧凱
奧運冠軍賣土雞蛋?我說AI你別太離譜!現(xiàn)在的直播間一不留神就會掉進AI陷阱。雙十一期間,還是長點心吧!
臉也對聲音也對,畫面流暢、神態(tài)自然,你分辨出這是真人還是由AI生成的數(shù)字人?可能年輕人知道這一眼假,但是不常在網(wǎng)上沖浪的人真得很容易上當(dāng)。
曾經(jīng)的“AI靳東”通過短視頻平臺向中老年女性騙取感情后誘導(dǎo)投資,現(xiàn)在的張文宏醫(yī)生帶貨蛋白棒,央視主持人李梓萌推薦 “深海魚油”。近幾年AI一次又一次“冒充”名人作惡。
為何現(xiàn)在AI仿冒如此泛濫?其實把“AI克隆”的流程拆解開看,并不復(fù)雜,技術(shù)門檻這兩年經(jīng)歷了“斷崖式”降低。只需要在網(wǎng)上找到名人的幾張清晰照片,或者一小段視頻影像,把這些素材喂給AI模型,就能生成一個真假難辨的數(shù)字人。聲音也是一樣,收集名人過往的音頻資料,再利用語音合成技術(shù),就能模仿出他獨特的音色、語調(diào)和說話習(xí)慣。
央視記者做過一個實驗,AI數(shù)字人不僅能普通話英語自由切換,還能實時修改直播場景和道具,礦泉水秒變紅酒;T恤秒變西裝。整個流程需要的成本可能只有幾千元,但通過名人效應(yīng)帶來的利益,可能高達百萬千萬級別。
最近,知名的教育專家李教授的AI形象被商家擅自用于帶貨賣圖書。北京互聯(lián)網(wǎng)法院最終判決,構(gòu)成對肖像權(quán)和聲音權(quán)的侵犯。今年6月北京查處某商家冒用央視知名主持人形象直播賣貨,成為了首例濫用AI技術(shù)發(fā)布虛假廣告案。
“AI換臉”技術(shù)本身不僅在升級迭代,甚至成為了一種新的商業(yè)模式。羅永浩、劉強東都用自己的數(shù)字人進行過直播帶貨。但AI時代虛假營銷監(jiān)管如何應(yīng)對?責(zé)任又該由誰承擔(dān)?
今年9月1日,《人工智能生成合成內(nèi)容標(biāo)識辦法》正式施行,明確所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”,需要添加AI標(biāo)識。隨后,多家短視頻平臺紛紛響應(yīng),嚴(yán)打?qū)I生成技術(shù)的濫用行為。另外,中央網(wǎng)信辦在全國范圍內(nèi)部署開展“清朗·整治AI技術(shù)濫用”專項行動,將強化AI技術(shù)源頭治理,清理整治違規(guī)AI應(yīng)用程序,推動網(wǎng)站平臺提升檢測鑒偽能力等。
當(dāng)AI可以“以假亂真”,普通人該如何應(yīng)對?





京公網(wǎng)安備 11011402013531號