國慶假期，短視頻平臺出現(xiàn)大量 “雷軍” AI 配音的惡搞視頻，話題瀏覽量過億。視頻中 “雷軍” 言辭犀利、爆粗口，引發(fā)爭議。這不僅涉及 AI 技術(shù)濫用，還可能侵犯了雷軍的聲音權(quán)益等知識產(chǎn)權(quán)，相關(guān)平臺正逐步下架視頻。

“國慶上網(wǎng)被雷軍罵了整整7天”？

國慶假期期間，短視頻平臺上出現(xiàn)了大量 “雷軍 AI 配音” 的惡搞視頻。這些視頻中，“雷軍” 對堵車、假期等熱門話題進(jìn)行銳評，其中還夾雜著一些不雅謾罵的話語。相關(guān)話題在平臺上的瀏覽量過億，相關(guān)創(chuàng)作超過上百條。

圖源：抖音

在雷軍的微博評論區(qū)中

不斷有人留言詢問此事

10 月 7 日晚

針對網(wǎng)友 “為何罵人” 的詢問

雷軍回復(fù)了三個(gè)憤怒表情。

圖源：網(wǎng)絡(luò)

10月9日

有網(wǎng)友在小米集團(tuán)

公關(guān)部總經(jīng)理王化評論區(qū)留言稱

“把雷軍AI語音罵人的事情

先解決一下吧”

對此，王化回復(fù)稱

“已經(jīng)轉(zhuǎn)給他們（小米法務(wù)部）。”

圖源：網(wǎng)絡(luò)

經(jīng)言域科技 CEO 謝偉鐸確認(rèn)，許多惡搞音頻由網(wǎng)友使用其公司的 “reecho 睿聲” 平臺制作生成。該平臺日活躍用戶數(shù)攀升至幾十萬的量級，社交媒體上還有一些介紹使用 “reecho 睿聲” 生成 “雷軍” AI 配音的教程。用戶除了自行上傳雷軍音頻作為語料，還能直接使用其他用戶在平臺社區(qū)版塊發(fā)布的音頻素材。

AI 合成技術(shù)日益成熟，以假亂真的效果容易讓普通人難以分辨真?zhèn)巍＿@類視頻的傳播不僅會(huì)對當(dāng)事人造成傷害，一旦泛濫，還會(huì)讓每個(gè)人都可能成為被惡搞的對象，影響社會(huì)秩序和公序良俗。如果被用于造謠傳謠、詐騙等違法活動(dòng)，將對社會(huì)秩序造成極大的破壞。

目前，相關(guān)短視頻已被平臺逐步下架。這一事件也引發(fā)了人們對于 AI 技術(shù)應(yīng)用邊界和侵權(quán)問題的關(guān)注與思考。

AI偽造音視頻事件已發(fā)生多起

事實(shí)上，在行業(yè)內(nèi)，AI 偽造音視頻事件早已屢見不鮮。

據(jù)《21 世紀(jì)經(jīng)濟(jì)報(bào)道》消息，此前，一段疑似某集團(tuán)創(chuàng)始人盧文慶醉酒后的音頻流出，音頻中提及客服投訴、競爭對手以及與三位女主播的關(guān)系等內(nèi)容，一時(shí)引發(fā)大量討論。

圖源：網(wǎng)絡(luò)

9 月 26 日，安徽合肥市公安局高新分局確認(rèn)，相關(guān)網(wǎng)傳音頻系 AI 偽造。9 月 27 日凌晨，深圳言域科技有限公司發(fā)文稱，“三只羊事件” 中使用的是 “Reecho 睿聲” 大模型，由盧文慶 30 秒的直播片段克隆生成，目前該公司正在加強(qiáng)安全管控措施。

聲音是否受到法律的保護(hù)

在 AI 技術(shù)快速發(fā)展的當(dāng)下，AI 生成聲音的應(yīng)用愈發(fā)普遍，從媒體娛樂到客戶服務(wù)，AI 配音技術(shù)為創(chuàng)作提供了新的可能性。然而，AI 配音一旦被濫用，便可能涉及侵權(quán)等問題。

《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《科學(xué)技術(shù)進(jìn)步法》等法律對此均有規(guī)定；國家網(wǎng)信辦等七部門聯(lián)合公布并于2023年8月15日起施行的《生成式人工智能服務(wù)管理暫行辦法》還專門對侵害個(gè)人信息權(quán)益的人工智能的責(zé)任進(jìn)行了明確規(guī)定。

在數(shù)據(jù)來源方面，《安全要求》提出不應(yīng)采集他人已明確不可采集的語料，包括個(gè)人已拒絕授權(quán)采集的個(gè)人信息（第5.1條c）2）項(xiàng)）；為保證數(shù)據(jù)來源可追溯性，《安全要求》進(jìn)一步提出，服務(wù)提供者將使用者輸入信息當(dāng)作語料時(shí)，應(yīng)具有使用者授權(quán)記錄（第5.1條c）4）項(xiàng)）；從內(nèi)部管理角度，《安全要求》要求對訓(xùn)練語料的知識產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)進(jìn)行識別，不使用存在知識產(chǎn)權(quán)侵權(quán)問題的訓(xùn)練語料（第5.2條b）2）項(xiàng)）。

此外，前不久，國家互聯(lián)網(wǎng)信息辦公室起草了《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》，明確指出，人工智能生成合成內(nèi)容標(biāo)識包括顯式標(biāo)識和隱式標(biāo)識，且不得惡意刪除、篡改、隱匿標(biāo)識。

所以，即便用 “雷軍們的 AI 配音” 只是出于惡搞目的，也該恪守邊界，不要以惡搞之名行侵權(quán)之實(shí)。

最后提醒相關(guān)產(chǎn)業(yè)和企業(yè)，應(yīng)根據(jù)相關(guān)法律規(guī)范及技術(shù)規(guī)范，嚴(yán)格把控語料來源安全，重視對知識產(chǎn)權(quán)、個(gè)人信息的安全保護(hù)，建立和完善內(nèi)部管理制度，以避免侵權(quán)事件的發(fā)生。