10月20日訊（記者 朱俊熹）近半個(gè)月以來，你可能常在各大社交媒體的視頻流中刷到這樣的畫面：路人在街頭采訪中被問及知道自己是AI生成的嗎、交警追逐攔下駕駛車輛的貓貓狗狗、現(xiàn)身中國不同高鐵站的OpenAI CEO Sam Altman……

只不過這些都不是真實(shí)發(fā)生的，而是由OpenAI Sora 2模型生成的AI視頻。這些看似逼真卻脫離現(xiàn)實(shí)的視頻內(nèi)容，推動(dòng)著Sora App在過去十多天內(nèi)穩(wěn)居免費(fèi)應(yīng)用榜單首位，不到五天下載量便突破百萬次，增長速度甚至超過了ChatGPT。即便競爭對手谷歌于上周推出了新的視頻模型Veo 3.1，其相關(guān)AI應(yīng)用Gemini目前仍排在Sora、ChatGPT之后。

但另一方面，新的Sora 2模型也為OpenAI招致了大量有關(guān)版權(quán)與安全的批評(píng)。當(dāng)?shù)貢r(shí)間10月17日，OpenAI宣布暫停在Sora平臺(tái)上生成涉及美國黑人民權(quán)領(lǐng)袖馬丁·路德·金形象的內(nèi)容，同時(shí)強(qiáng)化針對歷史人物的安全防護(hù)機(jī)制。此前，通過Sora生成的馬丁·路德·金發(fā)表粗俗言論或偷竊商品等AI視頻在網(wǎng)上廣泛傳播，其家人對此表示強(qiáng)烈不滿。

無論人們是否歡迎，AI已經(jīng)在改變社交媒體。OpenAI更是憑借其強(qiáng)大的影響力，進(jìn)一步推動(dòng)了AI視頻的大眾化。OpenAI曾將Sora 2形容為視頻領(lǐng)域的"GPT-3.5時(shí)刻"。三年前，正是基于GPT-3.5的ChatGPT首次面世，掀起了新一輪AI浪潮。那么，剩下的問題是：人類做好準(zhǔn)備迎接Sora 2時(shí)代了嗎？

眼見不再為實(shí)，AI視頻進(jìn)入"社交時(shí)代"

AI產(chǎn)品經(jīng)理Keith是第一批試用Sora App的用戶，但沒過幾天，他就對這款新應(yīng)用失去了興趣，幾乎很少再打開。最令他感到"生理不適"的，是那些主打"真實(shí)向"的AI視頻。畫面中的街景和人物幾乎與社交媒體上的日常Vlog無異，讓人很難分辨出哪些是實(shí)拍的、哪些是AI生成的。

"人類的生存本能之一，是要分辨信息的真假，但這些AI視頻在瘋狂挑戰(zhàn)這個(gè)本能。"Keith對藍(lán)鯨科技記者表示。"在Sora里看到的所有東西都是假的，會(huì)讓人一直很疲憊，就像被丟進(jìn)一個(gè)《楚門的世界》里。"

Sora截圖

AI安全公司瑞萊智慧RealAI聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪告訴藍(lán)鯨科技，人類千百年來的傳統(tǒng)認(rèn)知是"耳聽為虛，眼見為實(shí)"，即"二手信息真?zhèn)坞y辨，一手信息才真實(shí)"。而如今，這一認(rèn)知在AI時(shí)代受到了極大的挑戰(zhàn)甚至顛覆。隨著AI技術(shù)的持續(xù)迭代，這類內(nèi)容變得越來越逼真和易于使用，人類的肉眼和耳朵已無法辨別一手信息的真?zhèn)巍?/p>

就Sora 2模型而言，OpenAI稱其在物理準(zhǔn)確性、逼真度和可控性方面均超越前代模型。例如當(dāng)運(yùn)動(dòng)員投籃不中時(shí)，上一代視頻模型為執(zhí)行指令可能會(huì)扭曲物體或現(xiàn)實(shí)，導(dǎo)致球突然傳送到籃筐。而在Sora 2中，球會(huì)從籃板反彈，其遵循物理定律的能力得到顯著優(yōu)化。此外，Sora 2還是繼谷歌Veo 3后的又一款音視頻生成模型，支持對話與音效同步。

在前述AI產(chǎn)品經(jīng)理Keith看來，除了生成時(shí)長和視頻效果等方面的優(yōu)勢，Sora 2的火爆還與產(chǎn)品層面的設(shè)計(jì)相關(guān)。初期該模型采取免費(fèi)開放的模式，并提供充裕的初始配額供用戶自由探索其功能。所有用戶都可以在App和網(wǎng)頁版上生成最長15秒的視頻，專業(yè)版付費(fèi)用戶則可生成最長25秒的視頻。其次，Sora App還內(nèi)置了類似抖音等短視頻平臺(tái)的信息流，會(huì)結(jié)合用戶的Sora動(dòng)態(tài)、ChatGPT數(shù)據(jù)等信息，提供個(gè)性化的推薦內(nèi)容。

Sora截圖

Sora并非第一款采用信息流模式的AI視頻類應(yīng)用。9月底，meta同樣在其AI應(yīng)用中推出視頻信息流功能Vibes。用戶在瀏覽時(shí)會(huì)看到不同創(chuàng)作者生成的AI視頻，隨著時(shí)間推移，信息流會(huì)逐漸根據(jù)用戶興趣進(jìn)行個(gè)性化推薦。成功打造出抖音的字節(jié)跳動(dòng)也在自家AI內(nèi)容平臺(tái)即夢中引入了視頻流機(jī)制，用戶在刷視頻時(shí)還可以進(jìn)行評(píng)論、點(diǎn)贊等互動(dòng)。

即夢AI截圖

在這些想成為"AI版抖音"的應(yīng)用中，Sora顯然取得的反響是最大的。其中一個(gè)原因在于它推出的客串（cameos）功能，支持用戶在生成的視頻片段中放入自己、朋友或任意動(dòng)物的形象。同時(shí)，用戶還可以和Sora應(yīng)用中的好友一起創(chuàng)建、編輯和分享視頻內(nèi)容。OpenAI稱，在所有主要平臺(tái)都在逐漸淡化社交圖譜的時(shí)期，cameos將強(qiáng)化社區(qū)感。

"Sora用關(guān)系替代了質(zhì)量門檻，讓內(nèi)容更容易被消費(fèi)。"AI創(chuàng)業(yè)者陳鍇杰在社交平臺(tái)上表示，"當(dāng)內(nèi)容發(fā)生在朋友之間時(shí)，質(zhì)量不再是唯一標(biāo)準(zhǔn)。哪怕生成結(jié)果并不完美，朋友間的互動(dòng)本身就足夠有趣。"

也有大模型從業(yè)者指出，隨著AI的發(fā)展，內(nèi)容的創(chuàng)作與分發(fā)必然會(huì)發(fā)生本質(zhì)改變，而Sora已經(jīng)邁出了第一步。它提出的一個(gè)大膽假設(shè)是，只要門檻做到足夠低，每個(gè)人都可以成為創(chuàng)作者，而內(nèi)容的消費(fèi)者也可以是所有人。

"以假亂真"后，Sora的溯源攻防戰(zhàn)

當(dāng)用戶第一次登入Sora App時(shí)，會(huì)看到一句提示語：您即將踏入由AI生成內(nèi)容構(gòu)建的創(chuàng)意世界。Sora會(huì)提醒用戶，盡管一些視頻中出現(xiàn)的是認(rèn)識(shí)的人，但其行為和事件并非真實(shí)的。在Sora App上，人們尚且能夠意識(shí)到，一切都是AI生成的。但隨著這些內(nèi)容從Sora流向其他社交平臺(tái)，它們便逐漸與真實(shí)的視頻混雜在一起，使人真假難辨。

Sora截圖

對普通用戶來說，辨別AI視頻最簡單的方法，就是查看視頻是否帶有Sora、即夢AI等水印標(biāo)識(shí)。OpenAI在推出Sora 2時(shí)專門介紹稱，使用Sora生成的每一段視頻都帶有可見和不可見的溯源信號(hào)。除了明顯的水印外，生成的AI視頻還內(nèi)嵌了行業(yè)標(biāo)準(zhǔn)簽名C2PA元數(shù)據(jù)。此外，OpenAI也開發(fā)了內(nèi)部反向圖片和音頻搜索工具，能夠高精度地溯源來自Sora的視頻。

然而，互聯(lián)網(wǎng)上已開始興起各種去除Sora水印的手段。藍(lán)鯨科技記者查詢發(fā)現(xiàn)，只需將Sora生成的AI視頻上傳到某些在線工具或平臺(tái)，不到一分鐘即可去除Sora的三處水印。在國內(nèi)二手交易平臺(tái)上，也有商家提供"人工代處理水印"服務(wù)，15秒左右的視頻報(bào)價(jià)約3-4元。

二手交易平臺(tái)截圖

瑞萊智慧RealAI聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪表示，這些去除手段主要針對顯式水印。一些用戶希望將Sora 2生成的圖像或視頻作為短視頻創(chuàng)作素材，而顯式水印會(huì)影響傳播效果，因此有去除水印的急切需求。不過他也強(qiáng)調(diào)，去除顯式水印后仍有幾率通過其他方式進(jìn)行溯源，例如基于模型指紋的溯源，即模型在生成內(nèi)容過程中留下的"隱性特征"。

中科睿鑒數(shù)字合成內(nèi)容檢測專家葛星宇向藍(lán)鯨科技介紹稱，OpenAI所采取的"內(nèi)嵌元數(shù)據(jù)+可見標(biāo)識(shí)+后端檢索"的溯源組合是一種"主動(dòng)防護(hù)"框架，學(xué)術(shù)界與產(chǎn)業(yè)正積極推動(dòng)此類方案。在很多情形下，后端的指紋、反向搜索會(huì)比元數(shù)據(jù)更抗破壞。但若內(nèi)容經(jīng)過重合成、翻譯渲染或極端變換等大幅改動(dòng)，匹配可信度也會(huì)下降。

"AI視頻的侵權(quán)或違法問題，涉及復(fù)雜的法律責(zé)任鏈條。責(zé)任分配并非一刀切，一般可以包括內(nèi)容生成者、平臺(tái)運(yùn)營者、模型開發(fā)者。"葛星宇強(qiáng)調(diào)。其中，模型開發(fā)者的責(zé)任認(rèn)定最具爭議，通常認(rèn)為該主體不為工具的濫用負(fù)責(zé)，除非存在重大過失。溯源工作通常由受害者、執(zhí)法機(jī)關(guān)發(fā)起，并要求平臺(tái)和開發(fā)者提供技術(shù)協(xié)助。

以中國對AI生成合成內(nèi)容的治理為例，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，今年9月1日起正式施行。"標(biāo)識(shí)辦法"明確，服務(wù)提供者有義務(wù)確保其生成的內(nèi)容符合標(biāo)識(shí)要求，并在生成內(nèi)容時(shí)主動(dòng)添加標(biāo)識(shí)。平臺(tái)則要在內(nèi)容上架或上線時(shí)進(jìn)行審核，對未標(biāo)識(shí)或疑似生成內(nèi)容添加風(fēng)險(xiǎn)提示。

面對市場的快速反饋，Sora 2上線幾天后，OpenAI CEO Sam Altman在個(gè)人博客中表示，這讓他想起了ChatGPT早期的日子。他還預(yù)告稱，Sora產(chǎn)品將會(huì)有非常高的變化頻率。"我們會(huì)做出一些不錯(cuò)的決定，也會(huì)有一些失誤，但我們會(huì)快速收集反饋并修正失誤。"