本文作者：李丹

硬AI

OpenAI的Sora迎來勁敵，meta推出號稱最先進(jìn)的媒體基礎(chǔ)模型Movie Gen。

meta稱，Movie Gen是公司“針對媒體的突破性生成式AI研究”，它囊括了圖像、視頻和音頻等模態(tài)，用戶只需輸入文本，就可以制作自定義的視頻和聲音、編輯現(xiàn)有視頻，以及將個(gè)人圖像轉(zhuǎn)換為獨(dú)特的視頻。Movie Gen執(zhí)行這些任務(wù)的表現(xiàn)在人類評估中由于業(yè)內(nèi)類似模型。

meta介紹，Movie Gen是“最先進(jìn)、沉浸式效果最佳的故事講述模型套件”，綜合了公司第一波生成式AI媒體研究的Make-A-Scene 系列模型，即可創(chuàng)建圖像、音頻、視頻和 3D 動(dòng)畫的模型，以及隨著擴(kuò)散模型出現(xiàn)而針對Llama Image 基礎(chǔ)模型進(jìn)行的第二波研究模型，即可實(shí)現(xiàn)更高質(zhì)量圖像和視頻生成以及圖像編輯的模型。

文生視頻最長16秒 130億參數(shù)音頻生成模型 人工評測視頻生成對Sora凈勝率8.2

meta概括，Movie Gen 具有四種功能：視頻生成、個(gè)性化視頻生成、精確視頻編輯、音頻生成。

對于視頻生成，meta介紹，用戶只要提供一個(gè)文本的提示詞，Movie Gen就可以利用針對文本轉(zhuǎn)圖像和文本轉(zhuǎn)視頻進(jìn)行了優(yōu)化的聯(lián)合模型，創(chuàng)建高清的高質(zhì)量圖像和視頻。Movie Gen的視頻模型有300億參數(shù)，這個(gè)轉(zhuǎn)換模型能以每秒16幀的速度生成最長16秒的視頻。

meta稱，發(fā)現(xiàn)這些模型可以推理物體的運(yùn)動(dòng)、拍攝主體與物體之間的相互作用，以及相機(jī)的運(yùn)動(dòng)，并且可以學(xué)習(xí)各種概念了解有哪些合理的運(yùn)動(dòng)，因此，它們成為同類中最先進(jìn)的模型。在介紹該功能時(shí)，meta展示了多個(gè)10秒長度的視頻短片，包括一只像萌翻網(wǎng)絡(luò)的彈跳豬“Moo Deng”那樣的小河馬游來游去。

注意到，單從生成視頻的最大長度看，Movie Gen還不敵今年2月OpenAI發(fā)布的Sora。Sora令業(yè)界震撼的一點(diǎn)是，可以創(chuàng)建長達(dá)60秒的文生視頻，。不過，相比meta去年11月官宣的視頻模型Emu Video，Movie Gen確實(shí)進(jìn)步不小。Emu Video只能以每秒16幀的速度生成最長4秒的視頻。

除了直接文生視頻，Movie Gen還有出色的個(gè)性化視頻制作能力。meta介紹，其擴(kuò)展了前述基礎(chǔ)模型，支持生成個(gè)性化視頻。用戶可以提供某個(gè)人的圖像，配合文本的提示詞，讓Move Gen生成的視頻包含參考圖像中的人物，以及符合文本提示的視覺細(xì)節(jié)。meta稱，在創(chuàng)建保留人類身份和動(dòng)作的個(gè)性化視頻方面，其模型取得了最先進(jìn)的成果。

meta展示的一個(gè)視頻顯示，用戶可以提供一個(gè)女孩的照片，輸入文字“一名身穿粉色馬甲的女DJ播放唱片，她身旁有一只獵豹”，然后就生成了以照片中女孩形象的DJ打碟，以及一只獵豹陪伴。

在精確視頻編輯方面，meta稱，Movie Gen采用了同一基礎(chǔ)模型的編輯變體模型，在用戶輸入視頻和文本提示詞后，精確執(zhí)行任務(wù)，生成所需的輸出。它將視頻生成與高級圖像編輯相結(jié)合，執(zhí)行局部編輯，例如添加、刪除或替換元素，以及諸如背景或樣式修改的全局更改。與需要專業(yè)技能或缺乏生成精確度的傳統(tǒng)工具不同，Movie Gen 保留了原始內(nèi)容，僅針對相關(guān)像素編輯。

meta提供的示例之一是，用戶輸入，讓企鵝穿上有英國女王維多利亞在位時(shí)期服飾風(fēng)格的服裝，Movie Gen生成的企鵝穿上了帶蕾絲的紅色女裙。

對于音頻生成，meta稱，訓(xùn)練了一個(gè)130億參數(shù)的音頻生成模型，該模型可以接受視頻和可選的文本提示詞，生成長達(dá) 45 秒的高質(zhì)量高保真音頻，包括環(huán)境音、擬聲音效（Foley）和樂器背景音樂，所有這些都與視頻內(nèi)容同步。此外，meta引入了一種音頻擴(kuò)展技術(shù)，可以為任意長度的視頻生成連貫的音頻，在音頻質(zhì)量、視頻到音頻對齊和文本到音頻對齊方面總體上實(shí)現(xiàn)了最先進(jìn)的性能。

meta提供的一個(gè)例子是，生成在吉他音樂的伴奏下，全地形車（ATV）引擎轟鳴加速的聲音，還有一個(gè)例子是，管弦樂聲中有樹葉沙沙作響和樹枝折斷的聲音。

meta還展示了針對以上四種能力進(jìn)行的A/B對比測試人工評估結(jié)果，下圖顯示的凈正值勝率代表，相比Sora等競品模型，人類評估者更青睞Movie Gen模型生成的結(jié)果。在直接生成視頻這個(gè)功能方面，Movie Gen相比Sora的凈勝率達(dá)到8.2。

基于授權(quán)和公開可用數(shù)據(jù)訓(xùn)練 未明確何時(shí)發(fā)布 扎克伯格稱明年上線Instagram

Movie Gen 是基于哪些信息進(jìn)行訓(xùn)練的？meta 的聲明沒有說明具體細(xì)節(jié)，只是說：“我們基于授權(quán)和公開可用的數(shù)據(jù)集對這些模型進(jìn)行了訓(xùn)練。”

有評論指出，對生成式 AI 工具而言，訓(xùn)練數(shù)據(jù)的來源以及從網(wǎng)上抓取哪些數(shù)據(jù)合理仍然是有爭議的問題，而且公眾很少知道使用哪些文本、視頻或音頻片段創(chuàng)建了任何大模型。

還有評論稱，meta說訓(xùn)練用的數(shù)據(jù)集是“專有/商業(yè)敏感”的，未提供細(xì)節(jié)，那么只能猜測，數(shù)據(jù)包括很多Instagram 和 Facebook 平臺(tái)的視頻，加上一些meta合作伙伴的內(nèi)容，以及其他很多未得到充分保護(hù)的內(nèi)容、也就是所謂的“公開可用”內(nèi)容。

對于發(fā)布時(shí)間，meta本周五并未明確Movie Gen何時(shí)面向大眾推出，只是含糊地說“可能未來發(fā)布”。今年2月OpenAI官宣Sora后迄今還未真正向公眾開放使用，也并未透露任何計(jì)劃將要發(fā)布的日期。

不過，meta CEO扎克伯格稱，Movie Gen明年會(huì)上線meta旗下的社交媒體Instagram。他在個(gè)人Instagram賬號發(fā)布了一段Movie Gen生成的視頻，顯示他在用腿部推舉機(jī)，隨著他開始鍛煉，背景發(fā)生了變化。先是顯示，他在一家霓虹燈照耀的未來風(fēng)格健身房鍛煉，然后變?yōu)椋┲嵌肥靠族憻挘又優(yōu)樗苿?dòng)一臺(tái)燃燒的純金機(jī)器，最后變?yōu)椋猛炔客婆e一盒雞塊，周圍是一片薯?xiàng)l。

扎克伯格配上文字稱，meta新的 MovieGen AI 模型可以制作和編輯視頻，每天都是煉腿的日子。該模型將于明年登陸 Instagram。

在社交媒體X，meta官宣并演示Movie Gen的帖子下面，一些點(diǎn)贊高的評論顯示，網(wǎng)友已經(jīng)在催促meta正式發(fā)布該模型，有網(wǎng)友問，不知道大家有沒有機(jī)會(huì)來試試它。