中國移動(dòng)展區(qū)，工作人員介紹AI換臉與實(shí)時(shí)鑒偽技術(shù)。

如何快速識(shí)別AI換臉變聲詐騙，深度鑒偽讓AI換臉詐騙無處遁形。如何為“一老一小”構(gòu)建安全通信環(huán)境，AI技術(shù)強(qiáng)力反制電信詐騙。昨日，2024年國家網(wǎng)絡(luò)安全宣傳周正式拉開序幕，網(wǎng)絡(luò)安全博覽會(huì)也同步舉行。記者現(xiàn)場采訪多位業(yè)內(nèi)行家，探營博覽會(huì)數(shù)據(jù)安全、個(gè)人信息保護(hù)、網(wǎng)絡(luò)安全產(chǎn)品與服務(wù)等展區(qū)，了解網(wǎng)絡(luò)新技術(shù)新應(yīng)用，看“黑科技”如何筑牢網(wǎng)絡(luò)安全屏障。

文/廣州日?qǐng)?bào)全媒體記者葉作林、侯翔宇

圖/廣州日?qǐng)?bào)全媒體記者楊耀燁、莫偉濃、吳子良

人臉“移花接木”李鬼變李逵

人工智能技術(shù)帶來了發(fā)展和機(jī)遇，也帶來了風(fēng)險(xiǎn)和挑戰(zhàn)。如今，利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗的違法行為已不少見。早在去年，中國互聯(lián)網(wǎng)協(xié)會(huì)便曾發(fā)文提示“AI換臉”新騙局。

在天融信科技集團(tuán)股份有限公司展位，助理總裁張博向記者詳細(xì)展示了AI換臉過程和原理，并對(duì)如何防范AI換臉詐騙提出建議。展位前，攝像頭正捕捉一名工作人員的面部變化，與此同時(shí)，出現(xiàn)在屏幕上的卻是另一張臉，兩者表情變化幾近一致。“只需要輸入一張正面靜態(tài)圖片，借助人工智能技術(shù)，便可以實(shí)時(shí)‘移花接木’。”

他進(jìn)一步介紹，AI換臉的3大步驟原理：面部識(shí)別追蹤、面部特征提取、面部變化融合。“整體的原理是通過計(jì)算機(jī)深度學(xué)習(xí)，精準(zhǔn)識(shí)別人臉圖像，然后提取眼睛、鼻子、嘴巴等重要的面部特征，把這些特征與目標(biāo)人臉圖像進(jìn)行匹配、替換和融合。”

如今“AI換臉”技術(shù)已經(jīng)比較成熟，甚至能夠?qū)崿F(xiàn)視頻通話的實(shí)時(shí)換臉，雖然單憑肉眼很難分辨，不過張博指出，只要稍加留心，“AI換臉”還是有明顯破綻，“馬腳”就在面部輪廓和光線。“如果接收到視頻信息、視頻通話，要仔細(xì)觀察對(duì)方的面部輪廓是否存在異常的模糊，光線是否正常。”張博說道，“如果有必要的話，可以要求對(duì)方快速大幅度地抬頭、點(diǎn)頭，轉(zhuǎn)頭，然后來仔細(xì)觀察這個(gè)過程當(dāng)中，面部輪廓是否有異常模糊。”

不過張博指出，防止網(wǎng)絡(luò)詐騙還是要從上游入手，首先要防止個(gè)人信息的過度外泄。“需要采集面部信息的場景，市民群眾還是需要額外留心網(wǎng)絡(luò)環(huán)境和周圍環(huán)境。”在遇到疑似AI換臉的場景中，可以選擇通過更加直接的方式，比如說給當(dāng)事人打個(gè)電話，確認(rèn)對(duì)方身份是否真實(shí)。

用“魔法”打敗“魔法”深度鑒偽5秒辨真假

“AI換臉”逐漸成為一種新型的詐騙手段，偽造的內(nèi)容難以被肉眼分辨出來。如何精準(zhǔn)識(shí)別“AI換臉”成為一個(gè)亟待解決的問題。

在中國移動(dòng)展位的現(xiàn)場，一個(gè)AI換臉視頻被實(shí)時(shí)鑒偽技術(shù)精準(zhǔn)識(shí)別為偽造，整個(gè)過程僅需5秒左右。深度合成換臉實(shí)時(shí)鑒偽體驗(yàn)區(qū)吸引了許多觀眾的圍觀，紛紛上手體驗(yàn)深度驗(yàn)鑒偽技術(shù)。“我們先是模擬詐騙分子AI換臉的過程，再去反向?qū)W習(xí)技術(shù)，進(jìn)而升級(jí)迭代反制系統(tǒng)。”中國移動(dòng)信息安全與管理運(yùn)行中心副經(jīng)理王曉晴介紹，中國移動(dòng)在實(shí)名入網(wǎng)業(yè)務(wù)上開展了試點(diǎn)應(yīng)用，基于鑒偽技術(shù)可實(shí)時(shí)檢測實(shí)名驗(yàn)證過程中的AI人臉，主動(dòng)防范AI換臉線上開卡、補(bǔ)卡等風(fēng)險(xiǎn)發(fā)生，鑒偽的精確率達(dá)90%以上。

“一旦辨別為AI人臉就會(huì)彈窗警告，提醒相關(guān)用戶存在的風(fēng)險(xiǎn)。”王曉晴表示，深度鑒偽技術(shù)還將在5G新通話等業(yè)務(wù)場景中試點(diǎn)應(yīng)用，對(duì)新通話內(nèi)容進(jìn)行偽造檢測、內(nèi)容有害檢測等，及時(shí)發(fā)現(xiàn)涉詐有害風(fēng)險(xiǎn)，有效防范涉詐等違法違規(guī)事件。

不僅如此，深度鑒偽技術(shù)還可為多業(yè)務(wù)場景賦能，包括金融行業(yè)中人臉認(rèn)證環(huán)節(jié)檢測AI人臉、互聯(lián)網(wǎng)行業(yè)進(jìn)行AI人臉檢測及有害內(nèi)容審核等。王曉晴表示，我們希望通過技術(shù)優(yōu)化迭代能夠賦能各行各業(yè)的發(fā)展，也能為AI技術(shù)發(fā)展筑起一道安全的銅墻鐵壁。

精準(zhǔn)識(shí)別25種騙局讓“一老一小”安心通話

老年人和未成年人獲得信息的渠道相對(duì)較為單一，對(duì)各種騙術(shù)了解不多，容易成為詐騙分子“下手”的對(duì)象。如何為“一老一小”構(gòu)建安全通訊環(huán)境？通過通訊技術(shù)手段攔截電信網(wǎng)絡(luò)詐騙電話或許是一種新的嘗試。

記者在中國移動(dòng)展位看到，一位觀眾體驗(yàn)名為羲和·防詐衛(wèi)士的全場景防詐服務(wù)，運(yùn)用這一服務(wù)遠(yuǎn)程臨時(shí)停機(jī)用戶家人的手機(jī)，防止詐騙電話繼續(xù)轟炸。“當(dāng)‘一老一小’接到詐騙電話轟炸時(shí)，用戶可以給他的家人進(jìn)行遠(yuǎn)程微停機(jī)——停機(jī)期間無法上網(wǎng)、沒有通話功能，讓騙子無從下手。”王曉晴介紹，該項(xiàng)服務(wù)通過AI自動(dòng)檢測到用戶家人接聽疑似詐騙電話時(shí)，將自動(dòng)向用戶及家人發(fā)送必達(dá)通知，實(shí)現(xiàn)識(shí)別預(yù)警。若家人處于通話中并未看到提醒消息，用戶可向家人發(fā)送語音預(yù)警，直接在當(dāng)前來電中插播語音提醒。同時(shí)用戶可以遠(yuǎn)程臨時(shí)停機(jī)家人的手機(jī)，防止詐騙電話繼續(xù)轟炸。

“該系統(tǒng)是融合號(hào)、卡、消息、通話、大數(shù)據(jù)、AI、防詐險(xiǎn)等資源稟賦和特色能力，一站式提供智能識(shí)詐、智能預(yù)警、智家聯(lián)動(dòng)的全場景防詐服務(wù)。”王曉晴表示，這一服務(wù)提供25種騙局套路文本的識(shí)別，目前準(zhǔn)確率達(dá)到99%。

如何識(shí)別“換臉騙局”

如果接收到視頻信息、視頻通話，要仔細(xì)觀察對(duì)方的面部輪廓是否存在異常的模糊，光線是否正常。

如果有必要的話，可以要求對(duì)方快速大幅度地抬頭、點(diǎn)頭，轉(zhuǎn)頭，然后來仔細(xì)觀察這個(gè)過程當(dāng)中，面部輪廓是否有異常模糊。

防止網(wǎng)絡(luò)詐騙還是要從上游入手，首先要防止個(gè)人信息的過度外泄。

在遇到疑似AI換臉的場景中，可以選擇通過更加直接的方式，比如說給當(dāng)事人打個(gè)電話，確認(rèn)對(duì)方身份是否真實(shí)。

編輯：聶粵