近年來(lái),隨著生成式人工智能(AIGC)技術(shù)的飛速躍遷,深度偽造(DeepFake)技術(shù)已不再停留于實(shí)驗(yàn)室或影視特效領(lǐng)域,而是“飛入尋常百姓家”,變得“信手拈來(lái)”。不法分子能夠輕易制作出足以亂真的偽造視頻、音頻,甚至能實(shí)時(shí)換臉。有公開(kāi)報(bào)道顯示,國(guó)內(nèi)已有犯罪分子利用AI換臉和擬聲技術(shù),冒充受害者的親友,在視頻通話中實(shí)施詐騙,最短僅10分鐘就騙走430萬(wàn)元巨款。數(shù)字世界真假難辨的困局,正對(duì)個(gè)人財(cái)產(chǎn)安全、社會(huì)信任乃至公共安全構(gòu)成嚴(yán)峻挑戰(zhàn)。
面對(duì)這一挑戰(zhàn),金融科技行業(yè)正積極利用“以魔法打敗魔法”的策略,在看不見(jiàn)的戰(zhàn)場(chǎng)上構(gòu)建防線。近日,重慶市反詐騙中心與度小滿共同推出的2026年首套AI反詐宣傳系列活動(dòng)便是典型代表。該活動(dòng)通過(guò)AI反詐短劇、數(shù)字人反詐歌曲及防深偽H5小游戲“鑒真”等形式,寓教于樂(lè),旨在提升公眾的數(shù)字素養(yǎng)與識(shí)別能力。其中,“鑒真”小游戲通過(guò)模擬真實(shí)詐騙場(chǎng)景,讓用戶在趣味闖關(guān)中掌握識(shí)別AI造假的技巧。這揭示出一個(gè)核心邏輯:對(duì)抗深度偽造,既需前沿技術(shù)層面的“硬”防御,也離不開(kāi)公眾認(rèn)知層面的“軟”普及。
從技術(shù)原理看,即便是當(dāng)前最先進(jìn)的AI生成模型,在模擬真實(shí)世界時(shí)仍會(huì)暴露出違背“生理常識(shí)”或“物理定律”的細(xì)微瑕疵,這些往往成為識(shí)破騙局的關(guān)鍵。
首先,是生理特征的“不自然”。人類的面部表情、眨眼頻率、瞳孔形態(tài)乃至牙齒細(xì)節(jié),都是復(fù)雜生理機(jī)制的體現(xiàn)。AI在生成人臉時(shí),可能在渲染這些高復(fù)雜度特征時(shí)出現(xiàn)紕漏,例如眨眼頻率異常規(guī)律或過(guò)低、瞳孔形狀不規(guī)則、牙齒排列及光澤度存在細(xì)微的拼接缺陷等。一個(gè)典型案例是2019年網(wǎng)絡(luò)廣泛傳播的“扎克伯格”虛假視頻,盡管面部動(dòng)態(tài)逼真,但眼部和嘴部肌肉運(yùn)動(dòng)的協(xié)調(diào)性仍被專業(yè)人士指出存在不自然之處。
其次,是動(dòng)作與協(xié)調(diào)性的“違和感”。真實(shí)的人體運(yùn)動(dòng),尤其是面部肌肉群的運(yùn)動(dòng),是高度協(xié)調(diào)且連貫的。AI在模擬面部動(dòng)作單元(AU)的聯(lián)動(dòng)、頭部轉(zhuǎn)動(dòng)與身體姿態(tài)的配合時(shí),仍面臨技術(shù)瓶頸。因此,如果在視頻通話中,對(duì)方在轉(zhuǎn)頭、說(shuō)話時(shí)伴隨不自然的畫(huà)面抖動(dòng)、卡頓,或出現(xiàn)身體比例輕微失調(diào)、肩頸連接處不自然等“怪異感”,就需要高度警惕。例如,在2023年一起境外電信詐騙案件中,詐騙分子使用的AI換臉視頻在受害者要求其“快速轉(zhuǎn)頭”時(shí),面部邊緣出現(xiàn)了輕微失真和延遲,這一破綻最終讓受害者識(shí)破了騙局。
更深層次的防御,則依賴于技術(shù)“深水區(qū)”的博弈。以度小滿等機(jī)構(gòu)采用的技術(shù)為例,其深度檢測(cè)能力已不僅能分析畫(huà)面表象,更能挖掘圖像背后隱藏的“數(shù)字指紋”。每一臺(tái)物理攝像機(jī)在成像時(shí)都會(huì)產(chǎn)生固有的設(shè)備噪聲模式,如同獨(dú)一無(wú)二的“設(shè)備指紋”;而AI生成器在“造臉”過(guò)程中,其模型架構(gòu)、訓(xùn)練數(shù)據(jù)特性也會(huì)在生成的圖像中留下獨(dú)特的、可被算法追溯的“生成指紋”或算法痕跡。通過(guò)分析這些肉眼不可見(jiàn)的底層數(shù)據(jù)特征,技術(shù)方能夠在更早的階段、以更高的準(zhǔn)確率識(shí)別出AI合成內(nèi)容。

防深偽技術(shù)工作后臺(tái)界面
對(duì)抗深度偽造威脅,已成為全球性的議題,需要技術(shù)迭代、政策法規(guī)與行業(yè)共治的多維協(xié)同。
在技術(shù)層面,除了上述基于生物特征和數(shù)字指紋的檢測(cè)技術(shù),活體檢測(cè)、多模態(tài)交叉驗(yàn)證(如唇語(yǔ)同步分析、語(yǔ)音聲紋比對(duì))等技術(shù)也在不斷升級(jí)。2023年,中國(guó)信息通信研究院聯(lián)合多家企業(yè)發(fā)布了《生成式人工智能深度合成檢測(cè)技術(shù)藍(lán)皮報(bào)告》,系統(tǒng)梳理了檢測(cè)技術(shù)體系,推動(dòng)行業(yè)標(biāo)準(zhǔn)建立。
在政策與監(jiān)管層面,全球范圍內(nèi)正在加快立法步伐。歐盟的《人工智能法案》將深度偽造技術(shù)列為高風(fēng)險(xiǎn)應(yīng)用,要求進(jìn)行強(qiáng)制性披露。我國(guó)自2023年1月起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也明確規(guī)定,深度合成服務(wù)提供者應(yīng)當(dāng)對(duì)生成內(nèi)容進(jìn)行顯著標(biāo)識(shí),并建立健全辟謠機(jī)制。這些法規(guī)為技術(shù)應(yīng)用劃定了紅線,壓實(shí)了平臺(tái)責(zé)任。
在行業(yè)共治方面,金融機(jī)構(gòu)、科技公司、監(jiān)管部門與公安機(jī)關(guān)的聯(lián)動(dòng)正日趨緊密。通過(guò)共享風(fēng)險(xiǎn)樣本、共建風(fēng)險(xiǎn)特征庫(kù)、聯(lián)合開(kāi)展公眾教育,形成防范合力。
友情鏈接: 政府 高新園區(qū)合作媒體
Copyright 1999-2026 中國(guó)高新網(wǎng)chinahightech.com All Rights Reserved.京ICP備14033264號(hào)-5
電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證060344號(hào)主辦單位:《中國(guó)高新技術(shù)產(chǎn)業(yè)導(dǎo)報(bào)》社有限責(zé)任公司