近年來，AI換臉隨著人工智能技術的防范進步，一些不法分子開始利用AI技術融合他人面孔和聲音，詐騙知識制造非常逼真的都兒合成圖像來實施新型網絡詐騙，這類騙局常常會在短時間內給被害人造成較大損失。AI換臉我們應該如何看清這類AI“深度造假”？辨別“AI換臉”有沒有什么好方法？我們先來看看近期發生在陜西西安的防范百姓彩票大廳一(yi)起(qi)“AI換(huan)臉”詐騙案例。

陜西西安(an)財務人員張女士與老板視(shi)頻(pin)通話，詐騙知識(shi)老板要求她(ta)轉賬(zhang)186萬元(yuan)到一個(ge)指定賬(zhang)號。都兒

被害(hai)人 張女士(shi)：老板讓(rang)把(ba)這個款(kuan)(kuan)趕緊轉過去(qu)，這個款(kuan)(kuan)非(fei)常著急，防范因為(wei)他(ta)聲音還有視(shi)頻圖像都跟(gen)他(ta)人長得一樣的詐騙知識，所以(yi)就更確信這筆(bi)款(kuan)(kuan)是都兒他(ta)說(shuo)的了(le)，然后我直接就把(ba)這筆(bi)款(kuan)(kuan)轉了(le)。AI換(huan)臉

轉(zhuan)賬(zhang)之后(hou)，張(zhang)女士按照規定將電子憑證發到了公司財務內部(bu)群里(li)，詐騙知識然而出(chu)乎意料的(de)是，群里(li)的(de)老板(ban)看到信(xin)息后(hou)，向她詢問這筆(bi)資金的(de)來(lai)由？

被害(hai)人(ren) 張女士：然(ran)(ran)后我(wo)們就打電話再跟老板去核實(shi)，老板說他(ta)沒有(you)給我(wo)發過(guo)視頻，然(ran)(ran)后也(ye)沒有(you)說過(guo)這筆轉賬。

意識到被(bei)騙的張女(nv)士連忙報警(jing)求助，警(jing)方立刻對接反詐中心、聯系(xi)相關銀行(xing)進行(xing)緊(jin)急止(zhi)付，最終保住了(le)大(da)部分(fen)被(bei)騙資金156萬元。

AI“多人換臉”詐騙案 騙走2億港元

一(yi)(yi)百多(duo)萬(wan)的(de)現(xian)金，對大(da)部分人(ren)來(lai)說都算(suan)是一(yi)(yi)筆巨款了(le)，好在警(jing)方處理及時，挽回了(le)大(da)部分損失，下面(mian)我們(men)再來(lai)看(kan)另一(yi)(yi)起案(an)(an)例(li)，這起案(an)(an)例(li)的(de)“換臉”技(ji)術難(nan)度更高，涉(she)(she)案(an)(an)金額(e)也更大(da)。近期， 香港警(jing)方也披露了(le)一(yi)(yi)起AI"多(duo)人(ren)換臉"詐騙案(an)(an)，涉(she)(she)案(an)(an)金額(e)高達2億港元。

在該起(qi)案件中，一家跨國公司香港分部(bu)的(de)職員(yuan)，受(shou)(shou)邀參加總部(bu)首席財務官發(fa)起(qi)的(de)多人的(de)視頻會(hui)議(yi)。并按照要求，前后(hou)轉賬(zhang)多次，將2億(yi)港元轉賬(zhang)到5個本(ben)地(di)銀(yin)行賬(zhang)戶內，其后(hou)向總部(bu)查詢方知受(shou)(shou)騙。警方調查得知，這起(qi)案件中，所謂(wei)的(de)視頻會(hui)議(yi)中，只受(shou)(shou)害者一人為“真人”，其余所謂(wei)參會(hui)人員(yuan)，全(quan)部(bu)是經過AI換臉后(hou)的(de)詐(zha)騙人員(yuan)。

看(kan)完(wan)這(zhe)兩起(qi)案例，您(nin)一定有些(xie)好奇(qi)，AI換臉背后(hou)的(de)技(ji)術原理(li)到底是(shi)什么？在技(ji)術層面，它(ta)是(shi)如何實(shi)現(xian)人臉的(de)精(jing)確識別與替(ti)換，創造出(chu)逼真效果？我(wo)們來聽(ting)聽(ting)專家的(de)講解。

技術上如何實現人臉精確識別與替換

中國網絡空間安全協會人工智能安全治理專委會專家 薛智慧：AI換臉過程主要包括人臉識別追蹤、面部特征提取、人臉變換融合、快3百姓彩票背(bei)(bei)景環境(jing)渲染(ran)、圖像(xiang)與(yu)音頻合成(cheng)等(deng)幾(ji)個關鍵(jian)步(bu)驟。其背(bei)(bei)后最(zui)核心的(de)包(bao)括為三(san)個部分，首先，利用深度(du)(du)學(xue)習(xi)算法精準地識別視頻中的(de)人臉圖像(xiang)，并提(ti)取(qu)出如眼睛(jing)、鼻子、嘴巴等(deng)關鍵(jian)面部特(te)(te)征(zheng)。其次，將這些特(te)(te)征(zheng)與(yu)目標人臉圖像(xiang)進(jin)行匹配、替換(huan)、融(rong)合。最(zui)后，通過背(bei)(bei)景環境(jing)渲染(ran)并添(tian)加(jia)合成(cheng)后的(de)聲(sheng)音，生成(cheng)逼真度(du)(du)較(jiao)高的(de)虛(xu)假換(huan)臉視頻。

快速AI“換臉”僅通過一張照片就可完成

為了了解AI換臉到底能有(you)多么(me)逼真(zhen)，記(ji)者經過與專業技術(shu)(shu)人員合作，深度(du)體驗了AI換臉技術(shu)(shu)。

技(ji)(ji)術(shu)人(ren)員(yuan)首先用手機給(gei)記(ji)者拍了一張臉部照片，導入到(dao)AI人(ren)工(gong)智能軟(ruan)件(jian)后，讓記(ji)者驚(jing)訝(ya)的(de)是(shi)，雖然(ran)電腦攝像(xiang)頭前(qian)的(de)是(shi)技(ji)(ji)術(shu)人(ren)員(yuan)，但是(shi)輸出(chu)的(de)確是(shi)記(ji)者的(de)照片，幾(ji)乎可以說是(shi)“一鍵換(huan)臉”，不需要(yao)復雜的(de)環境(jing)和解(jie)壓操作。

更令人(ren)驚訝(ya)的(de)是(shi)，隨(sui)著技術人(ren)員面(mian)部表情變化，照片上記者的(de)臉也跟著一(yi)起發生了相應變化。

記者：為什么技術人員這張(zhang)臉(lian)動(dong)，我的(de)照片會跟著(zhu)動(dong)呢？

中國網絡空間安全(quan)協會人工智能安全(quan)治理專(zhuan)委會專(zhuan)家 薛智慧：首先(xian)通過視(shi)頻的(de)(de)(de)采集(ji)，能夠(gou)把圖片里這(zhe)個(ge)人臉(lian)的(de)(de)(de)面部(bu)追蹤定位到(dao)，定位到(dao)以后第(di)二步他能夠(gou)做一個(ge)人臉(lian)的(de)(de)(de)面部(bu)特征點的(de)(de)(de)采集(ji)和提取(qu)，主要就是包括嘴、鼻子跟眼睛(jing)相關的(de)(de)(de)這(zhe)些明顯(xian)的(de)(de)(de)面部(bu)特征。采集(ji)到(dao)以后， 第(di)三步就跟把這(zhe)張原始的(de)(de)(de)照(zhao)片，做一個(ge)變(bian)換跟融合跟整(zheng)形。

記者：通過這張照片還(huan)可(ke)以(yi)做到什么(me)？

中(zhong)國網絡空間(jian)安全協會(hui)人(ren)工智能(neng)安全治理專(zhuan)委會(hui)專(zhuan)家 薛智慧：當前通過(guo)這張照(zhao)(zhao)片技術(shu)人(ren)員已經讓(rang)這張照(zhao)(zhao)片能(neng)夠動起來，活起來了(le)，而(er)如果更進一(yi)步的將這張照(zhao)(zhao)片存下(xia)來，能(neng)夠存儲大量的照(zhao)(zhao)片的話(hua)。后期可(ke)以把這張照(zhao)(zhao)片合成一(yi)段(duan)簡(jian)短的視頻發布(bu)出來。

人(ren)(ren)(ren)工智(zhi)能(neng)人(ren)(ren)(ren)臉檢測(ce)技(ji)術主要通(tong)過深度學習算法實現(xian)，這種技(ji)術能(neng)夠(gou)識別出面(mian)部(bu)特(te)征并對(dui)其(qi)進(jin)行(xing)精(jing)準的分析。可以將(jiang)一個(ge)人(ren)(ren)(ren)的面(mian)部(bu)表(biao)情從一張(zhang)照(zhao)片或視(shi)頻中提取出來，并將(jiang)其(qi)與另(ling)一個(ge)人(ren)(ren)(ren)的面(mian)部(bu)特(te)征進(jin)行(xing)匹(pi)配。專家(jia)告訴記者，如果想要實現(xian)視(shi)頻實時(shi)通(tong)話時(shi)采(cai)用人(ren)(ren)(ren)工智(zhi)能(neng)AI換臉技(ji)術，一張(zhang)照(zhao)片是遠(yuan)(yuan)遠(yuan)(yuan)不夠(gou)的，那就需要不同角度的近千張(zhang)照(zhao)片的采(cai)集。

中國網絡空間安全協會人工智能安全治理專委會專家 薛智慧：如果要實時點對點交流的話，需要再采集更多的照片，完了進行深度學習算法模型的訓練，訓練出來這個模型以后灌到咱們這個視頻里去，百姓彩票首頁就可以(yi)做實時(shi)(shi)的(de)(de)變化跟轉換(huan)了。這種情況(kuang)下，就可以(yi)做到實時(shi)(shi)的(de)(de)變臉。聲(sheng)音(yin)(yin)的(de)(de)交流也可以(yi)，需(xu)要預先采集(ji)一些咱們目標人(ren)(ren)群當(dang)中的(de)(de)聲(sheng)音(yin)(yin)，然后進行模(mo)型的(de)(de)訓練，能(neng)夠把目標人(ren)(ren)群的(de)(de)聲(sheng)音(yin)(yin)還原(yuan)出來。

AI生成仿真度極高視頻 難度高投入大

專家介紹(shao)，以(yi)詐騙為目的，實(shi)施(shi)點對點視(shi)頻通話(hua)，需要AI人工智能(neng)生成(cheng)仿真度(du)(du)極高的視(shi)頻。想(xiang)要達(da)到以(yi)假亂真效果用于詐騙，難度(du)(du)不(bu)小。

中國計算機(ji)學會安(an)全(quan)專業委員(yuan)會數字(zi)經濟與安(an)全(quan)工作(zuo)組成(cheng)員(yuan) 方宇：針對(dui)詐(zha)騙，其(qi)實主要(yao)是通(tong)過點對(dui)點的視頻(pin)通(tong)話，這時候如(ru)果(guo)采用換臉技術(shu)和聲音合成(cheng)做(zuo)實時的換臉詐(zha)騙的話，想要(yao)完成(cheng)這些技術(shu)操(cao)作(zuo)，就(jiu)需(xu)要(yao)投入(ru)很強的技術(shu)支持。

中國網絡空間安全(quan)協會人工智能(neng)安全(quan)治理專(zhuan)委會專(zhuan)家 薛(xue)智慧：背后需(xu)要有大量的(de)(de)資(zi)金的(de)(de)投入(ru)，包(bao)括圖(tu)片的(de)(de)采集，包(bao)括專(zhuan)業算法的(de)(de)人員等等，需(xu)要很長的(de)(de)一(yi)(yi)個(ge)周期，包(bao)括一(yi)(yi)些算力(li)算法。各方面(mian)的(de)(de)投入(ru)，需(xu)要長時間不斷地迭代，進(jin)行操作，才(cai)能(neng)達(da)到一(yi)(yi)個(ge)相當逼真的(de)(de)效(xiao)果(guo)，才(cai)有可(ke)能(neng)實現到詐騙的(de)(de)實際效(xiao)果(guo)。

目前AI“換臉”更多應用于娛樂視頻錄制

除(chu)了一些不法(fa)分子企圖利用(yong)AI技術(shu)實施詐(zha)騙，事實上(shang)，近(jin)年來，AI技術(shu)更多地(di)被(bei)應用(yong)于(yu)短視頻(pin)的二次創作，屬于(yu)娛樂性質，越來越多的名人AI換(huan)臉(lian)視頻(pin)出(chu)現在網絡上(shang)，不少網友感嘆，這類視頻(pin)“嘴型、手勢都對得上(shang)，太自然(ran)了，差點兒(er)以為(wei)是真的。”

比如(ru)這(zhe)款軟件，拍(pai)下(xia)記者面部照片后，就能(neng)錄制(zhi)生(sheng)成出(chu)一段記者秒變賽車(che)手的(de)視頻。

中國計算機(ji)學會安全(quan)專(zhuan)業委員會數(shu)字經濟(ji)與安全(quan)工作(zuo)組成員 方宇：AI技術(shu)目前我們常看到的主要是短視(shi)頻換臉(lian)，通過做一(yi)些特(te)定的動作(zuo)，跳舞啊等等。這些視(shi)頻其實看起來(lai)是有一(yi)些不自然的，本身也(ye)是純屬(shu)于娛樂性質的換臉(lian)。

記者(zhe)發現在手機應用商城中，有數十款(kuan)換臉軟件，都可(ke)以做到換臉的目的。

中國(guo)網絡空(kong)間(jian)安(an)全(quan)協會人工(gong)智能(neng)(neng)安(an)全(quan)治(zhi)理專委會專家 薛智慧：如果(guo)從(cong)娛樂大眾的(de)角度(du)來(lai)說的(de)話，現在市(shi)面上(shang)也(ye)有很(hen)多(duo)的(de)這些(xie)軟(ruan)件和工(gong)具，能(neng)(neng)夠達到AI換臉(lian)的(de)效果(guo)，但(dan)是仿真(zhen)(zhen)度(du)只有六七分的(de)樣子，大眾直接就能(neng)(neng)看出來(lai)。但(dan)是如果(guo)要生(sheng)成一個詐(zha)騙(pian)視頻來(lai)說話，就要生(sheng)成咱們仿真(zhen)(zhen)度(du)極(ji)高的(de)這種點(dian)對(dui)點(dian)視頻。

AI技術“換臉換聲”可能存在法律風險

不過，AI技(ji)術(shu)也是把“雙刃劍”，即使是出于娛(yu)樂(le)使用(yong)AI換(huan)臉、AI換(huan)聲，也是存在法律風險的。法律專家表示，用(yong)AI技(ji)術(shu)為他(ta)人換(huan)臉換(huan)聲甚至翻譯成其他(ta)語言(yan)并發布(bu)視頻，可能涉嫌侵(qin)權，主(zhu)要(yao)有三個(ge)方面：

一是涉嫌侵(qin)犯著作(zuo)權，例(li)如(ru)相聲、小品(pin)等都屬于《中(zhong)華人(ren)(ren)民共和國著作(zuo)權法(fa)》保(bao)護的“作(zuo)品(pin)”。例(li)如(ru)網(wang)友用AI軟(ruan)件(jian)將相聲、小品(pin)等“翻譯”成其他語言，需經(jing)過著作(zuo)權人(ren)(ren)授權，否則(ze)就(jiu)存在侵(qin)權問題。

二(er)是涉嫌(xian)侵(qin)犯肖像(xiang)(xiang)權，根據(ju)《中華人民共和國民法典》，任(ren)何(he)組織或(huo)者個(ge)人不得以丑化、污(wu)損，或(huo)者利用信(xin)息技術(shu)手段偽造等方式侵(qin)害他(ta)人的肖像(xiang)(xiang)權。未(wei)經(jing)肖像(xiang)(xiang)權人同意(yi)，不得制作、使用、公開肖像(xiang)(xiang)權人的肖像(xiang)(xiang)，但是法律(lv)另有規(gui)定的除外。

三是涉(she)嫌侵(qin)犯(fan)聲音權，根據《中華人民共(gong)和國民法典(dian)》規定，對自然人聲音的保護，參照(zhao)適(shi)用肖像權保護的有關(guan)規定。也就是說，需要取得聲音權人的同意，才能夠使用他(ta)人的聲音。

學會幾招 輕易識別AI“換臉換聲”

AI換臉(lian)這一(yi)技術(shu)的(de)出(chu)現，導致(zhi)耳聽為(wei)虛(xu)、眼見也不一(yi)定為(wei)實(shi)(shi)了。那(nei)我們該如何防(fang)范呢？專家表示，其實(shi)(shi)AI人工換臉(lian)無(wu)論做(zuo)得多么逼真， 想(xiang)要識別(bie)視頻(pin)真假(jia)還是(shi)有一(yi)些方法的(de)。

中國(guo)計算(suan)機學會安(an)全專業委員會數字經濟與(yu)安(an)全工作組成(cheng)員 方宇：實際上從我目(mu)前看(kan)到(dao)的深度偽造(zao)的實時(shi)視頻(pin)上來看(kan)，其實還是可以(yi)通過(guo)一些方式，去進行一些驗證。

那比如說(shuo)我們可以(yi)要求對(dui)(dui)方在視頻對(dui)(dui)話的(de)時候呢，在臉部的(de)面前(qian)通過揮手的(de)方式(shi)，去進行一個(ge)(ge)識別，實時偽造(zao)的(de)視頻，因為它要對(dui)(dui)這(zhe)個(ge)(ge)視頻進行實時的(de)生成和處理(li)和AI的(de)換臉。

那么在揮(hui)手(shou)的(de)(de)過程(cheng)中(zhong)，就會造成這種(zhong)面部的(de)(de)數據的(de)(de)干(gan)擾，最終產生(sheng)的(de)(de)效(xiao)果就是我(wo)們看到的(de)(de)這樣，揮(hui)手(shou)的(de)(de)過程(cheng)中(zhong)，他所偽(wei)造的(de)(de)這個人臉會產生(sheng)一(yi)定的(de)(de)抖動或者是一(yi)些閃現，或者是一(yi)些異常的(de)(de)情況(kuang)。

第(di)二個就是點對點的溝通中可(ke)以問一些只有對方(fang)(fang)知道的問題，驗證對方(fang)(fang)的真實性。

提高防范意識 避免個人生物信息泄露

專家表(biao)示，除了一些辨別(bie)AI換(huan)臉詐騙的(de)(de)小訣竅(qiao)，我們每(mei)一個人(ren)(ren)(ren)都應(ying)該(gai)提高防(fang)范(fan)意識，在日(ri)常(chang)生活中也(ye)要(yao)做(zuo)(zuo)好(hao)(hao)相關防(fang)范(fan)措施，養成良好(hao)(hao)的(de)(de)上網習慣。首先應(ying)該(gai)是做(zuo)(zuo)好(hao)(hao)日(ri)常(chang)的(de)(de)信息安全的(de)(de)保(bao)護(hu)，加強(qiang)對人(ren)(ren)(ren)臉、聲(sheng)紋、指(zhi)紋等生物(wu)特征數據的(de)(de)安全防(fang)護(hu)：另外(wai)做(zuo)(zuo)好(hao)(hao)個人(ren)(ren)(ren)的(de)(de)手機、電腦等終(zhong)端設(she)備的(de)(de)軟硬(ying)件的(de)(de)安全管理。第二(er)，不(bu)(bu)要(yao)登(deng)錄(lu)來路不(bu)(bu)明的(de)(de)網站(zhan)，以免被病毒(du)侵入(ru)。第三(san)，對可能(neng)進(jin)行聲(sheng)音、圖像(xiang)甚至視頻和定位采(cai)集的(de)(de)應(ying)用，做(zuo)(zuo)好(hao)(hao)授權管理。不(bu)(bu)給他人(ren)(ren)(ren)收集自己信息的(de)(de)機會，也(ye)能(neng)在一定程度上讓AI換(huan)臉詐騙遠離自己。

伴隨AI技術發展 需要多層面監管規范

除了(le)要提高自我防范意(yi)識，如何對AI技(ji)(ji)術(shu)加強監管(guan)，也成了(le)越來越多人關(guan)注的問(wen)題。AI技(ji)(ji)術(shu)本身不是問(wen)題，關(guan)鍵(jian)是我們(men)要怎么用(yong)它？如何形成有(you)效監管(guan)？專(zhuan)家(jia)介(jie)紹，AI技(ji)(ji)術(shu)發(fa)展，需要多層面監管(guan)規范。

一(yi)是(shi)在源(yuan)頭端，需要進一(yi)步(bu)加(jia)強公民個人信(xin)息保(bao)護，尤其是(shi)加(jia)強對生(sheng)物特征等(deng)隱(yin)私(si)信(xin)息的(de)技術、司法保(bao)護力度。二是(shi)在技術層面可以加(jia)強管理(li)。例如可以讓(rang)視頻傳播網站或者(zhe)社交軟件(jian)，使(shi)用專業的(de)鑒(jian)(jian)別(bie)軟件(jian)來鑒(jian)(jian)定，對AI生(sheng)成視頻，打(da)上(shang)不可消除(chu)的(de)“AI生(sheng)成”水印(yin)字樣(yang)。目前，這種數字水印(yin)鑒(jian)(jian)偽(wei)技術有待進一(yi)步(bu)普及。三是(shi)在法律制度層面，要進一(yi)步(bu)完善人工(gong)智能等(deng)領(ling)域相(xiang)關法律法規。2023年8月15日，我國(guo)正式(shi)(shi)施行《生(sheng)成式(shi)(shi)人工(gong)智能服務管理(li)暫行辦(ban)法》。《辦(ban)法》從多(duo)個方面“劃(hua)下紅線”，旨在促進生(sheng)成式(shi)(shi)人工(gong)智能健康發展和(he)規范應(ying)用。

（總臺央視(shi)記者 崔(cui)世杰）

分享

新浪微博

用微信掃描二維碼

防范“AI換臉”詐騙 你需要的知識都在這兒了

近(jin)年來(lai)，隨著(zhu)人工(gong)智(zhi)能技術(shu)的進步(bu)，一(yi)些不法(fa)分(fen)子開始(shi)利用AI技術(shu)融合他人面(mian)孔和聲(sheng)音，制造(zao)非常逼真(zhen)的合成圖像(xiang)來(lai)實施新型網絡詐(zha)騙(pian)，這(zhe)類(lei)騙(pian)局(ju)常常會在短(duan)時間內給被害(hai)人造(zao)成較大損失。我(wo)們應該如何(he)看(kan)清(qing)這(zhe)類(lei)AI“深度造(zao)假”？辨(bian)別“AI換臉(lian)”有沒有什(shen)么好方法(fa)？我(wo)們先來(lai)看(kan)看(kan)近(jin)期發生在陜西(xi)西(xi)安(an)的一(yi)起“AI換臉(lian)”詐(zha)騙(pian)案例。

陜西西安財務(wu)人員(yuan)張女士與老(lao)板視(shi)頻通話(hua)，老(lao)板要(yao)求她轉賬186萬元到一個指定賬號。

被害人(ren) 張女士：老板讓把這(zhe)(zhe)個款(kuan)趕緊(jin)轉過去，這(zhe)(zhe)個款(kuan)非常(chang)著急，因(yin)為他聲音還(huan)有視頻圖像都跟(gen)他人(ren)長(chang)得一樣的(de)(de)，所以就更確信(xin)這(zhe)(zhe)筆(bi)款(kuan)是(shi)他說的(de)(de)了(le)(le)，然后我直(zhi)接就把這(zhe)(zhe)筆(bi)款(kuan)轉了(le)(le)。

轉(zhuan)賬之后(hou)，張女士按照規定將電子憑(ping)證發到了(le)公司財(cai)務內部群里，然(ran)而出乎(hu)意料的(de)是，群里的(de)老板看到信息后(hou)，向她詢問這筆(bi)資金的(de)來由？

被害人 張女士：然(ran)后(hou)(hou)我們就打(da)電話再跟老板去核實，老板說(shuo)他沒(mei)有給(gei)我發(fa)過視頻，然(ran)后(hou)(hou)也沒(mei)有說(shuo)過這筆(bi)轉(zhuan)賬。

意識到被(bei)騙的張女(nv)士連忙(mang)報警(jing)求(qiu)助，警(jing)方立刻對接反詐中(zhong)心、聯系相關銀(yin)行進行緊(jin)急止付(fu)，最終保(bao)住了大部分(fen)被(bei)騙資金156萬元。

AI“多人換臉”詐騙案 騙走2億港元

一(yi)(yi)(yi)百多萬的現金，對大部分人來說都算是一(yi)(yi)(yi)筆巨(ju)款了(le)(le)，好在警方處(chu)理(li)及時，挽回了(le)(le)大部分損失(shi)，下面我們再來看另一(yi)(yi)(yi)起案(an)(an)例，這起案(an)(an)例的“換(huan)臉”技術(shu)難度更高(gao)，涉案(an)(an)金額也(ye)更大。近期， 香港警方也(ye)披(pi)露了(le)(le)一(yi)(yi)(yi)起AI"多人換(huan)臉"詐(zha)騙(pian)案(an)(an)，涉案(an)(an)金額高(gao)達2億港元(yuan)。

在該起案件中，一家跨國公司(si)香港(gang)分部(bu)的(de)(de)職員(yuan)，受邀參加總(zong)(zong)部(bu)首(shou)席(xi)財務官發起的(de)(de)多人(ren)的(de)(de)視頻會議。并按照要求，前后(hou)轉賬(zhang)(zhang)(zhang)多次，將2億港(gang)元轉賬(zhang)(zhang)(zhang)到(dao)5個本地銀行賬(zhang)(zhang)(zhang)戶內，其后(hou)向總(zong)(zong)部(bu)查(cha)詢方知(zhi)受騙。警(jing)方調查(cha)得知(zhi)，這起案件中，所(suo)謂的(de)(de)視頻會議中，只受害者一人(ren)為“真人(ren)”，其余所(suo)謂參會人(ren)員(yuan)，全(quan)部(bu)是經(jing)過AI換臉后(hou)的(de)(de)詐騙人(ren)員(yuan)。

看完這兩起案(an)例，您一(yi)定有些好(hao)奇(qi)，AI換臉背后的技術原(yuan)理到底是(shi)什么？在技術層面，它是(shi)如何(he)實現(xian)人臉的精(jing)確識別與替(ti)換，創造出逼(bi)真效(xiao)果？我們來(lai)聽聽專家的講解。

技術上如何實現人臉精確識別與替換

中(zhong)國網絡空間(jian)安全(quan)協會人工智(zhi)能(neng)安全(quan)治理(li)專(zhuan)委會專(zhuan)家 薛(xue)智(zhi)慧(hui)：AI換(huan)臉(lian)(lian)(lian)過(guo)程主要包(bao)括(kuo)人臉(lian)(lian)(lian)識別追蹤、面(mian)部特征提取、人臉(lian)(lian)(lian)變換(huan)融(rong)合、背景環(huan)境渲染(ran)、圖像(xiang)與(yu)音頻(pin)(pin)(pin)合成(cheng)(cheng)等幾個(ge)關鍵步(bu)驟(zou)。其背后最核心(xin)的包(bao)括(kuo)為三個(ge)部分，首先，利(li)用深度學習(xi)算法精準地識別視頻(pin)(pin)(pin)中(zhong)的人臉(lian)(lian)(lian)圖像(xiang)，并提取出(chu)如眼睛、鼻子、嘴巴等關鍵面(mian)部特征。其次，將這些特征與(yu)目(mu)標(biao)人臉(lian)(lian)(lian)圖像(xiang)進行匹配、替換(huan)、融(rong)合。最后，通過(guo)背景環(huan)境渲染(ran)并添(tian)加合成(cheng)(cheng)后的聲音，生成(cheng)(cheng)逼真度較(jiao)高的虛假換(huan)臉(lian)(lian)(lian)視頻(pin)(pin)(pin)。

快速AI“換臉”僅通過一張照片就可完成

為了了解AI換(huan)臉到底能有多(duo)么逼真，記者(zhe)經過與專(zhuan)業技術人員合作，深度體驗了AI換(huan)臉技術。

技術人員首先用手機給記者(zhe)拍了一(yi)張臉部照(zhao)片，導入到AI人工智能(neng)軟件后，讓記者(zhe)驚訝的是(shi)，雖然(ran)電腦攝(she)像頭前(qian)的是(shi)技術人員，但是(shi)輸出的確(que)是(shi)記者(zhe)的照(zhao)片，幾乎可以說是(shi)“一(yi)鍵換(huan)臉”，不需要復雜的環境和解(jie)壓操作。

更令(ling)人(ren)驚訝的是(shi)，隨著技(ji)術(shu)人(ren)員面部(bu)表情變化(hua)，照片上(shang)記者的臉也跟(gen)著一起(qi)發生了(le)相應變化(hua)。

記者(zhe)：為(wei)什么(me)技術人員這(zhe)張臉動，我(wo)的照片會(hui)跟著動呢？

中國網絡空(kong)間安全協(xie)會人(ren)工智(zhi)能(neng)安全治(zhi)理專委會專家 薛智(zhi)慧：首先通(tong)過視頻的(de)采集(ji)，能(neng)夠把圖片里這個(ge)人(ren)臉的(de)面部追(zhui)蹤定(ding)位到(dao)，定(ding)位到(dao)以(yi)后第二(er)步他能(neng)夠做一(yi)個(ge)人(ren)臉的(de)面部特征點的(de)采集(ji)和(he)提(ti)取(qu)，主(zhu)要就(jiu)是(shi)包(bao)括嘴、鼻子(zi)跟(gen)眼(yan)睛相關(guan)的(de)這些明顯的(de)面部特征。采集(ji)到(dao)以(yi)后， 第三步就(jiu)跟(gen)把這張原始的(de)照片，做一(yi)個(ge)變(bian)換跟(gen)融合跟(gen)整形。

記者：通過這張照片還可(ke)以做到什么？

中國網絡空(kong)間安(an)全(quan)協會人工智能安(an)全(quan)治理專委會專家 薛(xue)智慧：當前通過這張(zhang)(zhang)照片(pian)技術人員已經讓這張(zhang)(zhang)照片(pian)能夠(gou)動起來，活起來了，而如果更進一(yi)步的(de)將這張(zhang)(zhang)照片(pian)存(cun)下來，能夠(gou)存(cun)儲(chu)大(da)量的(de)照片(pian)的(de)話。后期可以把這張(zhang)(zhang)照片(pian)合(he)成一(yi)段簡短的(de)視頻發布出來。

人(ren)工(gong)智能人(ren)臉檢(jian)測技術主要通(tong)過深度學習算法(fa)實現，這種技術能夠識別出(chu)面(mian)部特征(zheng)并對其(qi)進行(xing)精準(zhun)的(de)分析(xi)。可以將一個人(ren)的(de)面(mian)部表情從一張照片或視頻中提取出(chu)來，并將其(qi)與另一個人(ren)的(de)面(mian)部特征(zheng)進行(xing)匹配。專家(jia)告訴(su)記者，如(ru)果想要實現視頻實時通(tong)話時采用人(ren)工(gong)智能AI換臉技術，一張照片是遠(yuan)遠(yuan)不夠的(de)，那就需要不同角(jiao)度的(de)近千張照片的(de)采集。

中國網絡空間安(an)全協會人(ren)工智(zhi)能(neng)安(an)全治理專(zhuan)(zhuan)委會專(zhuan)(zhuan)家 薛(xue)智(zhi)慧(hui)：如(ru)果要實(shi)時(shi)點對點交流的(de)話，需要再采集更多(duo)的(de)照片，完了(le)進(jin)(jin)行(xing)深度學習算法模型的(de)訓練，訓練出(chu)來這(zhe)(zhe)個(ge)模型以(yi)(yi)后灌到咱們這(zhe)(zhe)個(ge)視頻里去，就可以(yi)(yi)做(zuo)實(shi)時(shi)的(de)變(bian)化跟轉換了(le)。這(zhe)(zhe)種情況下，就可以(yi)(yi)做(zuo)到實(shi)時(shi)的(de)變(bian)臉(lian)。聲(sheng)(sheng)音的(de)交流也可以(yi)(yi)，需要預先采集一些咱們目標人(ren)群(qun)當(dang)中的(de)聲(sheng)(sheng)音，然后進(jin)(jin)行(xing)模型的(de)訓練，能(neng)夠把目標人(ren)群(qun)的(de)聲(sheng)(sheng)音還原出(chu)來。

AI生成仿真度極高視頻 難度高投入大

專家(jia)介紹(shao)，以詐(zha)(zha)騙為目的，實施點對點視頻通話，需要AI人工(gong)智能(neng)生(sheng)成仿真(zhen)度(du)極高的視頻。想要達到以假(jia)亂真(zhen)效果用于詐(zha)(zha)騙，難度(du)不小。

中國計算機學會安(an)全專業委員(yuan)會數(shu)字經濟與安(an)全工作(zuo)組成員(yuan) 方宇：針對(dui)詐(zha)(zha)騙，其實(shi)主要是(shi)通過(guo)點對(dui)點的(de)(de)視(shi)頻通話，這時(shi)候如果采用換(huan)臉技術(shu)和聲(sheng)音(yin)合(he)成做實(shi)時(shi)的(de)(de)換(huan)臉詐(zha)(zha)騙的(de)(de)話，想要完(wan)成這些(xie)技術(shu)操作(zuo)，就需要投入很(hen)強的(de)(de)技術(shu)支持。

中(zhong)國網絡空間安全(quan)協會(hui)人工智能安全(quan)治理專(zhuan)委會(hui)專(zhuan)家 薛(xue)智慧：背(bei)后需(xu)要(yao)(yao)有大(da)量的(de)(de)資金的(de)(de)投入，包(bao)括圖片的(de)(de)采集，包(bao)括專(zhuan)業算(suan)(suan)法的(de)(de)人員等(deng)等(deng)，需(xu)要(yao)(yao)很長的(de)(de)一個周(zhou)期，包(bao)括一些算(suan)(suan)力算(suan)(suan)法。各(ge)方面的(de)(de)投入，需(xu)要(yao)(yao)長時間不(bu)斷地(di)迭代，進行操作，才能達(da)到一個相當逼真的(de)(de)效果，才有可能實現到詐騙的(de)(de)實際效果。

目前AI“換臉”更多應用于娛樂視頻錄制

除(chu)了一些不法分子企圖利用AI技術(shu)(shu)實施詐(zha)騙(pian)，事(shi)實上(shang)，近年(nian)來(lai)(lai)，AI技術(shu)(shu)更多地被應用于短視頻(pin)的二次創作，屬(shu)于娛樂性質，越來(lai)(lai)越多的名人(ren)AI換臉視頻(pin)出(chu)現在網絡上(shang)，不少(shao)網友(you)感嘆，這(zhe)類視頻(pin)“嘴(zui)型、手勢(shi)都對得上(shang)，太自然了，差點兒以(yi)為是真的。”

比如這款(kuan)軟(ruan)件，拍下記(ji)者面部照片后，就能錄(lu)制生成出一段記(ji)者秒變賽(sai)車手的(de)視頻。

中國計算機(ji)學(xue)會(hui)安(an)全專業委員會(hui)數字(zi)經濟與安(an)全工(gong)作組成(cheng)員 方宇：AI技術(shu)目前我(wo)們常看(kan)到的主(zhu)要是短視頻換(huan)臉，通過(guo)做一(yi)些特定的動作，跳(tiao)舞啊等(deng)等(deng)。這些視頻其(qi)實看(kan)起來是有一(yi)些不自(zi)然的，本身也是純(chun)屬于娛樂(le)性質的換(huan)臉。

記者發現(xian)在(zai)手機應用商城(cheng)中(zhong)，有數(shu)十款換臉軟件，都(dou)可(ke)以做(zuo)到換臉的目(mu)的。

中國(guo)網絡空間安全協會人工(gong)智能(neng)安全治理專(zhuan)委會專(zhuan)家 薛智慧：如(ru)果從娛樂大眾(zhong)的(de)(de)(de)角度(du)(du)來(lai)說的(de)(de)(de)話，現在市面上也(ye)有很多的(de)(de)(de)這些(xie)軟(ruan)件和工(gong)具，能(neng)夠(gou)達到AI換臉的(de)(de)(de)效果，但(dan)是仿真度(du)(du)只有六(liu)七分的(de)(de)(de)樣子(zi)，大眾(zhong)直接就能(neng)看出(chu)來(lai)。但(dan)是如(ru)果要生成(cheng)一個詐騙視(shi)頻來(lai)說話，就要生成(cheng)咱們仿真度(du)(du)極高的(de)(de)(de)這種(zhong)點(dian)對點(dian)視(shi)頻。

AI技術“換臉換聲”可能存在法律風險

不過(guo)，AI技(ji)術也(ye)是(shi)(shi)把(ba)“雙刃劍”，即(ji)使(shi)是(shi)(shi)出(chu)于娛樂使(shi)用(yong)AI換(huan)臉、AI換(huan)聲，也(ye)是(shi)(shi)存在法(fa)律風(feng)險的。法(fa)律專家表示，用(yong)AI技(ji)術為他(ta)人換(huan)臉換(huan)聲甚至翻(fan)譯成其他(ta)語言并發(fa)布(bu)視頻(pin)，可能涉嫌(xian)侵(qin)權，主要有三個方面(mian)：

一是(shi)涉嫌侵犯(fan)著(zhu)作權(quan)(quan)，例如(ru)相(xiang)聲、小(xiao)(xiao)品等都(dou)屬于《中華人民共和國著(zhu)作權(quan)(quan)法》保護的“作品”。例如(ru)網友用(yong)AI軟(ruan)件將相(xiang)聲、小(xiao)(xiao)品等“翻譯”成其(qi)他語(yu)言，需經過著(zhu)作權(quan)(quan)人授權(quan)(quan)，否(fou)則(ze)就存在侵權(quan)(quan)問題。

二(er)是(shi)(shi)涉嫌侵犯肖(xiao)像(xiang)(xiang)權，根(gen)據《中華人(ren)民(min)共和國民(min)法典》，任(ren)何組織或者個人(ren)不(bu)得(de)以丑化、污損，或者利用信息(xi)技術手(shou)段偽造等方式侵害(hai)他人(ren)的(de)(de)肖(xiao)像(xiang)(xiang)權。未(wei)經(jing)肖(xiao)像(xiang)(xiang)權人(ren)同意，不(bu)得(de)制作、使(shi)用、公開(kai)肖(xiao)像(xiang)(xiang)權人(ren)的(de)(de)肖(xiao)像(xiang)(xiang)，但是(shi)(shi)法律另有規(gui)定的(de)(de)除外。

三是涉嫌侵犯聲音權，根據《中華人民(min)共和國民(min)法典》規定(ding)，對自然人聲音的保護(hu)，參(can)照適用(yong)肖像(xiang)權保護(hu)的有關(guan)規定(ding)。也就(jiu)是說(shuo)，需要取得聲音權人的同意(yi)，才(cai)能夠使(shi)用(yong)他人的聲音。

學會幾招 輕易識別AI“換臉換聲”

AI換臉這一(yi)技術的(de)出現，導致(zhi)耳聽為虛(xu)、眼見也不一(yi)定為實(shi)了。那我們該(gai)如何防范呢？專(zhuan)家(jia)表示，其(qi)實(shi)AI人工換臉無(wu)論做得多(duo)么逼真(zhen)， 想要識別視頻真(zhen)假還是有一(yi)些方法的(de)。

中國計算機學會安(an)全專業委員會數字(zi)經濟與安(an)全工作組成員 方宇：實(shi)際(ji)上從我(wo)目前看到的深度(du)偽造的實(shi)時視頻上來看，其實(shi)還是可以(yi)通過一(yi)些方式，去進行一(yi)些驗證。

那比如說(shuo)我們可以要(yao)(yao)求(qiu)對(dui)(dui)方(fang)在(zai)(zai)視頻(pin)對(dui)(dui)話的(de)(de)時候(hou)呢(ni)，在(zai)(zai)臉部的(de)(de)面前通過(guo)揮手的(de)(de)方(fang)式，去進(jin)行(xing)一(yi)個(ge)(ge)識別(bie)，實時偽造的(de)(de)視頻(pin)，因為它要(yao)(yao)對(dui)(dui)這個(ge)(ge)視頻(pin)進(jin)行(xing)實時的(de)(de)生成和處理(li)和AI的(de)(de)換臉。

那么在揮(hui)(hui)手(shou)的(de)過(guo)程中，就(jiu)會造成這種面(mian)部的(de)數據(ju)的(de)干擾，最終(zhong)產(chan)生(sheng)的(de)效(xiao)果就(jiu)是(shi)我(wo)們看到的(de)這樣，揮(hui)(hui)手(shou)的(de)過(guo)程中，他(ta)所偽(wei)造的(de)這個人臉會產(chan)生(sheng)一(yi)定的(de)抖動或者是(shi)一(yi)些閃(shan)現，或者是(shi)一(yi)些異常的(de)情況。

第二個就(jiu)是(shi)點對點的溝通中(zhong)可以問一些只有對方知道的問題，驗證對方的真實性。

提高防范意識 避免個人生物信息泄露

專(zhuan)家表(biao)示，除了一些辨別AI換臉(lian)詐(zha)騙的(de)(de)(de)(de)(de)小訣竅，我們每一個人都應(ying)該(gai)提高(gao)防范(fan)意識，在日(ri)常(chang)生活中也要做(zuo)(zuo)好(hao)相(xiang)關防范(fan)措(cuo)施，養成良好(hao)的(de)(de)(de)(de)(de)上網習慣(guan)。首先應(ying)該(gai)是做(zuo)(zuo)好(hao)日(ri)常(chang)的(de)(de)(de)(de)(de)信息安(an)全的(de)(de)(de)(de)(de)保(bao)護(hu)，加強對人臉(lian)、聲紋、指紋等(deng)生物特征數(shu)據(ju)的(de)(de)(de)(de)(de)安(an)全防護(hu)：另外做(zuo)(zuo)好(hao)個人的(de)(de)(de)(de)(de)手機、電腦等(deng)終端(duan)設備的(de)(de)(de)(de)(de)軟硬件的(de)(de)(de)(de)(de)安(an)全管理(li)。第二(er)，不要登錄來路不明(ming)的(de)(de)(de)(de)(de)網站(zhan)，以免被病毒侵入。第三，對可能(neng)進行聲音、圖像甚至(zhi)視頻和(he)定位采(cai)集的(de)(de)(de)(de)(de)應(ying)用，做(zuo)(zuo)好(hao)授(shou)權(quan)管理(li)。不給他(ta)人收(shou)集自己信息的(de)(de)(de)(de)(de)機會(hui)，也能(neng)在一定程度上讓(rang)AI換臉(lian)詐(zha)騙遠離自己。

伴隨AI技術發展 需要多層面監管規范

除(chu)了要提高自我防范(fan)意識，如何對AI技(ji)術(shu)加強監管(guan)，也(ye)成(cheng)了越來越多人關注的問題。AI技(ji)術(shu)本身不是問題，關鍵是我們要怎(zen)么(me)用它？如何形成(cheng)有效監管(guan)？專(zhuan)家介紹，AI技(ji)術(shu)發展，需要多層面監管(guan)規(gui)范(fan)。

一(yi)是在源頭端，需要進一(yi)步(bu)加強(qiang)(qiang)公民(min)個人(ren)(ren)信(xin)息保(bao)護(hu)，尤其是加強(qiang)(qiang)對生物(wu)特征(zheng)等隱私信(xin)息的(de)技術(shu)、司(si)法(fa)(fa)(fa)保(bao)護(hu)力(li)度。二是在技術(shu)層面(mian)可(ke)(ke)以加強(qiang)(qiang)管(guan)理。例如可(ke)(ke)以讓視(shi)頻傳(chuan)播網站或者(zhe)社交軟件(jian)，使(shi)用(yong)(yong)專業的(de)鑒(jian)別(bie)軟件(jian)來鑒(jian)定，對AI生成視(shi)頻，打上不可(ke)(ke)消除的(de)“AI生成”水印字樣。目前，這種數字水印鑒(jian)偽技術(shu)有待進一(yi)步(bu)普及。三是在法(fa)(fa)(fa)律(lv)制度層面(mian)，要進一(yi)步(bu)完善人(ren)(ren)工智能等領域相關法(fa)(fa)(fa)律(lv)法(fa)(fa)(fa)規。2023年8月15日，我國正(zheng)式(shi)施行(xing)《生成式(shi)人(ren)(ren)工智能服務(wu)管(guan)理暫行(xing)辦法(fa)(fa)(fa)》。《辦法(fa)(fa)(fa)》從多個方面(mian)“劃下紅線”，旨在促進生成式(shi)人(ren)(ren)工智能健康發(fa)展(zhan)和規范應用(yong)(yong)。

（總(zong)臺央視記者 崔世杰）