近年來，AI換臉隨著人工智能技術的防范進步，一些不法分子開始利用AI技術融合他人面孔和聲音，詐騙知識制造非常逼真的都兒合成圖像來實施新型網絡詐騙，這類騙局常常會在短時間內給被害人造成較大損失。AI換臉我們應該如何看清這類AI“深度造假”？辨別“AI換臉”有沒有什么好方法？我們先來看看近期發生在陜西西安的防范百姓彩票官網登錄一(yi)起(qi)“AI換臉”詐騙案(an)例。

　　陜西西安財務人員張女士與(yu)老(lao)板(ban)(ban)視頻通話，詐(zha)騙知(zhi)識老(lao)板(ban)(ban)要(yao)求(qiu)她轉賬186萬元到(dao)一個指定賬號(hao)。都兒(er)

　　被(bei)害人張女(nv)士：老板讓把(ba)這個款(kuan)趕緊轉過去，這個款(kuan)非常著(zhu)急，防范因為他聲音還有視頻圖(tu)像都(dou)跟他人長得(de)一(yi)樣的詐(zha)騙知識(shi)，所(suo)以就更(geng)確信這筆款(kuan)是(shi)都(dou)兒他說(shuo)的了(le)，然(ran)后我直接就把(ba)這筆款(kuan)轉了(le)。AI換(huan)臉

　　轉賬之(zhi)后，防范張女(nv)士按照規定將(jiang)電(dian)子憑證(zheng)發到(dao)了公司財務(wu)內(nei)部群里，詐(zha)騙知識然而出乎意料的(de)是，群里的(de)老(lao)板看(kan)到(dao)信息后，向她詢問(wen)這筆資(zi)金(jin)的(de)來由？

　　被(bei)害人 張女士：然后我們就(jiu)打(da)電話再跟老板去核實(shi)，老板說(shuo)他沒有給我發過(guo)視頻，然后也沒有說(shuo)過(guo)這筆(bi)轉賬(zhang)。

　　意(yi)識(shi)到被騙(pian)的張女士連忙報警(jing)求助，警(jing)方立刻對接(jie)反詐中(zhong)心、聯系相關銀(yin)行進行緊急止付，最終保(bao)住(zhu)了(le)大部分被騙(pian)資金156萬元。

　　AI“多人換臉”詐騙案 騙走2億港元

　　一百多萬的現金，對大部分人來說都算是一筆巨款了，好在警方處理及時，挽回了大部分損失，百姓神彩票下面我們(men)再來看另(ling)一起(qi)案(an)例，這起(qi)案(an)例的“換(huan)臉”技術難(nan)度更(geng)高，涉案(an)金額也(ye)更(geng)大(da)。近期(qi)，香港警(jing)方(fang)也(ye)披露了一起(qi)AI"多(duo)人(ren)換(huan)臉"詐騙案(an)，涉案(an)金額高達2億(yi)港元。

　　在該(gai)起(qi)(qi)案件(jian)(jian)中(zhong)，一家跨(kua)國公司香港(gang)分部的職(zhi)員(yuan)，受邀參加總(zong)部首(shou)席(xi)財務官發起(qi)(qi)的多(duo)人(ren)的視頻(pin)會議(yi)。并(bing)按照(zhao)要求，前后(hou)轉賬多(duo)次(ci)，將2億(yi)港(gang)元轉賬到5個(ge)本地銀行賬戶內，其(qi)(qi)后(hou)向總(zong)部查詢(xun)方知(zhi)受騙。警方調(diao)查得知(zhi)，這起(qi)(qi)案件(jian)(jian)中(zhong)，所謂的視頻(pin)會議(yi)中(zhong)，只受害者(zhe)一人(ren)為“真人(ren)”，其(qi)(qi)余所謂參會人(ren)員(yuan)，全部是經過(guo)AI換臉后(hou)的詐騙人(ren)員(yuan)。

　　看完這兩起案例，您一(yi)定有(you)些(xie)好奇，AI換臉背后的技(ji)術原理到(dao)底是(shi)什么？在(zai)技(ji)術層(ceng)面，它是(shi)如何(he)實現人臉的精確識(shi)別與替換，創造出逼真效果？我們來(lai)聽(ting)聽(ting)專家的講解。

　　技術上如何實現人臉精確識別與替換

　　中國網絡空間安全協會人工智能安全治理專委會專家薛智慧：AI換臉過程主要包括人臉識別追蹤、面部特征提取、人臉變換融合、快3百姓彩票背景環境渲染(ran)、圖像(xiang)(xiang)與音(yin)頻(pin)合成(cheng)等幾個關(guan)鍵(jian)步驟(zou)。其(qi)背后(hou)(hou)最核心(xin)的包括為三個部分，首(shou)先，利用深度學習(xi)算法精準地識別視頻(pin)中(zhong)的人(ren)臉圖像(xiang)(xiang)，并提取出(chu)如眼睛、鼻(bi)子、嘴巴等關(guan)鍵(jian)面部特征。其(qi)次(ci)，將這些特征與目標(biao)人(ren)臉圖像(xiang)(xiang)進行匹(pi)配、替換、融合。最后(hou)(hou)，通過背景環境渲染(ran)并添加合成(cheng)后(hou)(hou)的聲音(yin)，生成(cheng)逼(bi)真度較高的虛假換臉視頻(pin)。

　　快速AI“換臉”僅通過一張照片就可完成

　　為(wei)了了解AI換臉到底能有多么逼真，記者經過與專(zhuan)業技術人員合作，深(shen)度(du)體驗了AI換臉技術。

　　技術(shu)人員首先(xian)用手(shou)機(ji)給記(ji)者(zhe)拍了一張臉部(bu)照片(pian)，導入到AI人工智能軟件后，讓記(ji)者(zhe)驚訝的是，雖然電(dian)腦(nao)攝(she)像頭(tou)前的是技術(shu)人員，但是輸(shu)出的確是記(ji)者(zhe)的照片(pian)，幾乎(hu)可以說(shuo)是“一鍵換臉”，不需要復(fu)雜的環(huan)境和解(jie)壓(ya)操作。

　　更(geng)令(ling)人驚訝的是(shi)，隨著(zhu)技術人員(yuan)面(mian)部(bu)表情變化，照片上(shang)記者的臉(lian)也跟著(zhu)一起發生了相(xiang)應變化。

　　記者(zhe)：為什么技術人員這張臉動，我的(de)照片(pian)會(hui)跟著動呢？

　　中國網絡空(kong)間安全協會人工(gong)智能安全治理專委會專家薛智慧：首先(xian)通過視頻的(de)采集(ji)，能夠(gou)把(ba)圖(tu)片里(li)這(zhe)個人臉(lian)的(de)面部(bu)追蹤定位(wei)到(dao)，定位(wei)到(dao)以后(hou)第二步(bu)他能夠(gou)做(zuo)一(yi)個人臉(lian)的(de)面部(bu)特征(zheng)點(dian)的(de)采集(ji)和提取(qu)，主要就是包括嘴、鼻子跟(gen)眼睛相(xiang)關的(de)這(zhe)些(xie)明顯(xian)的(de)面部(bu)特征(zheng)。采集(ji)到(dao)以后(hou)，第三步(bu)就跟(gen)把(ba)這(zhe)張原始的(de)照片，做(zuo)一(yi)個變換跟(gen)融合跟(gen)整形。

　　記者：通(tong)過這張照片還可以(yi)做(zuo)到什么？

　　中國網(wang)絡空(kong)間(jian)安全協會人(ren)工(gong)智(zhi)能(neng)(neng)安全治理專委會專家(jia)薛智(zhi)慧(hui)：當前通過這張(zhang)照片(pian)(pian)技術(shu)人(ren)員已(yi)經讓這張(zhang)照片(pian)(pian)能(neng)(neng)夠(gou)(gou)動起(qi)(qi)來(lai)(lai)，活起(qi)(qi)來(lai)(lai)了，而(er)如(ru)果(guo)更進一步(bu)的將這張(zhang)照片(pian)(pian)存(cun)下來(lai)(lai)，能(neng)(neng)夠(gou)(gou)存(cun)儲大量的照片(pian)(pian)的話。后期可以(yi)把(ba)這張(zhang)照片(pian)(pian)合成一段簡短的視頻發布出來(lai)(lai)。

　　人(ren)(ren)(ren)工智(zhi)能人(ren)(ren)(ren)臉檢測技(ji)術(shu)主要(yao)通過深度學習算法實現，這種技(ji)術(shu)能夠識(shi)別出面(mian)部特(te)征并對其進行精(jing)準的分析。可以將一(yi)個人(ren)(ren)(ren)的面(mian)部表情從一(yi)張(zhang)照(zhao)片(pian)或視頻中提取出來，并將其與(yu)另一(yi)個人(ren)(ren)(ren)的面(mian)部特(te)征進行匹配。專家告訴記者(zhe)，如果想要(yao)實現視頻實時(shi)通話時(shi)采用人(ren)(ren)(ren)工智(zhi)能AI換臉技(ji)術(shu)，一(yi)張(zhang)照(zhao)片(pian)是遠遠不(bu)夠的，那就(jiu)需要(yao)不(bu)同角度的近千(qian)張(zhang)照(zhao)片(pian)的采集。

　　中國網(wang)絡空間安(an)全(quan)協會(hui)人工智能(neng)安(an)全(quan)治理專(zhuan)委會(hui)專(zhuan)家薛智慧：如果(guo)要實時(shi)點(dian)對(dui)點(dian)交流的(de)(de)話，需要再(zai)采集更(geng)多的(de)(de)照片，完了進(jin)行深(shen)度(du)學(xue)習算(suan)法模(mo)(mo)型的(de)(de)訓(xun)練，訓(xun)練出(chu)來(lai)這個(ge)(ge)模(mo)(mo)型以后(hou)灌到(dao)咱(zan)們這個(ge)(ge)視頻里去，就(jiu)可(ke)以做實時(shi)的(de)(de)變(bian)化跟轉換了。這種(zhong)情(qing)況下，就(jiu)可(ke)以做到(dao)實時(shi)的(de)(de)變(bian)臉。聲(sheng)音的(de)(de)交流也可(ke)以，需要預先采集一些咱(zan)們目(mu)標人群(qun)當中的(de)(de)聲(sheng)音，然后(hou)進(jin)行模(mo)(mo)型的(de)(de)訓(xun)練，能(neng)夠把目(mu)標人群(qun)的(de)(de)聲(sheng)音還原出(chu)來(lai)。

　　AI生成仿真度極高視頻 難度高投入大

　　專家介紹(shao)，以詐騙為(wei)目(mu)的(de)，實施點對點視頻通話(hua)，需要AI人工智能生成(cheng)仿(fang)真(zhen)度(du)極高的(de)視頻。想要達(da)到以假亂(luan)真(zhen)效果用(yong)于詐騙，難度(du)不小。

　　中國(guo)計算機學會(hui)安全專(zhuan)業(ye)委員(yuan)會(hui)數字(zi)經濟與安全工作(zuo)組成員(yuan)方宇：針(zhen)對詐騙(pian)，其實(shi)(shi)主要(yao)是通過點對點的視(shi)頻通話(hua)，這時候如(ru)果采用換臉(lian)技術(shu)(shu)和聲音合(he)成做(zuo)實(shi)(shi)時的換臉(lian)詐騙(pian)的話(hua)，想要(yao)完成這些技術(shu)(shu)操(cao)作(zuo)，就需要(yao)投入很(hen)強的技術(shu)(shu)支持(chi)。

　　中國網絡空間(jian)安全協會(hui)人工智(zhi)能(neng)安全治理(li)專委會(hui)專家薛(xue)智(zhi)慧：背后需要有(you)大量的(de)資金的(de)投入(ru)，包(bao)括(kuo)圖(tu)片的(de)采集，包(bao)括(kuo)專業算法(fa)的(de)人員等等，需要很長的(de)一(yi)個(ge)周期(qi)，包(bao)括(kuo)一(yi)些算力算法(fa)。各方面的(de)投入(ru)，需要長時間(jian)不斷地迭(die)代，進(jin)行操(cao)作，才能(neng)達到(dao)一(yi)個(ge)相當逼真的(de)效果，才有(you)可能(neng)實現到(dao)詐騙的(de)實際效果。

　　目前AI“換臉”更多應用于娛樂視頻錄制

　　除了(le)一些(xie)不(bu)法分子(zi)企圖利用(yong)AI技(ji)術實施詐騙，事(shi)實上(shang)，近年來，AI技(ji)術更多地被應用(yong)于短視頻的二次創作，屬于娛樂性質，越來越多的名人(ren)AI換臉視頻出現在網絡上(shang)，不(bu)少網友感嘆，這類視頻“嘴(zui)型、手勢(shi)都對得上(shang)，太(tai)自然了(le)，差點兒以為是(shi)真的。”

　　比(bi)如(ru)這(zhe)款軟件，拍下(xia)記者(zhe)面部照片(pian)后(hou)，就能(neng)錄(lu)制生成出(chu)一段記者(zhe)秒(miao)變賽(sai)車手的視頻(pin)。

△網友(you)發布的女士系絲巾(jin)原版視頻

△需要變換的臉的照片

△生成視頻

　　中國計算機學會(hui)安(an)全(quan)專業委員會(hui)數字(zi)經濟與安(an)全(quan)工(gong)作組成(cheng)員方宇：AI技術目前我們常看(kan)到的(de)主要是短視頻換(huan)臉，通過(guo)做一些特定的(de)動作，跳(tiao)舞啊等等。這些視頻其實看(kan)起來是有一些不自然的(de)，本身也是純屬(shu)于(yu)娛樂性質的(de)換(huan)臉。

　　記者發現在手(shou)機應用商城中，有數十款換臉軟(ruan)件，都可以(yi)做到換臉的(de)目的(de)。

　　中國(guo)網(wang)絡空間(jian)安全協會人工智(zhi)能(neng)(neng)安全治理專委會專家薛智(zhi)慧：如果從(cong)娛樂大眾(zhong)的(de)(de)角(jiao)度(du)來說的(de)(de)話，現在市面上也有很多的(de)(de)這些軟件和工具，能(neng)(neng)夠(gou)達到AI換臉的(de)(de)效果，但是仿真度(du)只有六(liu)七分(fen)的(de)(de)樣子，大眾(zhong)直(zhi)接(jie)就能(neng)(neng)看出(chu)來。但是如果要生(sheng)成一個詐騙視頻來說話，就要生(sheng)成咱們仿真度(du)極高(gao)的(de)(de)這種點對點視頻。

　　AI技術“換臉換聲”可能存在法律風險

　　不過，AI技(ji)術(shu)也是(shi)把“雙刃(ren)劍”，即使(shi)是(shi)出于娛(yu)樂(le)使(shi)用AI換臉、AI換聲，也是(shi)存在法(fa)律風險的。法(fa)律專家表示，用AI技(ji)術(shu)為他(ta)人(ren)換臉換聲甚(shen)至翻(fan)譯(yi)成其他(ta)語言(yan)并發布視頻，可(ke)能涉嫌(xian)侵權，主要有三個(ge)方面：

　　一是涉嫌(xian)侵(qin)犯著作權(quan)，例如(ru)相聲、小品等都屬(shu)于《中華人民共和國著作權(quan)法(fa)》保護的(de)“作品”。例如(ru)網友(you)用(yong)AI軟件將相聲、小品等“翻(fan)譯”成其他語言，需經過著作權(quan)人授(shou)權(quan)，否則就(jiu)存(cun)在侵(qin)權(quan)問題。

　　二(er)是(shi)(shi)涉(she)嫌侵犯(fan)肖像(xiang)權(quan)(quan)，根(gen)據《中(zhong)華人民(min)共和國民(min)法典(dian)》，任何組織(zhi)或者個(ge)人不(bu)(bu)得以丑化、污損，或者利用信息(xi)技術手段偽(wei)造等(deng)方(fang)式侵害(hai)他人的肖像(xiang)權(quan)(quan)。未(wei)經肖像(xiang)權(quan)(quan)人同意，不(bu)(bu)得制作、使用、公開肖像(xiang)權(quan)(quan)人的肖像(xiang)，但(dan)是(shi)(shi)法律另有規(gui)定的除外。

　　三(san)是涉(she)嫌侵犯聲(sheng)(sheng)音權(quan)，根據《中(zhong)華人(ren)民共和國民法典》規定，對自然人(ren)聲(sheng)(sheng)音的保(bao)護(hu)，參照(zhao)適用肖像權(quan)保(bao)護(hu)的有(you)關規定。也就是說，需要取得(de)聲(sheng)(sheng)音權(quan)人(ren)的同意，才能夠(gou)使用他人(ren)的聲(sheng)(sheng)音。

　　學會幾招 輕易識別AI“換臉換聲”

　　AI換臉這(zhe)一(yi)(yi)技術的出現，導致耳聽為(wei)虛(xu)、眼見(jian)也不一(yi)(yi)定為(wei)實了。那我們該如何防范呢？專家表示(shi)，其實AI人工換臉無論做得多么逼真，想要(yao)識別視頻真假還是有(you)一(yi)(yi)些方法(fa)的。

　　中國(guo)計算機學會(hui)安全(quan)專業(ye)委員會(hui)數字經濟與安全(quan)工作組成員方宇(yu)：實際上(shang)從我(wo)目(mu)前看到的深(shen)度偽造的實時(shi)視頻(pin)上(shang)來看，其(qi)實還是(shi)可以通過一些方式，去進行一些驗證。

　　那比(bi)如說我們可以要求對方在視(shi)頻對話(hua)的(de)時(shi)候(hou)呢(ni)，在臉(lian)部(bu)的(de)面前通過揮手的(de)方式，去進行一個識別，實時(shi)偽(wei)造的(de)視(shi)頻，因(yin)為(wei)它要對這個視(shi)頻進行實時(shi)的(de)生成和(he)處理和(he)AI的(de)換臉(lian)。

　　那么在揮(hui)手的(de)過(guo)程(cheng)中，就會造成這(zhe)種面部的(de)數據(ju)的(de)干擾，最終產生的(de)效果就是我(wo)們看到的(de)這(zhe)樣，揮(hui)手的(de)過(guo)程(cheng)中，他所(suo)偽(wei)造的(de)這(zhe)個人臉會產生一(yi)定(ding)的(de)抖動或者(zhe)(zhe)是一(yi)些閃(shan)現，或者(zhe)(zhe)是一(yi)些異常的(de)情(qing)況(kuang)。

　　第(di)二個就是點對點的(de)溝(gou)通中可以問(wen)一些(xie)只有對方(fang)知(zhi)道的(de)問(wen)題，驗證(zheng)對方(fang)的(de)真實性。

　　提高防范意識 避免個人生物信息泄露

　　專家表示，除了(le)一些辨別AI換(huan)臉詐(zha)騙(pian)(pian)的小訣竅，我們(men)每一個(ge)人都(dou)應(ying)該提高防范意識，在日(ri)常(chang)生活中也要做好相關防范措施，養成(cheng)良好的上(shang)網習慣(guan)。首先應(ying)該是做好日(ri)常(chang)的信(xin)息(xi)安(an)全(quan)的保護，加強對人臉、聲紋、指紋等(deng)生物特征數據的安(an)全(quan)防護：另(ling)外做好個(ge)人的手機(ji)、電腦等(deng)終端設備(bei)的軟硬件的安(an)全(quan)管理。第二(er)，不要登錄來(lai)路不明的網站，以免被病毒侵入。第三，對可能進行聲音、圖像甚至視頻和定(ding)位(wei)采集的應(ying)用，做好授權(quan)管理。不給(gei)他人收集自(zi)己信(xin)息(xi)的機(ji)會(hui)，也能在一定(ding)程度上(shang)讓(rang)AI換(huan)臉詐(zha)騙(pian)(pian)遠離自(zi)己。

　　伴隨AI技術發展 需要多層面監管規范

　　除了要(yao)提高自我防(fang)范(fan)意識，如(ru)何對AI技(ji)術加強監管(guan)，也成了越來(lai)越多(duo)人關注的問題(ti)。AI技(ji)術本身不(bu)是問題(ti)，關鍵(jian)是我們要(yao)怎么(me)用(yong)它？如(ru)何形成有效監管(guan)？專家介(jie)紹，AI技(ji)術發展，需要(yao)多(duo)層(ceng)面監管(guan)規范(fan)。

　　一(yi)是(shi)(shi)在(zai)源頭(tou)端，需要進(jin)一(yi)步加強(qiang)公民個人(ren)(ren)信(xin)息保護，尤(you)其(qi)是(shi)(shi)加強(qiang)對(dui)(dui)生(sheng)物特(te)征等隱(yin)私信(xin)息的(de)(de)技(ji)術(shu)、司法(fa)保護力(li)度。二是(shi)(shi)在(zai)技(ji)術(shu)層面可(ke)以加強(qiang)管理。例如可(ke)以讓視頻傳(chuan)播網站或者社交(jiao)軟(ruan)(ruan)件(jian)，使用專業的(de)(de)鑒別(bie)軟(ruan)(ruan)件(jian)來鑒定，對(dui)(dui)AI生(sheng)成(cheng)視頻，打上不可(ke)消除的(de)(de)“AI生(sheng)成(cheng)”水印(yin)字樣。目(mu)前，這種數字水印(yin)鑒偽(wei)技(ji)術(shu)有(you)待進(jin)一(yi)步普及。三是(shi)(shi)在(zai)法(fa)律制度層面，要進(jin)一(yi)步完善人(ren)(ren)工智能等領域(yu)相關法(fa)律法(fa)規。2023年8月15日，我國正(zheng)式施(shi)行《生(sheng)成(cheng)式人(ren)(ren)工智能服務(wu)管理暫行辦法(fa)》。《辦法(fa)》從(cong)多(duo)個方面“劃下(xia)紅線”，旨在(zai)促(cu)進(jin)生(sheng)成(cheng)式人(ren)(ren)工智能健康發展和規范應用。（記者 崔世(shi)杰）