近年來，AI換臉隨著人工智能技術的防范進步，一些不法分子開始利用AI技術融合他人面孔和聲音，詐騙知識制造非常逼真的都兒合成圖像來實施新型網絡詐騙，這類騙局常常會在短時間內給被害人造成較大損失。AI換臉我們應該如何看清這類AI“深度造假”？辨別“AI換臉”有沒有什么好方法？我們先來看看近期發生在陜西西安的防范百姓彩票紅一起“AI換(huan)臉”詐(zha)騙(pian)案例。

　　陜(shan)西西安財務人員(yuan)張女(nv)士(shi)與老板視頻(pin)通話(hua)，詐騙知(zhi)識老板要求她轉賬(zhang)186萬元到一個(ge)指定賬(zhang)號。都兒(er)

　　被害(hai)人張女士：老板讓(rang)把(ba)這個款(kuan)趕緊轉過去，這個款(kuan)非常著(zhu)急，防范因為他(ta)聲音還有視頻(pin)圖像都跟他(ta)人長得(de)一樣的(de)詐騙知識，所(suo)以就更(geng)確信這筆款(kuan)是(shi)都兒(er)他(ta)說的(de)了，然(ran)后我直接就把(ba)這筆款(kuan)轉了。AI換臉

　　轉賬之后，防范張女士按照規定將電子憑證發到了公司財(cai)務內部群里，詐(zha)騙知識然而出乎意料的(de)是，群里的(de)老板(ban)看到信息后，向她詢問這筆(bi)資金的(de)來由？

　　被害人 張女士：然后我(wo)們就打電話再跟老板去核(he)實，老板說他沒有給(gei)我(wo)發過視頻，然后也沒有說過這(zhe)筆轉賬。

　　意識到(dao)被騙(pian)的(de)張女士連(lian)忙報(bao)警求助，警方立刻(ke)對(dui)接(jie)反(fan)詐中(zhong)心(xin)、聯系相關銀行(xing)進行(xing)緊急止付，最終保(bao)住了(le)大部分被騙(pian)資金156萬元。

　　AI“多人換臉”詐騙案 騙走2億港元

　　一百多萬的現金，對大部分人來說都算是一筆巨款了，好在警方處理及時，挽回了大部分損失，百姓彩票最新網址下面我們再來看另一(yi)起(qi)(qi)案(an)(an)例(li)，這起(qi)(qi)案(an)(an)例(li)的“換臉”技(ji)術難度(du)更高，涉案(an)(an)金額也(ye)更大。近期，香港警方也(ye)披露了(le)一(yi)起(qi)(qi)AI"多(duo)人換臉"詐騙案(an)(an)，涉案(an)(an)金額高達2億港元。

　　在該起案件(jian)中，一家跨國(guo)公司香港(gang)分(fen)部(bu)的(de)(de)職員(yuan)，受(shou)邀參加(jia)總部(bu)首席財務(wu)官發(fa)起的(de)(de)多人(ren)的(de)(de)視(shi)頻會(hui)議。并(bing)按照要求，前(qian)后轉賬(zhang)多次，將2億港(gang)元轉賬(zhang)到5個(ge)本(ben)地(di)銀(yin)行賬(zhang)戶內(nei)，其后向總部(bu)查詢方(fang)知受(shou)騙。警方(fang)調查得知，這起案件(jian)中，所謂的(de)(de)視(shi)頻會(hui)議中，只(zhi)受(shou)害者一人(ren)為“真人(ren)”，其余所謂參會(hui)人(ren)員(yuan)，全部(bu)是(shi)經過AI換臉后的(de)(de)詐(zha)騙人(ren)員(yuan)。

　　看完(wan)這兩起案(an)例，您一定有些好奇，AI換(huan)臉(lian)背后(hou)的(de)技(ji)術原理到底是什么？在技(ji)術層面，它是如何(he)實(shi)現人(ren)臉(lian)的(de)精確(que)識(shi)別與(yu)替換(huan)，創造(zao)出逼真效果？我們(men)來聽(ting)聽(ting)專家(jia)的(de)講解。

　　技術上如何實現人臉精確識別與替換

　　中國網絡空間安全協會人工智能安全治理專委會專家薛智慧：AI換臉過程主要包括人臉識別追蹤、面部特征提取、人臉變換融合、百姓彩票怎么買背景環(huan)境渲染、圖像與(yu)音頻合成等幾(ji)個關鍵(jian)步(bu)驟(zou)。其(qi)背后(hou)最核(he)心的(de)(de)包括為三個部分，首先，利用深度(du)學習算法精準地識別視頻中(zhong)的(de)(de)人臉(lian)(lian)圖像，并提取出(chu)如眼睛、鼻(bi)子、嘴巴等關鍵(jian)面部特征。其(qi)次(ci)，將這些特征與(yu)目標人臉(lian)(lian)圖像進行(xing)匹配、替換(huan)、融合。最后(hou)，通(tong)過背景環(huan)境渲染并添(tian)加合成后(hou)的(de)(de)聲音，生成逼(bi)真度(du)較(jiao)高的(de)(de)虛(xu)假(jia)換(huan)臉(lian)(lian)視頻。

　　快速AI“換臉”僅通過一張照片就可完成

　　為了(le)(le)了(le)(le)解AI換臉到底(di)能(neng)有多么逼真(zhen)，記(ji)者經過與專業技術人員合作，深度體驗(yan)了(le)(le)AI換臉技術。

　　技術(shu)人員首(shou)先用手(shou)機給(gei)記(ji)者拍了一張臉部照(zhao)片，導入到AI人工智能軟(ruan)件后(hou)，讓記(ji)者驚訝的是(shi)(shi)，雖然電腦(nao)攝像頭前(qian)的是(shi)(shi)技術(shu)人員，但(dan)是(shi)(shi)輸出(chu)的確是(shi)(shi)記(ji)者的照(zhao)片，幾乎可以(yi)說是(shi)(shi)“一鍵換(huan)臉”，不需要復雜的環(huan)境和解(jie)壓操作。

　　更(geng)令人驚(jing)訝的(de)是，隨(sui)著技術(shu)人員面部(bu)表情變化(hua)，照片(pian)上(shang)記者的(de)臉也跟著一起發(fa)生(sheng)了相應變化(hua)。

　　記者：為什么技術人員(yuan)這張(zhang)臉動(dong)，我的照片(pian)會跟(gen)著(zhu)動(dong)呢？

　　中國網絡空間(jian)安全協會人工智能安全治理(li)專(zhuan)委會專(zhuan)家薛智慧：首先通過視頻的(de)(de)(de)采集(ji)(ji)，能夠(gou)把圖片里(li)這個人臉的(de)(de)(de)面(mian)(mian)部(bu)(bu)追蹤定位(wei)到，定位(wei)到以(yi)后第(di)二(er)步他能夠(gou)做一(yi)個人臉的(de)(de)(de)面(mian)(mian)部(bu)(bu)特(te)征(zheng)點的(de)(de)(de)采集(ji)(ji)和提(ti)取，主(zhu)要就是包括(kuo)嘴(zui)、鼻子跟(gen)眼睛相關的(de)(de)(de)這些明(ming)顯的(de)(de)(de)面(mian)(mian)部(bu)(bu)特(te)征(zheng)。采集(ji)(ji)到以(yi)后，第(di)三步就跟(gen)把這張(zhang)原始(shi)的(de)(de)(de)照(zhao)片，做一(yi)個變換(huan)跟(gen)融合跟(gen)整(zheng)形(xing)。

　　記者：通過這張(zhang)照片還(huan)可以做到什么？

　　中(zhong)國網絡空(kong)間安全協(xie)會(hui)人(ren)工智能(neng)安全治理(li)專委會(hui)專家薛智慧：當前(qian)通過這(zhe)張照(zhao)(zhao)片技術人(ren)員已(yi)經讓(rang)這(zhe)張照(zhao)(zhao)片能(neng)夠(gou)動(dong)起來(lai)(lai)，活(huo)起來(lai)(lai)了，而如果更進一(yi)步的將這(zhe)張照(zhao)(zhao)片存(cun)(cun)下來(lai)(lai)，能(neng)夠(gou)存(cun)(cun)儲大量的照(zhao)(zhao)片的話。后期可以把這(zhe)張照(zhao)(zhao)片合成一(yi)段簡短的視頻發(fa)布出來(lai)(lai)。

　　人工智能人臉檢測技(ji)(ji)術(shu)(shu)主要通(tong)過深(shen)度學習算法實(shi)現(xian)，這種技(ji)(ji)術(shu)(shu)能夠識別出面(mian)部特征(zheng)(zheng)并對其進(jin)行(xing)精準的(de)(de)分析(xi)。可(ke)以將(jiang)一(yi)(yi)個人的(de)(de)面(mian)部表(biao)情從一(yi)(yi)張照片或視頻中提取出來，并將(jiang)其與(yu)另一(yi)(yi)個人的(de)(de)面(mian)部特征(zheng)(zheng)進(jin)行(xing)匹配。專家告訴記者，如果想要實(shi)現(xian)視頻實(shi)時通(tong)話時采用人工智能AI換臉技(ji)(ji)術(shu)(shu)，一(yi)(yi)張照片是遠遠不(bu)夠的(de)(de)，那就需要不(bu)同角度的(de)(de)近千(qian)張照片的(de)(de)采集。

　　中國網絡空間(jian)安全協(xie)會人工智能安全治理專(zhuan)委會專(zhuan)家(jia)薛智慧：如果要實(shi)時(shi)點(dian)對點(dian)交流的(de)(de)話，需要再采集更(geng)多的(de)(de)照片，完了(le)(le)進行深度學習算法模型(xing)的(de)(de)訓練，訓練出(chu)來這個模型(xing)以(yi)后(hou)灌到(dao)咱們這個視頻(pin)里去，就可(ke)以(yi)做實(shi)時(shi)的(de)(de)變化跟轉換了(le)(le)。這種情況(kuang)下，就可(ke)以(yi)做到(dao)實(shi)時(shi)的(de)(de)變臉。聲(sheng)音的(de)(de)交流也可(ke)以(yi)，需要預先采集一些(xie)咱們目(mu)(mu)標(biao)人群(qun)當(dang)中的(de)(de)聲(sheng)音，然(ran)后(hou)進行模型(xing)的(de)(de)訓練，能夠把(ba)目(mu)(mu)標(biao)人群(qun)的(de)(de)聲(sheng)音還原出(chu)來。

　　AI生成仿真度極高視頻 難度高投入大

　　專家介(jie)紹，以詐(zha)騙為目的，實施點對(dui)點視頻通(tong)話，需要AI人工智(zhi)能(neng)生成仿真(zhen)度(du)極(ji)高的視頻。想要達到以假(jia)亂真(zhen)效果用于詐(zha)騙，難度(du)不小。

　　中國計算機(ji)學會安(an)(an)全(quan)專業委員會數字經濟與安(an)(an)全(quan)工作組成(cheng)員方宇：針對(dui)(dui)詐騙，其實(shi)主(zhu)要(yao)是(shi)通過點(dian)對(dui)(dui)點(dian)的(de)視頻(pin)通話(hua)，這時(shi)候如(ru)果采用換臉技(ji)術和聲音合(he)成(cheng)做(zuo)實(shi)時(shi)的(de)換臉詐騙的(de)話(hua)，想要(yao)完(wan)成(cheng)這些技(ji)術操作，就需要(yao)投入(ru)很強的(de)技(ji)術支(zhi)持。

　　中國網絡空間安全協會(hui)(hui)人(ren)(ren)工智能(neng)安全治理專委會(hui)(hui)專家(jia)薛智慧：背后需要(yao)有(you)大量(liang)的(de)資(zi)金的(de)投(tou)入，包(bao)括圖(tu)片(pian)的(de)采集(ji)，包(bao)括專業算(suan)法的(de)人(ren)(ren)員(yuan)等等，需要(yao)很長的(de)一個(ge)周(zhou)期，包(bao)括一些(xie)算(suan)力算(suan)法。各方(fang)面的(de)投(tou)入，需要(yao)長時間不(bu)斷地迭(die)代，進(jin)行(xing)操作，才(cai)能(neng)達(da)到一個(ge)相當逼(bi)真的(de)效果，才(cai)有(you)可(ke)能(neng)實(shi)現(xian)到詐騙的(de)實(shi)際效果。

　　目前AI“換臉”更多應用于娛樂視頻錄制

　　除了(le)一些不法(fa)分子企圖利用(yong)AI技術實施詐騙，事實上，近年(nian)來(lai)，AI技術更多(duo)(duo)地被應(ying)用(yong)于(yu)短(duan)視(shi)(shi)頻(pin)的(de)(de)二次創(chuang)作，屬于(yu)娛樂性質，越(yue)來(lai)越(yue)多(duo)(duo)的(de)(de)名人AI換臉視(shi)(shi)頻(pin)出現在網絡(luo)上，不少網友感嘆，這類視(shi)(shi)頻(pin)“嘴(zui)型(xing)、手勢都(dou)對得上，太(tai)自然了(le)，差點兒以為是真的(de)(de)。”

　　比如(ru)這(zhe)款軟件(jian)，拍(pai)下記者面(mian)部照片后，就能錄制生(sheng)成出一(yi)段記者秒變賽車手(shou)的視頻。

△網友(you)發布的女(nv)士系絲巾原(yuan)版視頻

△需要變換的(de)臉的(de)照片

△生成視頻

　　中國計算機學會安(an)全專業委(wei)員(yuan)會數(shu)字(zi)經濟與(yu)安(an)全工作組成員(yuan)方宇：AI技術(shu)目前我們(men)常看(kan)(kan)到的主(zhu)要(yao)是(shi)(shi)短視頻(pin)(pin)換臉，通(tong)過做一些(xie)(xie)特(te)定的動作，跳舞啊等等。這(zhe)些(xie)(xie)視頻(pin)(pin)其(qi)實看(kan)(kan)起來(lai)是(shi)(shi)有一些(xie)(xie)不(bu)自然(ran)的，本(ben)身(shen)也是(shi)(shi)純(chun)屬于娛樂性(xing)質的換臉。

　　記者發現在手機(ji)應用商城中，有數十款換臉軟件(jian)，都可以做到(dao)換臉的(de)目的(de)。

　　中國(guo)網絡空間安全協會(hui)人工智能(neng)安全治理專(zhuan)委會(hui)專(zhuan)家(jia)薛智慧：如果(guo)從娛樂大(da)眾(zhong)的角度來說的話，現在市面上也有(you)(you)很多的這些軟件和工具，能(neng)夠達到AI換臉的效果(guo)，但(dan)是仿真度只有(you)(you)六七分的樣子，大(da)眾(zhong)直接就能(neng)看(kan)出來。但(dan)是如果(guo)要(yao)(yao)生成一個詐騙(pian)視頻(pin)來說話，就要(yao)(yao)生成咱們(men)仿真度極高的這種點對點視頻(pin)。

　　AI技術“換臉換聲”可能存在法律風險

　　不過，AI技(ji)術也(ye)是把“雙刃劍”，即使是出于(yu)娛樂使用(yong)AI換(huan)臉、AI換(huan)聲(sheng)，也(ye)是存在法律風險的。法律專(zhuan)家表示，用(yong)AI技(ji)術為他(ta)人(ren)換(huan)臉換(huan)聲(sheng)甚至翻譯成其他(ta)語言并發(fa)布視(shi)頻，可能涉嫌侵權(quan)，主要有三(san)個方面：

　　一是(shi)涉嫌侵(qin)犯著(zhu)(zhu)作權(quan)，例如(ru)相(xiang)聲、小品等都屬于(yu)《中華人民共和國著(zhu)(zhu)作權(quan)法(fa)》保護的“作品”。例如(ru)網友(you)用AI軟件將相(xiang)聲、小品等“翻譯(yi)”成其他語言，需經過著(zhu)(zhu)作權(quan)人授權(quan)，否(fou)則就(jiu)存在侵(qin)權(quan)問題。

　　二是(shi)(shi)涉嫌侵(qin)犯肖(xiao)像(xiang)權，根據《中華人(ren)(ren)民共和國(guo)民法典》，任何組(zu)織或者個人(ren)(ren)不得(de)以丑化、污(wu)損，或者利用信息技術手段偽造(zao)等方式(shi)侵(qin)害他人(ren)(ren)的(de)肖(xiao)像(xiang)權。未經肖(xiao)像(xiang)權人(ren)(ren)同意，不得(de)制作、使用、公開肖(xiao)像(xiang)權人(ren)(ren)的(de)肖(xiao)像(xiang)，但是(shi)(shi)法律另(ling)有規定的(de)除外(wai)。

　　三(san)是涉嫌侵犯聲音(yin)權，根據《中華人民共和國民法(fa)典》規定(ding)，對(dui)自然人聲音(yin)的(de)保護(hu)，參照適(shi)用肖(xiao)像權保護(hu)的(de)有關規定(ding)。也就是說(shuo)，需要取得聲音(yin)權人的(de)同意，才能夠使(shi)用他人的(de)聲音(yin)。

　　學會幾招 輕易識別AI“換臉換聲”

　　AI換臉這一(yi)技術(shu)的出現，導致(zhi)耳聽(ting)為虛、眼見(jian)也不一(yi)定為實了。那(nei)我們(men)該如何防范呢？專家表(biao)示，其實AI人工(gong)換臉無論(lun)做(zuo)得多(duo)么逼真(zhen)，想要(yao)識別視頻真(zhen)假還是(shi)有(you)一(yi)些(xie)方法的。

　　中國(guo)計算機(ji)學會安(an)全(quan)專業(ye)委員(yuan)會數字經濟與安(an)全(quan)工作組成員(yuan)方宇(yu)：實(shi)際上從我目前看到(dao)的深度偽造的實(shi)時視頻上來看，其實(shi)還是可以通過一些方式(shi)，去進行一些驗證(zheng)。

　　那(nei)比如說(shuo)我們可以要求(qiu)對(dui)(dui)(dui)方在(zai)視(shi)頻(pin)對(dui)(dui)(dui)話的時候呢，在(zai)臉部的面前通過揮手的方式，去(qu)進行一個識別，實時偽造的視(shi)頻(pin)，因(yin)為它要對(dui)(dui)(dui)這個視(shi)頻(pin)進行實時的生成和處理和AI的換(huan)臉。

　　那么(me)在揮手的(de)(de)(de)(de)過(guo)程(cheng)中(zhong)，就會(hui)造成這(zhe)種面部的(de)(de)(de)(de)數據的(de)(de)(de)(de)干擾，最(zui)終產生的(de)(de)(de)(de)效(xiao)果(guo)就是我們看到的(de)(de)(de)(de)這(zhe)樣，揮手的(de)(de)(de)(de)過(guo)程(cheng)中(zhong)，他所偽造的(de)(de)(de)(de)這(zhe)個(ge)人臉會(hui)產生一定的(de)(de)(de)(de)抖動或者是一些(xie)閃(shan)現，或者是一些(xie)異常的(de)(de)(de)(de)情況。

　　第二個就是(shi)點對(dui)(dui)點的(de)溝(gou)通(tong)中可以(yi)問一些只有對(dui)(dui)方知道的(de)問題，驗證對(dui)(dui)方的(de)真實性。

　　提高防范意識 避免個人生物信息泄露

　　專家表示(shi)，除了一(yi)些辨別AI換(huan)臉詐(zha)騙的(de)小訣竅，我(wo)們每一(yi)個人都應該提高防(fang)范(fan)意識，在(zai)日常生活中也(ye)要(yao)(yao)做好(hao)相關防(fang)范(fan)措施，養(yang)成良好(hao)的(de)上網習(xi)慣。首先應該是做好(hao)日常的(de)信(xin)息(xi)安(an)全(quan)的(de)保護，加強(qiang)對人臉、聲紋、指紋等生物特征數(shu)據的(de)安(an)全(quan)防(fang)護：另外做好(hao)個人的(de)手機、電腦等終端(duan)設備的(de)軟硬(ying)件的(de)安(an)全(quan)管理。第(di)二(er)，不(bu)(bu)要(yao)(yao)登錄(lu)來路不(bu)(bu)明的(de)網站，以免被病毒侵入。第(di)三，對可能(neng)(neng)進行聲音、圖(tu)像(xiang)甚至視頻和定位采集的(de)應用，做好(hao)授權管理。不(bu)(bu)給他人收集自己信(xin)息(xi)的(de)機會，也(ye)能(neng)(neng)在(zai)一(yi)定程度(du)上讓(rang)AI換(huan)臉詐(zha)騙遠離自己。

　　伴隨AI技術發展 需要多層面監管規范

　　除(chu)了要提(ti)高自我防范(fan)意識，如(ru)何對(dui)AI技術(shu)加強監管(guan)，也成了越來越多人關注的問題(ti)(ti)。AI技術(shu)本(ben)身不是(shi)問題(ti)(ti)，關鍵是(shi)我們要怎么用它？如(ru)何形成有效(xiao)監管(guan)？專家介紹，AI技術(shu)發展，需要多層面監管(guan)規范(fan)。

　　一(yi)(yi)是(shi)在(zai)源頭端(duan)，需要進(jin)一(yi)(yi)步加強(qiang)公(gong)民(min)個人信息保(bao)護，尤其(qi)是(shi)加強(qiang)對生(sheng)(sheng)物特征等隱私信息的(de)(de)技術、司法(fa)(fa)保(bao)護力度(du)(du)。二是(shi)在(zai)技術層面可以加強(qiang)管(guan)理。例如(ru)可以讓視頻傳(chuan)播網站或(huo)者(zhe)社交軟件，使用專業(ye)的(de)(de)鑒(jian)別軟件來鑒(jian)定，對AI生(sheng)(sheng)成(cheng)視頻，打上(shang)不可消除(chu)的(de)(de)“AI生(sheng)(sheng)成(cheng)”水印(yin)字樣。目前，這(zhe)種數字水印(yin)鑒(jian)偽技術有(you)待進(jin)一(yi)(yi)步普及。三是(shi)在(zai)法(fa)(fa)律制(zhi)度(du)(du)層面，要進(jin)一(yi)(yi)步完善人工(gong)智能等領域相關(guan)法(fa)(fa)律法(fa)(fa)規。2023年8月15日(ri)，我(wo)國正式施行《生(sheng)(sheng)成(cheng)式人工(gong)智能服務管(guan)理暫行辦(ban)法(fa)(fa)》。《辦(ban)法(fa)(fa)》從(cong)多個方面“劃下紅線(xian)”，旨在(zai)促進(jin)生(sheng)(sheng)成(cheng)式人工(gong)智能健康發展(zhan)和規范應(ying)用。（記(ji)者(zhe) 崔世杰(jie)）