每經(jing)記(ji)者 陳鵬麗  可(ke)楊    每經(jing)編輯(ji) 董(dong)興生    

生成(cheng)式人(ren)工智能（GAI）時代，深度偽造似乎沒有什么(me)不能被(bei)顛覆，驚動連人(ren)們(men)一(yi)直堅信不疑的美國“眼見為(wei)實”“有圖有真相(xiang)”也逐漸成(cheng)為(wei)空(kong)話。

今年春節期間，白宮OpenAI發布的司被文生視頻模型Sora橫空出世，被認為是騙億百姓彩票最新網址“AGI（人(ren)工通用(yong)智能）的(de)(de)(de)重要(yao)里程碑(bei)”，將(jiang)顛(dian)覆視頻內(nei)容生(sheng)成方式(shi)。港元(yuan)Sora的(de)(de)(de)深(shen)(shen)度(du)(du)偽造(zao)(zao)出(chu)(chu)現(xian)，振奮科技圈的(de)(de)(de)驚動同時也衍(yan)生(sheng)出(chu)(chu)了擔憂的(de)(de)(de)情緒。有專(zhuan)家稱(cheng)，美(mei)國(guo)這類(lei)技術可(ke)能會導致“深(shen)(shen)度(du)(du)偽造(zao)(zao)”視頻增多，白宮讓人(ren)難以識別真偽。司(si)被(bei)OpenAI自己也承認(ren)，騙(pian)億無(wu)法預(yu)測(ce)人(ren)們使(shi)用(yong)Sora的(de)(de)(de)港元(yuan)所(suo)有有益方式(shi)，也無(wu)法預(yu)測(ce)人(ren)們濫用(yong)它的(de)(de)(de)深(shen)(shen)度(du)(du)偽造(zao)(zao)所(suo)有方式(shi)。

Sora根據提(ti)示詞生(sheng)成(cheng)的視(shi)頻畫面截圖(tu) 圖(tu)片來(lai)源(yuan)：OpenAI官網

在Sora誕生之(zhi)前，AI“深度(du)偽(wei)造(zao)”技術已(yi)經在海(hai)內外(wai)引發擔憂，知名(ming)明星(xing)與跨(kua)國公(gong)司(si)相繼成(cheng)為AI“深度(du)偽(wei)造(zao)”的(de)受(shou)害者(zhe)。今年1月底，明星(xing)泰勒(le)·斯威夫(fu)特(te)（Taylor Swift，中文綽(chuo)號“霉霉”）大(da)量虛假“不雅照片”在社交(jiao)平(ping)臺上傳播(bo)。此事(shi)震(zhen)動美國白宮(gong)，并掀起一(yi)(yi)波(bo)關(guan)于人工智能(neng)的(de)擔憂。2月4日，據香港(gang)文匯報報道(dao)，有(you)詐騙(pian)集團利(li)用AI“深度(du)偽(wei)造(zao)”技術向一(yi)(yi)家跨(kua)國公(gong)司(si)的(de)香港(gang)分公(gong)司(si)實施詐騙(pian)，并成(cheng)功騙(pian)走2億港(gang)元(yuan)，這也是香港(gang)迄(qi)今為止(zhi)損失最大(da)的(de)“換臉(lian)”案例。

諸如此類的(de)案(an)例越(yue)來(lai)越(yue)多，人工(gong)智能(neng)帶來(lai)的(de)新型焦慮正在形成。瑞萊智慧Real AI聯合創始人&算法科(ke)學家蕭子豪在接(jie)受《每(mei)日經濟新聞(wen)》記者采(cai)訪時就表示，他們判斷，2024年這種利(li)用(yong)AI“深(shen)度偽(wei)造(zao)”技(ji)術(shu)(shu)實施的(de)詐騙案(an)件會進一(yi)步增加，因為(wei)“深(shen)度偽(wei)造(zao)”技(ji)術(shu)(shu)工(gong)程化落地(di)速度很快，“即使是不了解技(ji)術(shu)(shu)的(de)普(pu)通人，也能(neng)夠(gou)制作‘深(shen)度偽(wei)造(zao)’的(de)內容(rong)”。

娛樂還是犯罪？

“深度偽造”一詞譯自英文“Deepfake”（deep learning和fake的組合），現亦稱深度合成（Deep Synthesis）。“Deepfake”誕生于美國。2017年，百姓彩票紅美國(guo)一名為Deepfake的用(yong)戶在社交網站Reddit上發布了一則與知名演(yan)員有關的偽(wei)造視頻(pin)，這項技術隨后(hou)被迅速應(ying)用(yong)到多(duo)個領域，包括色情、政治、廣告、娛樂等。

上海(hai)合合信息(xi)科技(ji)股份有(you)(you)限(xian)公(gong)司（以(yi)下(xia)簡稱“合合信息(xi)”）圖像(xiang)算(suan)法研(yan)發總監郭豐俊告訴《每日經(jing)濟新聞》記者，在國(guo)內(nei)，“深度(du)偽造”技(ji)術有(you)(you)積(ji)極應用(yong)，也(ye)有(you)(you)負面應用(yong)。

積極(ji)應(ying)用(yong)(yong)往往在(zai)于：一、個人(ren)(ren)(ren)娛樂。一些APP可(ke)(ke)為用(yong)(yong)戶(hu)提供藝(yi)(yi)術(shu)照(zhao)模(mo)板(ban)，通過(guo)換(huan)(huan)臉(lian)形式生成(cheng)用(yong)(yong)戶(hu)照(zhao)片(pian)，用(yong)(yong)戶(hu)足不出戶(hu)也能“拍”出好看照(zhao)片(pian)。此外，“深度(du)偽造”技(ji)(ji)術(shu)也可(ke)(ke)用(yong)(yong)于制作搞笑視(shi)(shi)(shi)頻、模(mo)仿名人(ren)(ren)(ren)表演(yan)，但這可(ke)(ke)能涉及版(ban)權和道德(de)等問題；二、教育(yu)。Deepfake技(ji)(ji)術(shu)合(he)成(cheng)的(de)歷史人(ren)(ren)(ren)物講解視(shi)(shi)(shi)頻讓教學更有趣味(wei)性；三(san)、影視(shi)(shi)(shi)制作。如電影、電視(shi)(shi)(shi)劇及綜(zong)藝(yi)(yi)節(jie)目中演(yan)員換(huan)(huan)臉(lian)，紀(ji)錄片(pian)中為保護(hu)(hu)參演(yan)者隱私和安全(quan)而(er)換(huan)(huan)臉(lian)等；四(si)、醫(yi)療。醫(yi)院描述(shu)(shu)或診斷患(huan)者面(mian)部(bu)(bu)肌肉(rou)疾病時(shi)，如果將患(huan)者人(ren)(ren)(ren)臉(lian)打(da)馬(ma)賽(sai)克(ke)，就看不出面(mian)部(bu)(bu)癥狀，這時(shi)應(ying)用(yong)(yong)Deepfake技(ji)(ji)術(shu)，可(ke)(ke)把病人(ren)(ren)(ren)視(shi)(shi)(shi)頻里(li)的(de)臉(lian)，換(huan)(huan)成(cheng)一張假臉(lian)，既可(ke)(ke)以保留人(ren)(ren)(ren)臉(lian)的(de)運動信息，亦保護(hu)(hu)了病人(ren)(ren)(ren)隱私；五、藝(yi)(yi)術(shu)。比如有美(mei)術(shu)館利用(yong)(yong)Deepfake技(ji)(ji)術(shu)讓已(yi)故的(de)藝(yi)(yi)術(shu)家“現(xian)身”講述(shu)(shu)自(zi)己的(de)故事和作品等。

但現實生活中，“深度偽造”技術也被廣泛應用于詐騙、色情等非法場景。百姓神彩票比如，一些(xie)不法分子(zi)借(jie)助“深(shen)度偽(wei)造(zao)(zao)”技(ji)(ji)術(shu)散布虛假視頻，甚至制造(zao)(zao)虛假新聞，危害(hai)社會；隨著(zhu)視頻換臉技(ji)(ji)術(shu)門檻降低，別有用(yong)心之人利用(yong)“深(shen)度偽(wei)造(zao)(zao)”技(ji)(ji)術(shu)可以輕易(yi)盜用(yong)他人身份，實施商業詆毀、敲詐勒索、網(wang)絡攻擊和犯罪(zui)等。

記(ji)者注意到，目前，海內外均有大量由“深度偽(wei)造”技術引發的深度造假案例(li)，這些案例(li)普遍造成了(le)不小的負面(mian)影響。

比如，近日(ri)(ri)被(bei)傳(chuan)出(chu)大(da)量虛(xu)假(jia)“不(bu)雅照(zhao)”的(de)泰勒·斯威(wei)夫特。據九派新聞報(bao)道(dao)，泰勒·斯威(wei)夫特正考慮(lv)對(dui)生(sheng)成這(zhe)些圖(tu)(tu)片的(de)網站(zhan)采取法律行動。1月(yue)26日(ri)(ri)的(de)美(mei)國白(bai)宮記者會(hui)上(shang)，發言人讓-皮埃爾被(bei)問及此(ci)事(shi)時表示：“我們對(dui)此(ci)類圖(tu)(tu)像流(liu)傳(chuan)感到擔(dan)(dan)憂，更確切地說(shuo)，是虛(xu)假(jia)圖(tu)(tu)像，這(zhe)令人擔(dan)(dan)憂。”據澎(peng)湃新聞報(bao)道(dao)，這(zhe)不(bu)是泰勒·斯威(wei)夫特第一(yi)(yi)(yi)次被(bei)AI“造(zao)假(jia)”。在(zai)這(zhe)次“不(bu)雅照(zhao)”事(shi)件前不(bu)久(jiu)，一(yi)(yi)(yi)則由人工智能生(sheng)成的(de)泰勒·斯威(wei)夫特帶貨廣(guang)告(gao)在(zai)海外社(she)交媒體上(shang)傳(chuan)播(bo)。這(zhe)則虛(xu)假(jia)廣(guang)告(gao)利用“深度偽造(zao)”技術，合成“霉(mei)(mei)霉(mei)(mei)”的(de)聲(sheng)音，并將聲(sheng)音及她的(de)形象和某品牌炊具(ju)廣(guang)告(gao)片段拼湊在(zai)一(yi)(yi)(yi)起(qi)，以(yi)“霉(mei)(mei)霉(mei)(mei)”身份宣稱免費向粉絲贈送炊具(ju)，引導受(shou)害者點(dian)擊并支付9.96美(mei)元運費，但炊具(ju)不(bu)會(hui)真的(de)送出(chu)去。

泰勒·斯(si)威夫特(te)深受“深度偽造”困擾的(de)背后，女(nv)性(xing)正成(cheng)為不(bu)法分子實(shi)施侵(qin)害(hai)的(de)重要目(mu)標群體，他(ta)們利用(yong)(yong)“深度偽造”技術(shu)制造各種(zhong)女(nv)性(xing)不(bu)雅(ya)視頻(pin)、圖(tu)片牟(mou)利。據網(wang)絡安全研究(jiu)機構Sensity在2020年秋季發布(bu)的(de)報告，在Telegram的(de)應(ying)(ying)用(yong)(yong)中，至少有10.48萬名女(nv)性(xing)“被裸(luo)體”，而(er)在分發這些照片的(de)7個頻(pin)道中，累計用(yong)(yong)戶超(chao)(chao)過10萬。根據Sensity的(de)追蹤調查，Telegram應(ying)(ying)用(yong)(yong)中超(chao)(chao)七成(cheng)的(de)使用(yong)(yong)者表(biao)示他(ta)們上(shang)傳的(de)照片是通過社交(jiao)平(ping)臺，或其(qi)他(ta)私(si)人(ren)渠道取得的(de)。

英國Wired雜志于2020年發布的一篇報道也(ye)曾指出(chu)，2020年7月以(yi)來，至少有10萬名女(nv)性(xing)被“深度(du)偽造”應用DeepNude（深度(du)偽造軟(ruan)件，現已下(xia)架）創建了裸照(zhao)，其中(zhong)一些人不到18歲。

一些國家(jia)的(de)政客(ke)也(ye)成為不(bu)法分子制造虛假(jia)視頻(pin)的(de)對象。1月21日，美國新罕布(bu)什爾(er)州一些選民稱接到了“拜登(deng)總(zong)(zong)統”的(de)自動留言電(dian)話(hua)，告(gao)訴接聽者不(bu)要(yao)在該州初選中(zhong)投(tou)票。美國白宮新聞(wen)秘(mi)書卡琳·讓-皮埃爾(er)（Karine Jean-Pierre）次(ci)日回(hui)應稱：“那(nei)通電(dian)話(hua)確實(shi)是假(jia)的(de)，（拜登(deng)）總(zong)(zong)統沒有錄音。我可以證實(shi)這(zhe)一點。”

更嚴重的(de)還有，Deepfake甚至(zhi)參與到了戰爭當(dang)中(zhong)，成(cheng)為“新型武器”。2022年3月，一條(tiao)烏克(ke)蘭(lan)總統弗拉基(ji)米(mi)爾·澤連斯(si)基(ji)（Volodymyr Zelensky）的(de)“視頻(pin)(pin)”被廣泛傳播，在該(gai)視頻(pin)(pin)中(zhong)，澤連斯(si)基(ji)呼吁烏克(ke)蘭(lan)士兵放(fang)下(xia)武器投降(jiang)。事件發生后，烏克(ke)蘭(lan)國(guo)防部在其海外社(she)交媒體官(guan)方賬號發布了澤連斯(si)基(ji)的(de)視頻(pin)(pin)，并(bing)配(pei)文稱：“請注意，這是(shi)不可能(neng)的(de)。”

在(zai)國內，中國香(xiang)港近期(qi)發(fa)生了一(yi)(yi)起(qi)規模(mo)龐大的(de)AI“深度(du)(du)偽(wei)造(zao)”詐(zha)騙案。詐(zha)騙者通過搜集一(yi)(yi)家跨(kua)國公司(si)英國高層在(zai)YouTube上(shang)的(de)公開影(ying)像(xiang)，再(zai)利用AI“深度(du)(du)偽(wei)造(zao)”技術，給詐(zha)騙者換(huan)上(shang)公司(si)高層的(de)面部和聲(sheng)音，從(cong)而實施(shi)詐(zha)騙，并成功從(cong)香(xiang)港分(fen)公司(si)騙走2億港元(yuan)。這起(qi)巨額詐(zha)騙案發(fa)生前，今年1月中下旬，香(xiang)港特別(bie)行政區行政長官李家超也成為“深度(du)(du)偽(wei)造(zao)”的(de)目標(biao)。網上(shang)出(chu)現了用人(ren)工(gong)智能偽(wei)造(zao)的(de)電(dian)視節目片段(duan)，冒(mao)稱(cheng)李家超向市民推介一(yi)(yi)項高回報的(de)投資計劃(hua)。特區政府立即嚴(yan)正(zheng)澄清，稱(cheng)有關(guan)影(ying)片全屬偽(wei)造(zao)，行政長官從(cong)未作(zuo)出(chu)相關(guan)言論。

去年5月初，內蒙古(gu)包頭市公安局電信(xin)網絡犯罪偵查局發布一起(qi)使用智能AI技術進行電信(xin)詐(zha)騙的(de)(de)案(an)件。福(fu)建省福(fu)州(zhou)市某科技公司(si)法人代表郭先(xian)(xian)(xian)(xian)生(sheng)(sheng)(sheng)的(de)(de)“好友”突然通(tong)過微信(xin)視頻聯系(xi)他，聲稱自(zi)己的(de)(de)朋友在外地投標，需要430萬(wan)元(yuan)保證(zheng)金，想(xiang)借(jie)用郭先(xian)(xian)(xian)(xian)生(sheng)(sheng)(sheng)公司(si)的(de)(de)賬(zhang)戶走(zou)賬(zhang)。基(ji)于(yu)視頻聊天信(xin)任的(de)(de)前提，郭先(xian)(xian)(xian)(xian)生(sheng)(sheng)(sheng)并未核實錢是否(fou)到賬(zhang)，就陸續轉給對(dui)方共計430萬(wan)元(yuan)，之后郭先(xian)(xian)(xian)(xian)生(sheng)(sheng)(sheng)才發現被騙。

個人娛樂方面(mian)，北(bei)京市中聞（長(chang)沙）律師事務所(suo)律師劉凱告訴《每日(ri)經(jing)(jing)濟新聞》記者(zhe)，2022年8月(yue)，成都(dou)鐵(tie)路運(yun)輸第一法院(yuan)曾一審審理了(le)一批使(shi)用“AI換臉(lian)”App程(cheng)序侵(qin)害他人肖像權(quan)的(de)(de)案件。古風漢服網紅魏某起訴了(le)4家運(yun)營AI換臉(lian)軟件的(de)(de)公(gong)司(si)，認為對方在(zai)自己未(wei)授權(quan)的(de)(de)情況下上傳包含她肖像的(de)(de)視頻(pin)作品(pin)，生成AI換臉(lian)視頻(pin)，侵(qin)犯(fan)了(le)其肖像權(quan)。記者(zhe)了(le)解(jie)到，國(guo)內之(zhi)前涌現過一批換臉(lian)APP，但(dan)這些APP中有部分目(mu)前已經(jing)(jing)被下架，如ZAO、去演等。

大模型技術正降低“深度偽造”門檻

“深度(du)偽造(zao)(zao)”是(shi)指(zhi)利用深度(du)學(xue)習技(ji)術(shu)生(sheng)成(cheng)合成(cheng)圖像(xiang)、音(yin)頻(pin)或視頻(pin)的(de)(de)技(ji)術(shu)。由(you)于公眾人(ren)物的(de)(de)視頻(pin)、音(yin)頻(pin)、圖片資料的(de)(de)公開性(xing)，為AI訓練提(ti)供了大量素材，因此，這些(xie)名人(ren)頻(pin)繁成(cheng)為AI造(zao)(zao)假(jia)的(de)(de)“受害者”。從(cong)技(ji)術(shu)原理上看(kan)，“深度(du)偽造(zao)(zao)”的(de)(de)實(shi)現主要依賴(lai)于深度(du)神(shen)經網絡，特(te)別(bie)是(shi)生(sheng)成(cheng)對抗(kang)網絡（GAN）。通過訓練大量的(de)(de)面部圖像(xiang)數據(ju)，“深度(du)偽造(zao)(zao)”模型(xing)能夠學(xue)習面部特(te)征之間的(de)(de)潛(qian)在關系，并生(sheng)成(cheng)與真(zhen)實(shi)面部特(te)征高度(du)相(xiang)似(si)的(de)(de)虛假(jia)面部特(te)征。

郭豐俊(jun)告訴記者(zhe)，“深度偽(wei)造”與國(guo)(guo)內常見的(de)“AI換臉”不能等同，后(hou)者(zhe)只是前者(zhe)的(de)一種典型應用(yong)形(xing)式(shi)。“當(dang)談到Deepfake技(ji)術(shu)時，國(guo)(guo)內和國(guo)(guo)外的(de)研究團隊都已(yi)經達到相當(dang)高(gao)的(de)技(ji)術(shu)程度。相較(jiao)于國(guo)(guo)內，國(guo)(guo)外擁有更多(duo)的(de)應用(yong)程序和網站，這些平臺提供了(le)更多(duo)Deepfake制作工具，使用(yong)戶能夠(gou)相對容(rong)易地生成和分享Deepfake內容(rong)。”

運用Sora也可以(yi)生成高清圖像 圖片來(lai)源：OpenAI官網 

浙江大學國(guo)(guo)(guo)際聯合(he)商學院數字經(jing)濟與金融創新研究中心(xin)聯席主任、研究員(yuan)盤和(he)(he)林也(ye)告訴記者，國(guo)(guo)(guo)外對此類“深度偽造”算法限制(zhi)(zhi)較(jiao)少，應用(yong)工(gong)具(ju)較(jiao)多。在(zai)工(gong)具(ju)豐富的(de)背景下，這項技術的(de)普及度就相對高。“國(guo)(guo)(guo)內是有一定使用(yong)限制(zhi)(zhi)的(de)，我們有監(jian)管。”盤和(he)(he)林表示(shi)。

蕭(xiao)子豪(hao)則提到，其實國內通(tong)過“AI換(huan)(huan)臉”實施的詐(zha)騙還是很常見，只是大眾接觸到的案例較(jiao)少(shao)。一方面，太多案例可(ke)能(neng)會造成大眾恐(kong)慌；另(ling)一方面，這些案例廣泛傳播可(ke)能(neng)會給犯(fan)罪分子以詐(zha)騙“靈感”。他透(tou)露，瑞(rui)萊智慧已經(jing)幫助很多銀行在金融場(chang)景(jing)抵御AI換(huan)(huan)臉詐(zha)騙的攻擊。

他認為(wei)，隨著AI技術的(de)(de)(de)發展與(yu)普(pu)及(ji)，“深(shen)(shen)度(du)偽造”技術在犯罪中的(de)(de)(de)應用確(que)實呈現出增加的(de)(de)(de)趨(qu)勢(shi)，“而且我們判斷，在2024年這種利用深(shen)(shen)度(du)偽造實施的(de)(de)(de)詐(zha)騙案(an)件(jian)會進一步(bu)增加”。蕭子豪給出的(de)(de)(de)理由包(bao)括(kuo)，隨著“深(shen)(shen)度(du)偽造”相(xiang)關(guan)軟件(jian)和(he)工具的(de)(de)(de)開發普(pu)及(ji)，即使是不了解(jie)技術的(de)(de)(de)普(pu)通人，也能制作深(shen)(shen)度(du)偽造的(de)(de)(de)內容(rong)。此外，AI技術的(de)(de)(de)進步(bu)也讓“深(shen)(shen)度(du)偽造”內容(rong)產生的(de)(de)(de)速度(du)更快、更難(nan)被(bei)人眼(yan)識別。

“大模型(xing)技術能夠用更少的(de)(de)人(ren)(ren)臉數據來給特定人(ren)(ren)構造高逼真的(de)(de)人(ren)(ren)臉模型(xing)，降低了不法分子制作人(ren)(ren)臉視頻(pin)的(de)(de)成(cheng)本。”蕭(xiao)子豪(hao)說(shuo)。

對(dui)于“深(shen)度(du)偽造”技術應(ying)用不(bu)當(dang)可(ke)能(neng)帶來的(de)社會(hui)(hui)危害，郭豐俊認(ren)為，虛(xu)假(jia)合成影(ying)像可(ke)能(neng)會(hui)(hui)沖擊社會(hui)(hui)信任(ren)、媒體信任(ren)，嚴重(zhong)時還(huan)會(hui)(hui)威脅社會(hui)(hui)公共安全(quan)。此外，深(shen)度(du)造假(jia)影(ying)像還(huan)可(ke)能(neng)會(hui)(hui)讓公司(si)名(ming)譽(yu)、財(cai)產(chan)遭受(shou)損失，還(huan)能(neng)令個人名(ming)譽(yu)、財(cai)產(chan)、精神(shen)受(shou)到損害。

目前法律法規是否足夠完善？

大量深度造假視(shi)頻(pin)或圖片的出現，讓海內外衍(yan)生出新一輪AI擔憂。

據央(yang)視(shi)新聞，今(jin)年(nian)1月“假拜登來電(dian)”引發美國(guo)(guo)社會(hui)關(guan)于人工智能“深(shen)度偽(wei)造”可(ke)能影(ying)響(xiang)大選的(de)討論(lun)，同時也延伸帶出美國(guo)(guo)相關(guan)的(de)監(jian)管(guan)政(zheng)(zheng)(zheng)策和(he)(he)立法跟進遲緩(huan)的(de)質疑。美國(guo)(guo)政(zheng)(zheng)(zheng)府監(jian)管(guan)組織“捍衛公眾(zhong)利益(yi)組織”負(fu)責人羅伯(bo)特·韋斯曼批評(ping)稱，政(zheng)(zheng)(zheng)治“深(shen)度偽(wei)造”時刻已經到來，政(zheng)(zheng)(zheng)策制定者必須盡(jin)快采取保護措施，否則將面(mian)臨(lin)選舉混(hun)亂。“深(shen)度偽(wei)造”會(hui)播下混(hun)亂的(de)種子，使欺(qi)詐行為永久(jiu)化(hua)。美國(guo)(guo)消費者技(ji)術協會(hui)首席執行官夏皮羅認為，“政(zheng)(zheng)(zheng)府需要在人工智能領域(yu)扮演重要角(jiao)色(se)，確保設置安全屏障和(he)(he)護欄，讓產業內人士(shi)知(zhi)道，哪些能做，哪些不能做”。

泰勒(le)·斯威(wei)夫特(te)AI不(bu)雅照事件發(fa)生后，盤(pan)和林曾(ceng)對(dui)外發(fa)布(bu)署名(ming)文章(zhang)《用AI打敗AI“深度造(zao)假”》。該文章(zhang)同樣提(ti)到(dao)，美國(guo)雖然已經在推動AI立法，但大部分提(ti)案還停留在紙面階段。

相對(dui)于美(mei)國，中國在“深度(du)偽(wei)造(zao)”方(fang)面的立法走得(de)相對(dui)靠前。記者(zhe)獲悉，早在2019年11月，國家互聯網信(xin)息(xi)辦公室、文化(hua)和旅游部、國家廣(guang)播電視(shi)總(zong)局(ju)便聯合印發《網絡音(yin)(yin)視(shi)頻(pin)(pin)信(xin)息(xi)服務管(guan)理規定(ding)》，并于2020年1月1日起施行。該(gai)規定(ding)對(dui)網絡音(yin)(yin)視(shi)頻(pin)(pin)服務的使用者(zhe)和提供者(zhe)均提出要求，即利用基于深度(du)學習、虛擬現實等的新技(ji)術(shu)(shu)新應用制(zhi)作、發布(bu)(bu)、傳播非真實音(yin)(yin)視(shi)頻(pin)(pin)信(xin)息(xi)的，應當以(yi)(yi)顯著(zhu)方(fang)式予以(yi)(yi)標識，不得(de)利用基于深度(du)學習、虛擬現實等的新技(ji)術(shu)(shu)新應用制(zhi)作、發布(bu)(bu)、傳播虛假(jia)新聞(wen)信(xin)息(xi)。

圖(tu)片來(lai)源：每日經濟(ji)新聞 劉國梅 攝

2022年，國家(jia)互聯網信息辦公室、工(gong)信部(bu)和(he)公安部(bu)制定的《互聯網信息服務深(shen)度合(he)成管理規定》明(ming)確，深(shen)度合(he)成服務者應(ying)采(cai)取(qu)技術或人(ren)工(gong)方式(shi)對(dui)使用者的輸入(ru)數據(ju)和(he)合(he)成結(jie)果進行(xing)審核。去(qu)年8月，國家(jia)互聯網信息辦公室還在《人(ren)臉(lian)識(shi)(shi)別(bie)技術應(ying)用安全管理規定（試行(xing)）（征求(qiu)意見稿）》中(zhong)明(ming)確，人(ren)臉(lian)識(shi)(shi)別(bie)技術使用者應(ying)每年對(dui)圖(tu)像采(cai)集(ji)設備、個人(ren)身(shen)(shen)份識(shi)(shi)別(bie)設備的安全性和(he)可(ke)能(neng)存在的風險進行(xing)檢測評(ping)估，采(cai)取(qu)有效(xiao)措施保護圖(tu)像采(cai)集(ji)設備、個人(ren)身(shen)(shen)份識(shi)(shi)別(bie)設備免受攻擊、侵入(ru)、干擾和(he)破壞。

劉凱向《每日(ri)經(jing)濟新聞(wen)》記者(zhe)表(biao)示，實際上(shang)，目前(qian)世(shi)界各國(guo)對于(yu)“人工智(zhi)能(neng)/Artificial Intelligence”未有(you)一(yi)個(ge)確定的(de)最終定義(yi)，均是作為一(yi)類計算機應用的(de)統(tong)稱。“就我(wo)了(le)解到的(de)情況，目前(qian)世(shi)界上(shang)也沒有(you)國(guo)家制定一(yi)部專門(men)針對人工智(zhi)能(neng)的(de)統(tong)一(yi)監管(guan)規則(ze)。”

不過，我國在人工(gong)智能的(de)立法方面緊跟行業前沿，這兩年陸續出臺(tai)《互聯網(wang)信息(xi)服務(wu)(wu)算法推(tui)薦管理規(gui)定》《互聯網(wang)信息(xi)服務(wu)(wu)深(shen)度合成管理規(gui)定》《生成式人工(gong)智能服務(wu)(wu)管理辦法》三(san)部(bu)主要法規(gui)，加(jia)之此前出臺(tai)的(de)《網(wang)絡(luo)安全法》等系列法律法規(gui)，可以說(shuo)已經為人工(gong)智能打造了多元(yuan)化監管格(ge)局，實現了多維譜系法律法規(gui)協(xie)同治理。

“對于泰勒·斯威夫特AI不雅(ya)照(zhao)的深度偽造，在我國(guo)的法律規(gui)定中可(ke)適用的主(zhu)要條文有：《民法典》第(di)一千零一十九條第(di)一款(kuan)、《互(hu)聯網信息服務深度合成(cheng)管理規(gui)定》第(di)十四條第(di)二款(kuan)、《生成(cheng)式(shi)人工智能(neng)服務管理暫(zan)行(xing)辦法》第(di)四條第(di)四款(kuan)規(gui)定。”劉凱說。

攻與防：AI打敗AI可行嗎？

身處(chu)生成式AI時代，如何有效監(jian)管和減少“深(shen)度(du)偽造”產生的(de)虛假信息，成為全球關注的(de)一項重(zhong)要議題(ti)。盤和林(lin)在(zai)《用AI打敗AI“深(shen)度(du)造假”》一文中曾提及一個(ge)觀點：“能(neng)夠監(jian)管生成式AI的(de)，不是工業時代的(de)法律條(tiao)文，而是AI技(ji)術(shu)自身。我(wo)們不但要發展AI技(ji)術(shu)，更要讓正義力(li)量(liang)盡可(ke)能(neng)多地掌握AI技(ji)術(shu)，這樣才能(neng)對不法分子(zi)形(xing)成技(ji)術(shu)壓(ya)制。”

那么(me)，用(yong)AI打敗AI造假可行嗎？

對此，郭豐俊(jun)告訴(su)記者，“國(guo)內做AI篡(cuan)改鑒別(bie)的(de)企(qi)業(ye)(ye)已有(you)(you)(you)不(bu)少，既有(you)(you)(you)如(ru)(ru)中國(guo)電信這樣(yang)的(de)央(yang)企(qi)，又有(you)(you)(you)如(ru)(ru)瑞(rui)萊智慧、中科睿鑒這類大學/科學院(yuan)孵(fu)化的(de)科技公司，還有(you)(you)(you)網易、合(he)合(he)信息這樣(yang)深(shen)耕AI行業(ye)(ye)多年的(de)企(qi)業(ye)(ye)。”他還進一步(bu)指出，國(guo)內科研團(tuan)隊在“深(shen)度偽造(zao)”鑒別(bie)方面(mian)已處于(yu)世(shi)界先(xian)進水平(ping)。不(bu)同的(de)國(guo)內研究團(tuan)隊多次在國(guo)際知名(ming)(ming)篡(cuan)改檢測大賽中獲得冠亞軍的(de)好名(ming)(ming)次。

以合(he)合(he)信息自身為例，郭豐俊透露，公(gong)(gong)司在文(wen)檔/證照圖像上有(you)較多的(de)AI篡改檢測技(ji)(ji)術(shu)積累。目(mu)前，合(he)合(he)信息研發的(de)針對證件(jian)及票據圖片的(de)AI篡改檢測與(yu)(yu)定位(wei)技(ji)(ji)術(shu)、AI甄別偽造人臉圖像的(de)技(ji)(ji)術(shu)等已經在金融、保險行業得到廣泛應用(yong)。除了金融安全場(chang)景，郭豐俊認(ren)為，虛假(jia)新聞判(pan)斷、謠言識(shi)別與(yu)(yu)分析等公(gong)(gong)共安全、媒體(ti)內容(rong)安全場(chang)景也有(you)大(da)量(liang)的(de)需求，合(he)合(he)信息正積極探(tan)索這些場(chang)景的(de)技(ji)(ji)術(shu)應用(yong)。

蕭子豪(hao)表(biao)示，瑞萊智(zhi)慧從2018年(nian)(nian)開始就持續關注“深度偽造(zao)”技(ji)術，并一直投入(ru)研發資源進(jin)行“深度偽造(zao)”的檢測與(yu)防(fang)御。“例如2023年(nian)(nian)，我們幫助某銀行在(zai)轉賬(zhang)業務場景下防(fang)御了上千次(ci)深度偽造(zao)攻(gong)擊(ji)。”

圖片來源：公司官網

他告訴(su)記者，瑞萊智慧一直(zhi)在研發迭代更先進的算(suan)法，同(tong)時也(ye)研發了一整套(tao)深度偽造攻防(fang)靶場系統，通過自動化(hua)對(dui)抗來提升防(fang)御的能(neng)力(li)。此(ci)外，公司也(ye)密(mi)切獲取(qu)不法分子(zi)最新(xin)的偽造方法，及(ji)時進行測試和(he)防(fang)御能(neng)力(li)增(zeng)強(qiang)。

“伴(ban)隨新型偽造(zao)方法的(de)(de)(de)(de)層出不窮、網絡傳播環境的(de)(de)(de)(de)日(ri)趨復雜，加上(shang)基于(yu)深度神經(jing)網絡的(de)(de)(de)(de)檢測算法存在結構性缺陷等，反(fan)深偽檢測技(ji)術(shu)(shu)也面臨‘強對抗(kang)性’，需要持續更新與迭代優化(hua)。類似于(yu)‘貓鼠游戲’，深度合(he)成和檢測在不斷學(xue)習(xi)攻防過程中會(hui)自我進化(hua)，規避上(shang)一代的(de)(de)(de)(de)對抗(kang)技(ji)術(shu)(shu)。為(wei)了能(neng)在對抗(kang)攻防中掌握主動權，未來，反(fan)深偽檢測技(ji)術(shu)(shu)的(de)(de)(de)(de)發展需融(rong)合(he)多(duo)模態內(nei)容的(de)(de)(de)(de)取證(zheng)分析等多(duo)方面能(neng)力，實(shi)現偽造(zao)內(nei)容的(de)(de)(de)(de)精(jing)準識別(bie)，打(da)造(zao)可信內(nei)容體系。”蕭子(zi)豪(hao)說。