美國知名歌手泰勒·斯威夫特再度成為了AI深度偽造的文化雜談受害者，近日，文化雜談大量由人工智能生成的文化雜談泰勒虛假色情、血腥照片在多個社交平臺瘋傳，文化雜談瀏覽量已超過千萬，文化雜談引發社交媒體震動，文化雜談百姓彩票這也(ye)引發了美國白宮的文化雜(za)談注(zhu)意。

深度偽造的“泰勒·斯威夫特”在網上瘋傳

泰勒團隊或將起訴相關網站

據報道1月(yue)26日(ri)，白宮(gong)發(fa)言人(ren)皮埃爾在(zai)記者會上(shang)回應了這一事件，文(wen)化雜(za)(za)談(tan)(tan)并表(biao)示：“我們(men)對這種圖片的(de)(de)(de)文(wen)化雜(za)(za)談(tan)(tan)流(liu)傳(chuan)感到(dao)震驚。雖然社交媒(mei)體公司在(zai)內容管理方面(mian)作(zuo)出了自己的(de)(de)(de)文(wen)化雜(za)(za)談(tan)(tan)獨(du)立決定，但我們(men)認為他們(men)在(zai)執(zhi)行自己規則(ze)方面(mian)可以發(fa)揮重要(yao)作(zuo)用，文(wen)化雜(za)(za)談(tan)(tan)以防止錯誤信息和未經(jing)同意的(de)(de)(de)文(wen)化雜(za)(za)談(tan)(tan)真實人(ren)物(wu)的(de)(de)(de)私(si)密圖像傳(chuan)播(bo)。”她(ta)還尤其補充(chong)了執(zhi)法不嚴(yan)對女性的(de)(de)(de)文(wen)化雜(za)(za)談(tan)(tan)影響更大，她(ta)們(men)是文(wen)化雜(za)(za)談(tan)(tan)網絡騷擾的(de)(de)(de)主要(yao)目標(biao)。

據了解，這些深度偽造的泰勒照片是由某人或某些人使用AI生成并上傳到了一家不良網站上，這一網站上充斥了眾多以名人為主角的不雅照，虛假照片很快傳播到了主流社交媒體并在網友之間迅速傳播，百姓彩票最新網址這也引起了泰勒數以千萬粉絲的強烈不滿和憤怒，粉絲們發起了“保護泰勒”的話題，“這太惡心了，這是非法的。”“停止傳播斯威夫特的人工智能圖片，她是一個有感情的人，她會受傷。”“尊重泰勒·斯威夫特，尊重所有女性。百姓彩票”

目前部分參(can)與傳播的(de)(de)賬號已(yi)被社(she)(she)交平臺封(feng)禁，各社(she)(she)交平臺也在(zai)清除(chu)流傳的(de)(de)圖片(pian)，但是(shi)漏網之(zhi)魚依(yi)然存在(zai)，有人自建網站或(huo)者(zhe)通過(guo)匿名(ming)群組(zu)售賣這(zhe)些深度偽(wei)造的(de)(de)照(zhao)片(pian)。實際(ji)上這(zhe)不是(shi)泰(tai)勒第(di)一(yi)(yi)次成為AI深度偽(wei)造的(de)(de)受害者(zhe)，就(jiu)在(zai)不久前，有人使用人工智能技術仿造了她的(de)(de)聲音和(he)形象(xiang)來為商(shang)(shang)品進行推(tui)廣，讓消費(fei)者(zhe)誤(wu)以為這(zhe)是(shi)泰(tai)勒代言的(de)(de)商(shang)(shang)品。據(ju)報(bao)道，目前泰(tai)勒的(de)(de)團隊已(yi)在(zai)考慮(lv)通過(guo)法律(lv)手段來應(ying)對這(zhe)一(yi)(yi)事件(jian)，傳播虛假照(zhao)片(pian)的(de)(de)網站可能會(hui)面臨法律(lv)訴訟。

AI深度偽造技術引大眾不安

立法約束迫在眉睫

在粉絲(si)們(men)為(wei)泰(tai)勒(le)的(de)遭遇(yu)而(er)深感憤怒的(de)同時，其他網民(min)則傳達出(chu)了(le)對(dui)AI深度(du)偽造技(ji)術的(de)發展(zhan)(zhan)感到強(qiang)烈不(bu)安的(de)聲音，“泰(tai)勒(le)是影響力很(hen)大的(de)明星(xing)，要是我(wo)們(men)普通人(ren)也被深度(du)偽造了(le)不(bu)雅照可(ke)怎么辦？”“AI發展(zhan)(zhan)的(de)太(tai)(tai)(tai)快太(tai)(tai)(tai)恐(kong)怖(bu)了(le)，我(wo)都不(bu)敢想如(ru)果是我(wo)那真(zhen)的(de)要跳進黃(huang)河洗(xi)不(bu)清了(le)。”“支持AI立法，濫用(yong)危害太(tai)(tai)(tai)大了(le)。”“這真(zhen)的(de)和我(wo)們(men)的(de)生活息息相(xiang)關，ai照片視(shi)頻的(de)人(ren)類面部(bu)表情已(yi)(yi)經很(hen)像真(zhen)人(ren)了(le)，聲音也能模仿(fang)得一(yi)樣，這樣的(de)騙(pian)局普通人(ren)難以(yi)分(fen)辨。”從2023年起，國內已(yi)(yi)發生多(duo)(duo)起AI深度(du)偽造詐(zha)騙(pian)案件，中招率相(xiang)當高，叫人(ren)防(fang)不(bu)勝防(fang)，也已(yi)(yi)出(chu)現了(le)多(duo)(duo)起利用(yong)AI技(ji)術造黃(huang)謠、傳播(bo)不(bu)良信(xin)息的(de)惡性事件。

面對(dui)(dui)以(yi)(yi)(yi)假亂(luan)真的(de)AI偽造技(ji)術(shu)，國(guo)內(nei)外的(de)專(zhuan)家學者、相(xiang)關(guan)領域的(de)企業機構也想過不(bu)少應對(dui)(dui)辦法，比如在(zai)去年(nian)12月，一(yi)款名為mist的(de)隱(yin)形圖片水印在(zai)網上開(kai)源(yuan)(yuan)發布，該(gai)水印用于抵抗AI模型(xing)對(dui)(dui)圖片的(de)訓(xun)練(lian)和抓取(qu)，這一(yi)水印能(neng)夠極大程(cheng)(cheng)度的(de)干擾AI模型(xing)，使之生成(cheng)的(de)圖片遭(zao)受(shou)不(bu)同程(cheng)(cheng)度的(de)破壞。此外，也有開(kai)發者建(jian)議讓AI生成(cheng)平臺、公司(si)給(gei)相(xiang)關(guan)的(de)AI生成(cheng)軟(ruan)件加(jia)上隱(yin)形水印機制，以(yi)(yi)(yi)快速(su)識別AI并(bing)進(jin)行溯(su)源(yuan)(yuan)，各個社交平臺也應以(yi)(yi)(yi)技(ji)術(shu)手(shou)段(duan)加(jia)強對(dui)(dui)于疑似AI生成(cheng)圖、文(wen)、視頻內(nei)容(rong)的(de)識別功能(neng)。在(zai)國(guo)內(nei)抖音、小紅書等平臺也已對(dui)(dui)疑似為AI生成(cheng)的(de)圖文(wen)視頻內(nei)容(rong)進(jin)行標識以(yi)(yi)(yi)提(ti)示(shi)用戶(hu)小心分辨真假。

然(ran)而說(shuo)到底，這些(xie)防止(zhi)(zhi)AI、識別AI的(de)(de)技(ji)(ji)術(shu)(shu)手段(duan)是(shi)治標不(bu)(bu)治本的(de)(de)，對(dui)AI深度(du)偽造只能起到有限(xian)的(de)(de)阻止(zhi)(zhi)、震懾作用，深度(du)偽造技(ji)(ji)術(shu)(shu)的(de)(de)泛濫(lan)根源之一(yi)在于其中有利可圖，制(zhi)造傳(chuan)播這些(xie)深度(du)偽造圖片、視頻的(de)(de)人不(bu)(bu)僅僅是(shi)出于個(ge)人的(de)(de)獵奇心態，還可能從中獲得高額回報(bao)，即(ji)便國家法律(lv)認(ren)定AI深度(du)偽造是(shi)不(bu)(bu)合法的(de)(de)行為(wei)，也無法阻止(zhi)(zhi)利欲熏(xun)心者(zhe)繼續濫(lan)用這一(yi)技(ji)(ji)術(shu)(shu)。對(dui)AI技(ji)(ji)術(shu)(shu)的(de)(de)管(guan)控已經(jing)不(bu)(bu)能僅停(ting)留在倡(chang)議、呼(hu)吁(yu)的(de)(de)階段(duan)，規范的(de)(de)立法和相應的(de)(de)懲處制(zhi)度(du)的(de)(de)推行也迫在眉(mei)睫，Ai技(ji)(ji)術(shu)(shu)不(bu)(bu)是(shi)洪水猛獸，但確實需要一(yi)個(ge)能約束它(ta)的(de)(de)鐵籠。

揚子(zi)晚報(bao)|紫牛新聞(wen)記(ji)者 沈昭

校對 徐珩