每經(jing)編輯 畢陸名(ming)

Deepfake最新受害者(zhe)出現了——全球頂流，不雅照泰(tai)勒·斯威(wei)夫特（Taylor Swift，泰(tai)勒中文綽號“霉霉”）。斯威(wei)

近乎是夫特在一夜之間，X、被瘋Facebook等社交平臺上便充斥了大量虛假“不雅照片”，傳驚而且瀏覽量已經高達上千萬！動白盡管最早傳(chuan)播這些圖片的(de)不雅照賬號已被封禁，但(dan)照片的(de)泰勒流傳(chuan)仍未徹底(di)阻斷。

圖片來源：視頻截圖

泰勒·斯威夫(fu)特(te)本人也(ye)已經得知此事，斯威對此表示相(xiang)當憤怒(nu)，夫(fu)特(te)粉絲們也(ye)自發(fa)組織了(le)保護行動。被瘋

在X上，傳驚有網友(you)直接@馬(ma)斯克，動(dong)白喊(han)話說(shuo)這事馬(ma)斯克你得出來(lai)管管了。不雅照

究其(qi)原因，事情(qing)要(yao)從泰勒·斯(si)威(wei)夫特和美(mei)國NFL橄(gan)欖球運動員Travis Kelce的(de)戀情(qing)說(shuo)起。Kelce效力(li)于堪薩斯(si)城酋(qiu)長隊，兩人的(de)戀愛關系被曝光后，泰勒也(ye)成為了該(gai)球隊比賽的(de)常客。

于是便(bian)有人借題(ti)發(fa)揮，用(yong)AI生成了以球場為背景，涉及泰勒和多(duo)名虛(xu)構“隊員”的露骨照片(pian)。

圖片來源：視頻截圖

而關于(yu)這些(xie)圖片的(de)傳播過(guo)程，則存在多種傳聞，有說法是最早出(chu)現在某加密聊天群組當中。有報道則稱，這些(xie)Deepfake照(zhao)片一(yi)開始被傳至一(yi)家不良(liang)網站，這個(ge)網站上充斥著大(da)量(liang)以知名人(ren)士(shi)為主(zhu)角(jiao)的(de)不雅照(zhao)片。

除了泰勒，這家網站還收錄了成百上千的名人，包括飾演芭(ba)比的Magrot Robbie也未能幸免。

“Taylor Swift AI”一度成為了X上的熱門話題，不(bu)過目前疑(yi)似已被屏蔽。

截至目前，一些(xie)參與傳播(bo)照片賬號已被各大平臺陸(lu)續封禁，但仍有不少漏(lou)網(wang)之魚(yu)。

Facebook方面，母公司Meta也(ye)有一名發(fa)(fa)言人稱：這些內容(rong)違反了我(wo)(wo)(wo)們的(de)政策，我(wo)(wo)(wo)們正在將其從(cong)我(wo)(wo)(wo)們的(de)平臺上刪除，并對發(fa)(fa)布該(gai)內容(rong)的(de)賬戶采取行動。

但也有網友說，這不是刪除的問題，這些(xie)照(zhao)片一開始就不應該出現(xian)在這些(xie)平(ping)臺上。對此Meta也做(zuo)出了(le)回(hui)應，表示(shi)“會繼續監測并及時刪除違規內容(rong)”。

在26日白宮記者會上，發言人讓-皮埃爾被問及此事時表示，“我們對此類圖像流傳感到擔憂，更確切地說，是虛假圖像，這令人擔憂。”

“雖然社交媒(mei)體公司在(zai)內(nei)容(rong)管(guan)理方面(mian)可以獨立做出決定，但我們認(ren)為他(ta)們在(zai)執行(xing)自己規則方面(mian)可以發(fa)揮重要(yao)作用，以防止錯誤信息和未(wei)經(jing)同意的真實人物私密圖像傳播。”讓-皮(pi)埃爾(er)說(shuo)。

她還補充說，網絡上的執法不(bu)(bu)嚴對女(nv)性(xing)影響更大，她們是受到網絡騷擾和欺凌的主要目(mu)標(biao)。讓-皮埃爾稱，這(zhe)并不(bu)(bu)是新問題，是拜(bai)登和哈里斯(si)政府從上任第一天起就優先考慮(lv)的問題，“我們對此非常重視。再一次(ci)，這(zhe)讓我們感到擔憂。”

圖片來源：視頻截圖

值得(de)一(yi)提的是，這不是泰(tai)勒·斯威夫特第一(yi)次被AI整蠱。1月初，一(yi)則由人工智能生成(cheng)的假(jia)泰(tai)勒·斯威夫特帶貨廣告在社交媒(mei)體Facebook上傳(chuan)播。

“嘿你(ni)們好，我是泰勒(le)·斯威夫特。由于包(bao)裝(zhuang)出錯(cuo)，有3000套Le Creuset（中文名譯為‘酷彩(cai)’）炊具套裝(zhuang)無法正常線下銷(xiao)售，轉(zhuan)向線上出售。有一個好消息分享給你(ni)們，我與(yu)Le Creuset聯(lian)手進行促(cu)銷(xiao)——有20位忠實粉(fen)絲將免費獲得贈送(song)的炊具套裝(zhuang)。”

AI生成的泰勒·斯威夫特推銷Le Creuset炊具視頻。

在這(zhe)則廣告中，斯(si)威夫特坐在鋼琴前，向大家推銷法國高端炊具(ju)品牌(pai)Le Creuset，并(bing)表示(shi)作為她的“新年大放送(song)”，會向20位粉絲免費贈送(song)一套炊具(ju)。

事實上，視頻(pin)中的(de)“霉(mei)(mei)霉(mei)(mei)”并不是真的(de)斯(si)威夫(fu)特，而(er)是AI“深度造假(jia)”技術合成了(le)她(ta)的(de)聲音(yin)，并將聲音(yin)與她(ta)的(de)形(xing)象(xiang)和Le Creuset廣告(gao)片段拼湊在一起(qi)。涉事公司對此迅速做出回(hui)應稱，斯(si)威夫(fu)特沒有(you)參與任何消(xiao)費(fei)者贈品(pin)活動(dong)，所有(you)關于產品(pin)促(cu)銷的(de)活動(dong)均來自官(guan)方社(she)交(jiao)活動(dong)。

什么是(shi)AI“深(shen)度造假”？

AI“深(shen)度(du)造(zao)假(jia)”（Deepfake）技術(shu)再(zai)次引發關注。深(shen)度(du)造(zao)假(jia)（Deepfake）是英文“Deep learning”（深(shen)度(du)學(xue)(xue)習(xi)）和“Fake”（偽造(zao)）的混成(cheng)詞(ci)，指利用深(shen)度(du)學(xue)(xue)習(xi)技術(shu)生成(cheng)合成(cheng)圖(tu)像、音(yin)頻(pin)或(huo)視(shi)頻(pin)的技術(shu)。

美國(guo)布(bu)法(fa)羅大學“媒體取證實(shi)驗室”的(de)計(ji)算機科學教授呂(lv)思(si)偉（Siwei Lyu）表示，“霉霉”這起“深度(du)造假(jia)”詐騙活(huo)動很可(ke)能(neng)是利用(yong)文(wen)字(zi)轉語(yu)音服務制作的(de)。這類(lei)工具可(ke)將(jiang)腳本轉譯成聲(sheng)音，并用(yong)唇(chun)語(yu)同步程序將(jiang)其合(he)成至視頻片段。

每日經濟(ji)新聞綜合公開消息(xi)

翻譯

搜索

復制

封面圖片(pian)來(lai)源：視覺中(zhong)國