每(mei)經編輯 何小桃 畢陸名(ming)    

深度造假（Deepfake）最新受害者出現了——全(quan)球(qiu)頂流(liu)，不(bu)雅(ya)照泰勒·斯威夫特（Taylor Swift，泰勒中文綽(chuo)號“霉(mei)霉(mei)”）。斯威

近乎是夫特瘋傳在一夜之間，X、驚動Facebook等社交平臺上便充斥了大量虛假“不雅照片”，白宮而且瀏(liu)覽(lan)量已經高達上千萬！不雅照(zhao)盡(jin)管最早傳(chuan)播這(zhe)些(xie)圖片(pian)的(de)(de)泰勒(le)賬號已被封禁，但(dan)照(zhao)片(pian)的(de)(de)斯威流(liu)傳(chuan)仍未徹底阻斷。

圖(tu)片來源：視頻(pin)截圖(tu)

據九派新聞報道，夫特(te)瘋傳泰勒·斯威夫特(te)正在(zai)考慮(lv)對生成這些(xie)圖(tu)片的驚(jing)動網站采取(qu)法律(lv)行動。“X”平臺表示正在(zai)“積極刪除相關圖(tu)片”。白宮

Facebook方面，不雅照母公司(si)Meta一名發言(yan)人稱：這些內(nei)容(rong)違反了我們的泰勒政策，我們正在將(jiang)其從我們的斯(si)威平(ping)臺上(shang)刪除，并對(dui)發布該(gai)內(nei)容(rong)的賬戶(hu)采取行動(dong)。

但也有網友說，這不(bu)(bu)是刪除的問題(ti)，這些(xie)照片一開始(shi)就不(bu)(bu)應該出現在這些(xie)平臺上。對(dui)此(ci)Meta也做出了(le)回應，表示(shi)“會繼續監測并及(ji)時(shi)刪除違規內容”。

在26日白宮記者會上，發言人讓-皮埃爾被問及此事時表示，“我們對此類圖像流傳感到擔憂，更確切地說，是虛假圖像(xiang)，這令人擔(dan)憂。”

“雖然社交媒(mei)體(ti)公司在內容管(guan)理(li)方面可以獨(du)立做(zuo)出決定，但我們認為他(ta)們在執行自(zi)己規則(ze)方面可以發揮重要作用，以防(fang)止(zhi)錯(cuo)誤信(xin)息(xi)和未經(jing)同意的真實(shi)人物(wu)私(si)密(mi)圖像(xiang)傳播。”讓-皮(pi)埃爾說。

她還補(bu)充說，網(wang)絡(luo)上的執法不(bu)嚴對女性影響(xiang)更大，她們是(shi)受到網(wang)絡(luo)騷擾和欺(qi)凌的主要目標。讓-皮埃爾稱，這并不(bu)是(shi)新問(wen)題，是(shi)拜登和哈(ha)里斯政府從上任第一天起就優先考(kao)慮的問(wen)題，“我(wo)們對此非常重視。再一次(ci)，這讓我(wo)們感到擔憂。”

圖片來源：視頻截圖

值得(de)一提(ti)的是，這不是泰勒·斯威(wei)夫特第(di)一次被(bei)AI“造假(jia)”。

據澎(peng)湃新聞(wen)1月17日報道，就在不久前，由人工智能(neng)生成的假泰勒·斯威夫(fu)特（Taylor Swift）帶貨(huo)廣告在社交媒(mei)體Facebook上傳(chuan)播。

“嘿你(ni)們好(hao)，我(wo)是泰勒(le)·斯威夫特。由于包裝(zhuang)出錯，有(you)(you)3000套Le Creuset（中文名譯為‘酷彩’）炊(chui)具套裝(zhuang)無法(fa)正常線下(xia)銷售，轉向線上出售。有(you)(you)一個好(hao)消息分享給你(ni)們，我(wo)與Le Creuset聯手進行促銷——有(you)(you)20位忠實粉絲將(jiang)免費(fei)獲得贈(zeng)送的炊(chui)具套裝(zhuang)。”

AI生成的泰勒·斯威(wei)夫特(te)推銷Le Creuset炊具(ju)視頻

涉事公司對(dui)此迅(xun)速做出(chu)回應(ying)稱，Taylor Swift沒有參與任(ren)何消費者贈品活(huo)動(dong)(dong)，所有關于產品促(cu)銷的(de)活(huo)動(dong)(dong)均來自官方社(she)交活(huo)動(dong)(dong)。AI“深度造假”技術合(he)成了她的(de)聲音(yin)(yin)，并將聲音(yin)(yin)與她的(de)形(xing)象和Le Creuset廣告片段拼湊在一起。

當受害者(zhe)被引(yin)導至虛假(jia)網站后，會(hui)被要求支付(fu)9.96美(mei)元的運費(fei)。但號稱(cheng)免(mian)費(fei)送的廚具不(bu)會(hui)真的送出去。 

Facebook母(mu)公司Meta也(ye)對這一(yi)欺詐活動迅速做出了回應。此后，Meta表(biao)示已經(jing)刪(shan)除該廣告。

什么是AI“深度造假”？

深(shen)度(du)造(zao)假（Deepfake）是英文“Deep learning”（深(shen)度(du)學習）和“Fake”（偽造(zao)）的(de)混(hun)成詞，指利用深(shen)度(du)學習技術生成合成圖像、音頻或視頻的(de)技術。

美國(guo)布法(fa)羅大學“媒體(ti)取證實(shi)驗室(shi)”的計算機科學教授呂思(si)偉（Siwei Lyu）表示，“霉(mei)霉(mei)”這起(qi)“深度造假”詐(zha)騙活(huo)動很可能是利用文字轉語音服務(wu)制作的。這類工具可將(jiang)腳(jiao)本轉譯成聲音，并用唇語同步程序將(jiang)其合(he)成至(zhi)視頻片段(duan)。

編輯|何(he)小桃 畢陸名 蓋(gai)源源

校對|程鵬

封面圖片來(lai)源：視頻截圖

每日經濟新聞綜合九派新聞、澎湃新聞、公開消息