號稱可提供ChatGPT服務，人工智能(neng)實(shi)際是(shi)實(shi)則實(shi)施冒牌AI；視頻電話(hua)中熟悉的“親友”，是(shi)陷(xian)阱不法分子AI換(huan)臉模(mo)擬而(er)成；為(wei)博取流(liu)(liu)量(liang)(liang)，用AI技術編造虛假謠言，揭(jie)開(kai)借(jie)助技術流(liu)(liu)量(liang)(liang)變“流(liu)(liu)毒”……

　　隨著人工智能的詐騙發展迭代，生成式AI正以前所未有的套路百姓彩票怎么買速度重(zhong)塑(su)著(zhu)日常生活，但由此(ci)衍生出的(de)人(ren)工智能新騙局、新套(tao)路也(ye)在刷新人(ren)們對風險防范的(de)實則(ze)實施認知。這背(bei)(bei)后不僅關乎廣大消費者的(de)陷阱財產安(an)全(quan)，還潛藏著(zhu)人(ren)身安(an)全(quan)風險和隱患。揭開借助技術記者梳理(li)近(jin)期管理(li)部門查處的(de)詐(zha)騙AI相關案(an)件，揭開人(ren)工智能“圈套(tao)”背(bei)(bei)后的(de)套(tao)路真相。

　　9塊9使用ChatGPT？其實是人工智能“套殼AI”

　　自(zi)人工智能產品ChatGPT爆火，一(yi)些企(qi)業看(kan)到無(wu)限(xian)“錢景”，實則(ze)實施強(qiang)行“關聯(lian)”。陷(xian)阱一(yi)時間，市(shi)(shi)場上(shang)(shang)涌現出(chu)不少與ChatGPT“沾親帶故”的服務(wu)產品。2023年2月，一(yi)個名為“ChatGPT在線”的公眾號引起了上(shang)(shang)海(hai)市(shi)(shi)徐(xu)匯區市(shi)(shi)場監(jian)管部門的注意。

　　這個頭像與ChatGPT原開發公司官方標識高度相似的百姓彩票網公(gong)眾號，在用(yong)(yong)戶短暫免費體驗(yan)后即需(xu)注冊會(hui)員付費使用(yong)(yong)，支付9.9元可(ke)以(yi)對話(hua)20次，隨著(zhu)對話(hua)次數增(zeng)加，其(qi)收費也逐步提高。該公(gong)眾號僅用(yong)(yong)兩個月就吸納超36萬人的粉絲量(liang)，累(lei)計注冊付費用(yong)(yong)戶4231人，經營(ying)額共計125385.44元。

　　執法人員調查發現，該公眾號的運營公司與實際ChatGPT開發公司并無關聯。所謂“ChatGPT在線”也并非“ChatGPT”產品本身。“當事人為實現銷售目的，使用類似圖像、名稱及服務簡介等多種手段實施復合性混淆行為，利用‘ChatGPT’熱點進行攀附，混淆真實情況，謀取交易機會，獲取不當利益。”上海市徐匯區市場監督管理局執法稽查科副科長張琦說，當事人行為違反了《中華人民共和國反不正當競爭法》第六條第（四）項的百姓彩票紅規(gui)定(ding)，市場監管部門已責令(ling)其停止違法行為，處以罰款(kuan)，并要求其妥善處置相關消(xiao)費糾紛(fen)。

　　記者發(fa)現，“冒牌AI”的(de)現象并不少見。2023年，百度“文心(xin)一言(yan)”上市前(qian)夕(xi)，網(wang)上出現大量打著“文心(xin)一言(yan)”旗號(hao)的(de)社交(jiao)媒體(ti)賬(zhang)號(hao)。隨后百度官方發(fa)文辟謠稱(cheng)“文心(xin)一言(yan)”尚(shang)未(wei)注(zhu)冊社交(jiao)賬(zhang)號(hao)。

　　“人工智能大模型開源生態的(de)(de)建立(li)(li)，讓AI發展加速的(de)(de)同(tong)時也讓生成(cheng)式AI更(geng)容易被濫用。”中國行政(zheng)法(fa)學研究會常務理事(shi)(shi)、華東政(zheng)法(fa)大學教授沈福俊認為，考慮(lv)到立(li)(li)法(fa)的(de)(de)滯(zhi)后性，監(jian)(jian)管部門(men)還需更(geng)加關注新技術發展對市場(chang)端的(de)(de)影響，加大事(shi)(shi)前監(jian)(jian)管力(li)度，充分(fen)運用現(xian)有的(de)(de)法(fa)律法(fa)規資(zi)源實施(shi)有效(xiao)監(jian)(jian)管，切莫(mo)使(shi)新問題隱匿在“監(jian)(jian)管盲區(qu)”。

　　張琦也表示(shi)，消費(fei)者出于對新興技術的(de)好奇，往(wang)往(wang)在不知不覺陷入“圈套(tao)”。“如果(guo)誤用了別有用心的(de)‘套(tao)殼AI’，甚至(zhi)可能被(bei)不法分子(zi)套(tao)取個(ge)人信息，埋(mai)下安全隱患。”他建議(yi)，消費(fei)者在選(xuan)擇(ze)AI產品時(shi)需仔細甄別，避(bi)免被(bei)商家誤導。“如果(guo)購(gou)買到了仿(fang)冒產品，要保留好相應(ying)的(de)產品購(gou)買憑證，主(zhu)動聯(lian)系監管部門，維護自(zi)身合法權益。”

　　“AI換臉”詐騙 眼見不一定為實

　　只需一通視頻(pin)電話，不法分(fen)子就騙(pian)走了(le)430萬(wan)(wan)元(yuan)。2023年(nian)4月(yue)，福建省某科(ke)技公司法定代表人郭先(xian)(xian)生接到“好(hao)友”的(de)微信視頻(pin)通話，對方聲(sheng)稱自(zi)己(ji)當下(xia)需要(yao)430萬(wan)(wan)元(yuan)保證金用(yong)以項目競(jing)標(biao)，想借用(yong)郭先(xian)(xian)生公司的(de)賬(zhang)(zhang)戶“走個賬(zhang)(zhang)”。因為有(you)先(xian)(xian)前的(de)視頻(pin)通話，加之對“好(hao)友”的(de)信任，郭先(xian)(xian)生陸續給對方轉賬(zhang)(zhang)共計430萬(wan)(wan)元(yuan)。隨(sui)后郭先(xian)(xian)生再次聯系好(hao)友時才(cai)發現(xian)自(zi)己(ji)被騙(pian)。所幸在(zai)警方幫助(zhu)下(xia)，成功止(zhi)付攔截336.84萬(wan)(wan)元(yuan)。

　　據郭(guo)先(xian)生回憶(yi)，由于在視頻(pin)電話中確認(ren)了對方的面孔(kong)和聲音(yin)，所以毫不(bu)懷疑對方身份(fen)有詐。不(bu)僅(jin)如此，犯罪分子還精準了解(jie)郭(guo)先(xian)生與好友的關系，并(bing)成功盜取(qu)好友微信賬號實施詐騙，令人不(bu)寒而栗。

　　AI技(ji)術的迭代升(sheng)級讓不法分子借(jie)助智(zhi)能AI換臉和(he)擬聲技(ji)術，就可輕松實現遠程視頻(pin)詐(zha)騙(pian)。記(ji)者調查發(fa)現，最近多地出現的AI換臉詐(zha)騙(pian)案件(jian)，均(jun)具備定制(zhi)性、迷惑性等特征。

　　其中，香港(gang)(gang)警方近期(qi)披露一起涉案金額高達2億港(gang)(gang)元的(de)多(duo)人(ren)AI換(huan)臉詐騙案尤為(wei)典型。據媒(mei)體報道，某(mou)公司職員(yuan)受邀參加公司“多(duo)人(ren)視頻(pin)會(hui)議(yi)”時，先后(hou)將2億港(gang)(gang)元分別轉賬到5個本地銀(yin)行(xing)賬戶內。據警方調查，這場(chang)視頻(pin)會(hui)議(yi)中除了受害者外，其余均為(wei)AI換(huan)臉后(hou)的(de)詐騙人(ren)員(yuan)。

　　不(bu)少業內(nei)專(zhuan)家表(biao)示(shi)，隨(sui)著文(wen)生視頻大模(mo)型(xing)Sora等多模(mo)態人(ren)工(gong)智能的(de)(de)(de)(de)探索和出現，人(ren)們可能陷入“眼見(jian)也不(bu)一定為(wei)實(shi)”的(de)(de)(de)(de)困局。“一直以來，銀行等部門將(jiang)實(shi)時視頻用做檢驗身(shen)份(fen)的(de)(de)(de)(de)手段之一，如今其可靠性將(jiang)面臨巨大挑戰。”沈福(fu)俊說(shuo)，“隨(sui)著人(ren)工(gong)智能技術的(de)(de)(de)(de)迭代升級，這類違法(fa)行為(wei)還可能演變出更多形(xing)態。”

　　沈福俊(jun)坦(tan)言(yan)，對(dui)此類(lei)AI換(huan)臉和AI擬聲的惡性(xing)詐(zha)騙案件(jian)，若(ruo)只依靠(kao)傳統監(jian)管手段已不(bu)能防堵，監(jian)管部門在(zai)提升自我科技能力儲(chu)備的同時，有(you)必要(yao)引入(ru)新興技術，探(tan)索用AI技術監(jian)管AI的可能。

　　從消(xiao)費者角度出發，沈福俊建議提升全民(min)個人(ren)信息保護意識(shi)，謹防隱(yin)私泄露(lu)。“不管是在互聯網上還是社(she)交(jiao)(jiao)軟件上，盡量避免過多地暴露(lu)自己的(de)信息，在涉(she)及轉賬交(jiao)(jiao)易(yi)等(deng)行為時，可以(yi)多角度詢問(wen)身份信息，反復驗(yan)證對方是否為本人(ren)。”

　　警惕“AI造謠” 小心“流量”變“流毒”

　　當前AIGC技術(shu)已在文本生成、圖(tu)片創作等方面(mian)廣(guang)泛應用(yong)，輸入(ru)幾個(ge)關鍵詞即可(ke)由AI快速生成一張畫(hua)或(huo)一篇文章。但一些用(yong)戶為博(bo)眼球、蹭(ceng)熱(re)度，卻將人(ren)工(gong)智能技術(shu)用(yong)以編“偽消(xiao)息”，造“假通報(bao)”。

　　2023年6月，一(yi)條名為《浙江(jiang)工業園(yuan)現大(da)火濃煙滾(gun)滾(gun)，目擊(ji)者稱有爆(bao)炸聲！》的視頻(pin)在(zai)網(wang)絡上流傳，引發網(wang)友關注。后(hou)經相(xiang)關部門核實為謠言。據調查，當(dang)事人為給自己(ji)賬(zhang)號漲粉引流，獲取更多(duo)利益，通(tong)過(guo)非法渠道購買了(le)AI視頻(pin)生成軟件。該當(dang)事人將網(wang)絡熱(re)(re)門話題通(tong)過(guo)AI自動生成視頻(pin)產品，并(bing)上傳至多(duo)個熱(re)(re)門視頻(pin)平臺(tai)。

　　截至(zhi)案(an)發，相關當(dang)事人發布的虛假視頻多達20余條，涉(she)及(ji)浙江、湖(hu)南、上海、四川等多個省市，累計閱讀觀看(kan)量超過167萬次。目前浙江紹興上虞法(fa)院已開庭(ting)審理(li)并當(dang)庭(ting)宣判了(le)這起(qi)案(an)件，兩(liang)名被(bei)告均被(bei)判處有期徒刑(xing)。

　　但“AI謠(yao)(yao)言”仍時有發(fa)生。2024年1月(yue)，廣西(xi)東興市駱某(mou)某(mou)為(wei)博取流量，將其他地區(qu)的(de)抗洪、救災視頻，經AI軟件(jian)自動編輯(ji)，編造新疆烏什縣發(fa)生地震的(de)虛假視頻信息(xi)。同年1月(yue)，四川一網民(min)在某(mou)平臺發(fa)布(bu)“貴州女嬰被(bei)棄”的(de)謠(yao)(yao)言文章。經調查，該(gai)涉謠(yao)(yao)文章由AI系統生成并發(fa)布(bu)，相關言論(lun)及照片均為(wei)不實信息(xi)。

　　技術(shu)的普及帶動自媒體(ti)產業的繁(fan)榮(rong)。但一些網(wang)民(min)為獲取流(liu)量不惜利(li)用技術(shu)手段編造生成虛假視(shi)頻，讓“AI謠言”在網(wang)絡上傳(chuan)播，不僅給網(wang)絡安全(quan)帶來嚴(yan)峻挑戰，也嚴(yan)重擾(rao)亂社會秩序。

　　2023年，最(zui)高(gao)人民(min)法(fa)院、最(zui)高(gao)人民(min)檢察院、公(gong)安部聯合發布(bu)的(de)《關于依法(fa)懲治網(wang)絡(luo)暴力違(wei)法(fa)犯罪(zui)的(de)指(zhi)導意見》中(zhong)規定，對“利用‘深度合成’等(deng)生成式人工智能(neng)技術發布(bu)違(wei)法(fa)信(xin)息”的(de)情(qing)形，依法(fa)從重(zhong)處罰。

　　對(dui)此，沈福俊等(deng)多(duo)位專家表(biao)示，一(yi)方(fang)面，要提(ti)高廣大自(zi)媒體經營者(zhe)的(de)法律意識(shi)，從源(yuan)頭減少此類“AI謠言”的(de)產(chan)生；另一(yi)方(fang)面，監(jian)管部門也(ye)要加強相(xiang)關案件的(de)宣傳推(tui)廣，提(ti)高網民(min)對(dui)“AI謠言”的(de)鑒別力。（記(ji)者(zhe)程(cheng)思(si)琪(qi)參與采寫：陳(chen)一(yi)飛）