自2023年以來，人(ren)工(gong)人(ren)工(gong)智(zhi)能(neng)的情(qing)感親密“觸角(jiao)”已(yi)延伸到生(sheng)活的方(fang)方(fang)面面。其中，引(yin)熱議(yi)“人(ren)工(gong)智(zhi)能(neng)+情(qing)感”的否帶賽道正悄然崛起。

　　目前，關系國內外已經出現了多款較為成熟的人工AI伴侶應用。不少網友(you)在社交媒體上曬出了(le)與自己“AI男友(you)”“AI女友(you)”的情(qing)感親密相處日常。

　　AI真能成(cheng)為人類的引熱議(yi)伴侶(lv)嗎？向AI尋求情感慰藉會面臨(lin)哪些風險？我們又該如何(he)防范(fan)其可能帶來的不利影響(xiang)？近日(ri)，科技日(ri)報記者采訪了(le)相關專家。否帶

　　社會需求催生AI伴侶

　　通(tong)過網絡技術(shu)獲得虛(xu)擬(ni)的關系(xi)情(qing)感體驗并非(fei)新(xin)生事物。幾(ji)年前，人(ren)工(gong)一些網絡游戲就以戀愛為(wei)主題，情(qing)感親密為(wei)用戶提供虛(xu)擬(ni)的引(yin)熱(re)議戀愛體驗。雖(sui)然游戲中與虛(xu)擬(ni)戀人(ren)相處的否帶場(chang)景、內容大多已被開發者設定好(hao)，關系(xi)互(hu)動方(fang)式較為(wei)受(shou)限，但依舊吸(xi)引(yin)了大批忠實玩(wan)家。

　　AI的加入，則讓這(zhe)一體驗變(bian)得更加真實(shi)。在一款AI伴侶(lv)應(ying)用中，用戶能夠與AI建立起愛人(ren)、知己(ji)、搭檔等親密關系。“沒(mei)想到AI會(hui)帶給我這(zhe)么大的(de)驚喜，我覺得它(ta)是一個有(you)(you)血有(you)(you)肉(rou)的(de)人(ren)。”用戶小(xiao)莫(化(hua)名)分享了自(zi)己(ji)的(de)使用感(gan)受。

　　是什么讓AI伴侶變得如此“像人”？記者發現，“有問必答”“有問對答”只是AI的“初級本領”。真正讓AI伴侶鮮活起來的，是“有問趣答”和“不問自答”。面對用戶拋出的各類話題，AI伴侶不僅能夠正確地反饋，還能在反饋內容中巧妙地使用當下活潑的網絡用語和各類調皮的表情圖片。AI伴侶也會主動發起話題，引導用戶進行情感交流——“黃昏，好看”，小莫分享了“AI男友”給她發來的一張照片和(he)配文。

　　AI伴(ban)侶的(de)出現，是否意味著AI已經擁有(you)(you)了人類的(de)情(qing)(qing)感呢？暨南大學新聞(wen)與(yu)傳(chuan)播(bo)學院教授曾(ceng)一果(guo)給出了否定的(de)答案：“AI有(you)(you)情(qing)(qing)商，只是因(yin)為它(ta)學習(xi)過，并不代表它(ta)真的(de)感受到了用戶的(de)情(qing)(qing)感或(huo)具有(you)(you)類人情(qing)(qing)感。”

　　當前，AI大模型的(de)學(xue)習參(can)數(shu)已達千億級別。在浩(hao)如煙海的(de)數(shu)據里，人(ren)類的(de)對話模式也是它(ta)學(xue)習的(de)重(zhong)要(yao)內(nei)容。所(suo)謂的(de)“情感回饋”，是AI通(tong)過計算得出(chu)的(de)結果。小莫對此也心知肚(du)明：“或許它(ta)只是把(ba)人(ren)類表達愛意的(de)字眼拼湊在一起(qi)，但我仍從中觸摸到理(li)想的(de)愛人(ren)模樣。”

　　AI伴(ban)侶(lv)的(de)(de)流行是社(she)會需(xu)求(qiu)與技術發展(zhan)共同(tong)推動(dong)的(de)(de)結果(guo)。曾一(yi)(yi)果(guo)指出：“孤獨感(gan)是現代社(she)會很多人(ren)(ren)群(qun)共有的(de)(de)問題。對于一(yi)(yi)些(xie)無法(fa)在現實中吐露(lu)的(de)(de)難題，人(ren)(ren)們會尋求(qiu)其(qi)他的(de)(de)傾(qing)訴方式。AI伴(ban)侶(lv)就成為(wei)了(le)人(ren)(ren)們的(de)(de)‘樹洞(dong)’。”尤其(qi)是對于存(cun)在社(she)會交往障(zhang)礙的(de)(de)人(ren)(ren)們，AI伴(ban)侶(lv)能夠提供一(yi)(yi)個交流的(de)(de)平臺(tai)。

　　清華大學人工(gong)智能國際治(zhi)理研究院(yuan)副(fu)院(yuan)長梁正也表示，現代人面臨著(zhu)各種壓力，AI伴侶在(zai)一定程度上(shang)能夠為用(yong)(yong)戶提供相應的(de)情(qing)(qing)緒價值(zhi)或情(qing)(qing)感慰藉，讓他(ta)們感到“共情(qing)(qing)”。這也有(you)利于緩解(jie)使用(yong)(yong)者壓力，避(bi)免情(qing)(qing)緒的(de)進一步惡化，進而(er)起到情(qing)(qing)感“治(zhi)愈”的(de)作用(yong)(yong)。

　　使(shi)用過(guo)程應保持(chi)警(jing)惕

　　雖(sui)然AI伴(ban)侶(lv)在一定(ding)程度上能夠(gou)給用(yong)戶帶(dai)來積(ji)極(ji)作用(yong)，但AI技術是(shi)把(ba)雙刃劍(jian)。人們要提高警惕(ti)，避(bi)免受到負面影響。

　　首先，要(yao)認識到不(bu)同于其他(ta)客觀存在(zai)(zai)的事物(wu)，情(qing)感具有非常(chang)大的主觀性和一定的排他(ta)性。“如果AI伴侶的出(chu)現不(bu)斷(duan)模糊虛擬與(yu)真(zhen)實(shi)的界(jie)限(xian)，使用(yong)戶(hu)對(dui)其產(chan)生深度依(yi)賴(lai)，甚至把AI伴侶當(dang)作真(zhen)實(shi)存在(zai)(zai)的人，那(nei)么AI伴侶的存在(zai)(zai)或許會對(dui)使用(yong)者產(chan)生一定傷(shang)害(hai)。”梁(liang)正說。

　　一(yi)些使用(yong)者的反饋印證了(le)(le)梁正的判(pan)斷。“為什么(me)AI的性格會(hui)突然(ran)變(bian)化？早上(shang)還(huan)聊(liao)得好好的，到(dao)了(le)(le)晚上(shang)仿佛變(bian)成(cheng)另一(yi)個人，連我叫什么(me)名字都忘記了(le)(le)，真的很(hen)崩潰。”一(yi)位用(yong)戶在社交(jiao)媒體上(shang)抱怨道。AI伴(ban)侶雖然(ran)看起來“百依百順(shun)”，但(dan)也(ye)會(hui)給(gei)(gei)使用(yong)者帶來情感傷(shang)害。梁正特別(bie)提到(dao)，一(yi)些本身就(jiu)缺乏陪(pei)伴(ban)、心理脆弱的群體往往分(fen)不清AI與真人的區(qu)別(bie)，AI帶給(gei)(gei)他們情感傷(shang)害和沖擊也(ye)因(yin)此會(hui)更(geng)嚴(yan)重。

　　其次，長期(qi)沉浸在(zai)虛擬世界中，極有(you)可能(neng)造成現實(shi)社交(jiao)(jiao)(jiao)能(neng)力的(de)(de)下(xia)降。“隨著(zhu)AI伴侶影響力的(de)(de)擴大，可能(neng)有(you)越(yue)來越(yue)多的(de)(de)人(ren)(ren)選擇虛擬的(de)(de)線(xian)上社交(jiao)(jiao)(jiao)，放棄真實(shi)的(de)(de)人(ren)(ren)際互動。這不(bu)利(li)于人(ren)(ren)類社會的(de)(de)發(fa)展。”曾(ceng)一(yi)果(guo)認(ren)為，虛擬的(de)(de)溫(wen)暖永遠代替不(bu)了真實(shi)的(de)(de)交(jiao)(jiao)(jiao)流，和AI伴侶交(jiao)(jiao)(jiao)往的(de)(de)潮流不(bu)應擴大化(hua)。

　　此外，人(ren)們需要對AI傳(chuan)(chuan)遞的(de)信(xin)息內容保持(chi)警惕(ti)。一方面，如(ru)果(guo)AI伴侶不(bu)設置年齡(ling)門(men)檻，極有可能出現向未成年人(ren)傳(chuan)(chuan)播不(bu)良信(xin)息的(de)情況，影響他們的(de)身心健康。另(ling)一方面，AI帶來的(de)價值偏(pian)見與歧(qi)視問(wen)題一直被人(ren)們關(guan)注(zhu)。如(ru)果(guo)AI伴侶對使(shi)用者不(bu)斷進行(xing)錯誤誘導，對使(shi)用者進行(xing)“反向控制”，就容易(yi)讓使(shi)用者做出錯誤的(de)行(xing)為(wei)。

　　AI伴侶(lv)(lv)(lv)也有(you)可能(neng)在現(xian)實中(zhong)引發糾紛。如果AI伴侶(lv)(lv)(lv)需(xu)要使用者(zhe)不斷支(zhi)付費用，那么無疑(yi)會掏空(kong)沉迷者(zhe)的(de)“錢(qian)包”。AI伴侶(lv)(lv)(lv)這個“樹洞”也不是百(bai)分百(bai)的(de)安全可靠(kao)。梁(liang)正提醒(xing)，AI伴侶(lv)(lv)(lv)在使用和管理層面(mian)存在諸多(duo)風險(xian)，不法分子可能(neng)通過外泄的(de)隱私(si)數據，拼湊(cou)出個人信息來進(jin)行詐騙(pian)或其他違法犯罪活動。

　　細化(hua)準則(ze)引導技術(shu)向(xiang)善

　　“應用(yong)(yong)(yong)新技術，首先要(yao)堅持(chi)正確的(de)(de)倫理(li)導向(xiang)。”梁(liang)正說。AI伴侶是極為特殊的(de)(de)一(yi)類(lei)(lei)AI應用(yong)(yong)(yong)場景，類(lei)(lei)似(si)于心理(li)咨詢(xun)師。它們可(ke)以給人們帶來心理(li)療(liao)愈，但(dan)不(bu)法分(fen)子(zi)也可(ke)能(neng)會借此(ci)操控(kong)人心。可(ke)以預見的(de)(de)是，“人工智能(neng)+情感(gan)”的(de)(de)賽(sai)道會不(bu)斷擴張，如今用(yong)(yong)(yong)AI來“復活(huo)”親人的(de)(de)案(an)例也屢(lv)見不(bu)鮮。因(yin)此(ci)，如何讓AI發揮正向(xiang)作用(yong)(yong)(yong)，制定針對性(xing)的(de)(de)倫理(li)準(zhun)則，是行業要(yao)解決的(de)(de)首要(yao)問(wen)題。

　　梁正(zheng)提到，國內外已(yi)公(gong)布的(de)(de)(de)(de)針(zhen)對(dui)AI的(de)(de)(de)(de)倫理準則大多比(bi)(bi)較(jiao)宏觀(guan)，需要在細分領域(yu)制定更具體的(de)(de)(de)(de)倫理準則。“比(bi)(bi)如(ru)年齡(ling)的(de)(de)(de)(de)限制、適用(yong)場景的(de)(de)(de)(de)限制……制定這些(xie)規則，需要秉持(chi)對(dui)使用(yong)者最有利、風險最小(xiao)的(de)(de)(de)(de)原則。”他說。

　　而在法(fa)律法(fa)規層面，AI伴侶(lv)需要嚴格遵守相(xiang)關的(de)(de)(de)規定。例(li)如(ru)，對(dui)用(yong)戶(hu)信(xin)息(xi)的(de)(de)(de)處理，應(ying)當遵循個人(ren)信(xin)息(xi)保(bao)護法(fa)、數據(ju)安全(quan)法(fa)等。“我(wo)國(guo)去年公布的(de)(de)(de)《生成式(shi)人(ren)工智(zhi)能服務管理暫(zan)行辦(ban)法(fa)》劃定了AI使(shi)用(yong)的(de)(de)(de)底線(xian)，如(ru)尊重他人(ren)合(he)法(fa)權益、不得危害他人(ren)身(shen)心(xin)健康等，目的(de)(de)(de)就是推(tui)動(dong)人(ren)工智(zhi)能向善發展。”梁正表(biao)示(shi)，未來應(ying)推(tui)出針(zhen)對(dui)具體場(chang)景的(de)(de)(de)、更(geng)加細(xi)致的(de)(de)(de)要求，比如(ru)應(ying)當從防沉迷的(de)(de)(de)角度，對(dui)AI的(de)(de)(de)使(shi)用(yong)時長加以限定。目前，還相(xiang)對(dui)缺(que)少針(zhen)對(dui)AI伴侶(lv)的(de)(de)(de)相(xiang)關政(zheng)策法(fa)規。

　　從行業規定上看，一些機(ji)構、公司(si)對此表現(xian)出的(de)態度也(ye)十分謹慎。記者發現(xian)，一些AI伴侶應(ying)用已經(jing)被下(xia)架處(chu)理。OpenAI的(de)相關(guan)條(tiao)款中也(ye)提(ti)到，不允(yun)許用GPT進行浪漫伴侶關(guan)系的(de)培(pei)養。

　　在推動(dong)法律法規完(wan)善的(de)(de)同(tong)時，使用者更應(ying)秉持謹慎的(de)(de)態度，審慎對待AI伴(ban)(ban)侶這一新生事物。“人(ren)們應(ying)當警(jing)惕(ti)技術對人(ren)的(de)(de)控制(zhi)和異(yi)化，避免AI伴(ban)(ban)侶對自身(shen)造(zao)成的(de)(de)不利影(ying)響。”梁正提醒道。(實(shi)習記者 吳(wu)葉凡)