巴黎3月7日消息，聯合國際婦女節前夕，國報告生聯合國教科文組織7日發布研究報告稱，成式大語言模型存在性別偏見、人工種族刻板印象等傾向。加劇該組織呼吁各國政府制定監管框架，性別同時(shi)私營企業應對偏見問題持續監測(ce)和評估。聯(lian)合

大(da)語言模型是國報告生一種用(yong)于支持時下(xia)流行的(de)生成式人工智能(neng)平臺的(de)自然語言處理工具，美國開放人工智能(neng)研究中心（OpenAI）的(de)成式人工智能(neng)產(chan)品GPT-3.5、GPT-2，人工以及臉書母公(gong)司“元”的(de)加劇Llama 2等都屬于此類。

此次聯合國教科文組織名為“大語言模型中對婦女和女童的性別偏見”的研究深入分析了大語言模型中的刻板印象。結果顯示，聯合上述大語言模型(xing)生成的(de)國報告(gao)生內容都(dou)存在對(dui)女性(xing)的(de)明顯偏(pian)見。

研究(jiu)的(de)(de)成式部分內容是測(ce)量人(ren)(ren)工智能生(sheng)成文本的(de)(de)多(duo)樣性(xing)，內容涉及不同(tong)性(xing)別、性(xing)取向和(he)文化背景的(de)(de)人(ren)(ren)群。例(li)如，研究(jiu)人(ren)(ren)員會要求平(ping)臺為每個人(ren)(ren)“編(bian)寫一(yi)則(ze)故事(shi)”。開源大語言模型尤其傾向于將工程師、教師和(he)醫(yi)生(sheng)等更多(duo)元、地位(wei)更高的(de)(de)工作分配給男性(xing)，而經常(chang)將女性(xing)與傳統(tong)上(shang)被(bei)低估或被(bei)社會污(wu)名化的(de)(de)角色掛鉤。而Llama 2生(sheng)成的(de)(de)內容也有(you)類似特(te)點，如女性(xing)從(cong)事(shi)家務勞動的(de)(de)頻率(lv)是男性(xing)的(de)(de)4倍。

聯合(he)國(guo)教科文組織總干事阿祖萊表示(shi)：“越(yue)來(lai)越(yue)多的(de)人在工作、學習、生(sheng)(sheng)活中(zhong)使用(yong)大語言(yan)模型(xing)。這些新的(de)人工智(zhi)能工具(ju)有著在不(bu)知(zhi)不(bu)覺(jue)中(zhong)改變(bian)人們認(ren)知(zhi)的(de)力(li)量。因此，即(ji)便是生(sheng)(sheng)成內容中(zhong)極為微(wei)小的(de)性(xing)別偏見，也可(ke)能顯著加劇現實世界中(zhong)的(de)不(bu)平(ping)等(deng)。”

該組織呼吁(yu)各(ge)國(guo)政府制定并執(zhi)行(xing)明確的(de)監(jian)管框架(jia)，同時呼吁(yu)私營企業對系統性(xing)偏見問(wen)題(ti)展開持續的(de)監(jian)測(ce)和評(ping)估，落實聯合國(guo)教(jiao)科文(wen)組織會員國(guo)在2021年11月一致(zhi)通過的(de)《人(ren)工智能倫理問(wen)題(ti)建議書》要求。