每經(jing)記者 張宏    每經(jing)編輯(ji) 馬子卿(qing)    

2024年政府(fu)工作報告(gao)提(ti)出，上海實驗室主要大力(li)推(tui)進現代化(hua)產(chan)業體系建設，金融加(jia)快發(fa)展新質生產(chan)力(li)。發(fa)展“人工智能+”被首次寫(xie)入政府(fu)工作報告(gao)。任曾人機

3月28日，剛避關鍵由馬上消費聯合中國科學技術出版社、免大模型百姓彩票首頁金融(rong)界共(gong)同(tong)舉辦的幻覺(jue)環節還需“大(da)模型(xing)驅動下的金融(rong)新(xin)質(zhi)生(sheng)產(chan)力創(chuang)新(xin)論壇暨(ji)全國首部《金融(rong)大(da)模型(xing)》著作發布”活動在(zai)京舉行。

在主題分享環節，協作上海金融與發展實驗室主任曾剛表示，上海實驗室主傳統業務發展模式受到越來越大的金融挑戰，金融行業需要用大模型提升效率、發展適應客戶需求變化和拓展新的任曾人機服務空間及場景。會后，剛避關鍵曾剛就“金融機構(gou)在AI應用中如何避免大(da)(da)模型幻覺”這一話(hua)題接受了《每日經濟新聞》記者采訪。免大(da)(da)模型

傳統業務發展模式受到挑戰，幻覺環節還需行業需要用大模型提升效率

在主題分享環節，上海金融與發展實驗室主任曾剛表示，AI的發展會去除“知識中介”。生成式人工智能可以對一些沒有原創性的“知識中介”進行替代，很多看似有門檻的專業技術會被淘汰，我們個人對自身的百姓彩票首頁定位也(ye)會發生重大變(bian)化。

曾剛指出，從金融領域來看，行業面臨著幾大問題。一是資產獲取難度越來越大，隨著傳統客戶競爭越來越激烈，新客戶發掘越來越難，信貸投放面臨壓力，傳統服務模式可能無法觸及客戶；二是資產質量發生變化，一些過剩的行業正在經歷調整，這個過程對風險防控的百姓彩票大廳要求不斷提升；三是息差的收窄，2023四季度商業銀行凈息差為1.69%，一些銀行是低于這一水平的；四是資本補充有一定困境。

他強調，傳(chuan)統業(ye)務發展模式受(shou)到越來越大的挑(tiao)戰，行(xing)業(ye)需要(yao)用大模型去提升效率、適應(ying)客戶需求(qiu)變化(hua)、拓展新的服務空間及場景。

避免大模型幻覺，關鍵環節還需人機協作

會后，曾剛在接受《每日經濟新聞》記者采訪時表示，既要看到大模型的潛力，又要關注可能的風險。一方面，要依靠技術的不斷改進糾正可能發生的大模型幻覺；另一方面，可以通過人機結合，將大(da)模型(xing)圈定在助手層面。

NBD：金融是一個嚴謹的領域，要在金融業務中進行AI應用，如何避免大模型幻覺？

曾剛：現在我們確實對風險審慎經營保持極大關注。首先，機構層面要審慎經營、避免（使用）過度的風險。在使(shi)用（AI的(de)）過程中，對客(ke)戶(hu)、消費者的(de)保護要做到位，避(bi)免對客(ke)戶(hu)利益的(de)損傷(shang)。

金融大模型應用中，可能會在兩個層面上產生風險。一是在交易過程中，如果使用大模型時出現大模型幻覺，可能會導致一些潛在的風險，對機構造成傷害；二是在業務(wu)過(guo)程(cheng)中，對客戶造(zao)成傷害(hai)。

因此要求金融機構，從研發到應用大模型的過程中，均高度關注可能出現的大模型幻覺。既要看到大(da)模型的潛力，又要關注可(ke)能的風(feng)險。

一方面，依靠技術的不斷改進，通過各種方法糾正可能的幻覺，但這需要一個過程；另一方面，在實踐當中，實現(xian)人機結合，不(bu)要完(wan)全把任務拋給大(da)模(mo)型(xing)(xing)(xing)(xing)。大(da)模(mo)型(xing)(xing)(xing)(xing)可以替代一部分工(gong)(gong)作(zuo)(zuo)，但在關鍵(jian)環節還需(xu)人工(gong)(gong)進行校正、核驗。通(tong)過人機結合，把大(da)模(mo)型(xing)(xing)(xing)(xing)圈(quan)定在人的助手層面上，而不(bu)是讓大(da)模(mo)型(xing)(xing)(xing)(xing)完(wan)全替代人的工(gong)(gong)作(zuo)(zuo)。既能保證(zheng)效率提(ti)高，同時也(ye)能避免大(da)模(mo)型(xing)(xing)(xing)(xing)幻覺。

其次，監管層面上對科技應用也要提出規范要求，避免可能的風險。目前(qian)，科技監(jian)管越來越規范，通(tong)過監(jian)管層(ceng)面(mian)引導機構完善治理(li)架構、工(gong)作流程，以確(que)保把發展過程中潛在的(de)風險(xian)控制(zhi)在可(ke)接(jie)受范圍之內。

封(feng)面圖(tu)片(pian)來源：視(shi)覺(jue)中(zhong)國-VCG31N2008742366