誰來管管“ChatGPT論文”？

2024-03-28 13:04:53

英國(guo)《自然(ran)》雜志(zhi)網站

近日報道指出

ChatGPT等大型語言模型

正在重塑科學寫作和出版的管管面貌

報道認為

這些工具在提高(gao)生產(chan)力的(de)同時

可能也會帶來負面影響

出版商和(he)科學家必須考慮

如何更(geng)符合倫理道(dao)德地(di)

使用這些工具

以及過(guo)度依賴(lai)這些工具

將對學術研究前景

產生何種影響

　　圖源：《自(zi)然》網站

在競爭激烈的學術界

ChatGPT等大語言模(mo)型

憑借其快速創建

文本(ben)、圖像等內容(rong)的管管超能力

迅速成為(wei)科學家們的“左膀右臂”

2023年

《自然(ran)》雜志對1600多(duo)名(ming)科(ke)學家(jia)

進行了一項調查顯示

近30%的受訪者表示

他們曾使用生成式(shi)AI工具輔助撰寫論文

約55%的受訪者認為

生(sheng)成式AI的一個主要好(hao)處是

它能為母語非英語的研究人員

編輯和翻譯論文

圖源：Pexels

繼(ji)2019年出版世(shi)界(jie)上第(di)一(yi)本

由機器生成的科(ke)研圖書之后

學術出版機構施普(pu)林格·自然集團

(Springer Nature，下稱“自然(ran)集團(tuan)”)

去年又授(shou)權作者(zhe)使用(yong)生成式(shi)人工智能

預訓練模型GPT

并將其作為集成工作流程的管管一部分

出版一本學術圖書

該書從啟(qi)動到(dao)完(wan)成(cheng)出版

花費不到5個月的時間

大約是正常出(chu)版(ban)時(shi)間的(de)一半

ChatGPT等生成式AI工具

在提高生產力的同時

也帶來了一系列問題

比如

它們可能會產生

一些荒謬或不(bu)真實的內容

而且隨著這些工具

在學術論文領域的廣泛(fan)應用

期刊的投稿量也(ye)大(da)幅(fu)增(zeng)加

導致編輯(ji)和同行(xing)評(ping)審人員不堪重負

從(cong)中篩選出有價(jia)值的論文

將更具挑戰性

圖源：Pexels

此前，知名出版集團

愛思唯爾(er)（Elsevier）旗下期(qi)刊(kan)

發(fa)表的管管幾篇論文(wen)被發(fa)現

開(kai)篇就暴(bao)露了“ChatGPT風格”

插圖也是用Midjourney畫的

因為它的開頭是：

“當然可以，這里是管管

您的主題(ti)可能需要的介紹(shao)”

議論的聲音越來越大

現(xian)在已經逼得愛(ai)思唯爾官(guan)方(fang)下場(chang)

稱目前正(zheng)在調(diao)查(cha)被質疑的(de)論文

紐約大學名譽教授

加里·馬庫斯（Gary Marcus）認為

AI的泛濫對于(yu)期(qi)刊出版商來說

是一個重大的預警

因為他們最重要的

就是聲譽

面對生成式AI的“入侵”

學術出版商們也開始采取行動

比如(ru)，自然(ran)集團就明確要求

使用大語言模型工具的管管研究人員

必須在方法或致謝部分

列出這種使用

但(dan)正如美國(guo)《科(ke)學》雜志主編

霍頓·索普（Holden Thorp）所(suo)說

目前

還(huan)沒(mei)有一個令人信服的檢測(ce)工(gong)具

來篩選期刊投稿

圖源：Pexels

人工智能倒逼出版界“立規矩”

行業應該如何做？

“出版界

應該(gai)積(ji)極擁抱人工智能(neng)技術(shu)

并將其運用到

出版流程的各個環節中

從(cong)而(er)提高效(xiao)率、降低成本、管(guan)管(guan)提升品質

更好地滿足讀(du)者的管管需求

同時

出版界也需要重視

人工(gong)智能帶來(lai)的一(yi)些挑(tiao)戰和問(wen)題

如(ru)隱私保護、算法(fa)偏見等(deng)

制定相應的管管規范和政(zheng)策

來規范人工智(zhi)能在出版領域的應用。”