原標題：審稿人或難識別AI撰寫的論文摘要
據近日發表在預印本服務器bioRxiv上的一項研究，人工智能（AI）聊天機器人ChatGPT已可寫出令人信服的假研究論文摘要，甚至連審稿科學家也無法發現。
聊天機器人ChatGPT會根據用戶提示創建逼真文本，它通過消化大量現有的人類生成文本來學習執行任務。美國的軟件公司OpenAI于去年11月發布了該工具，并供用戶免費使用。
自發布以來，研究人員一直在努力解決相關倫理道德問題，因為它大部分輸出可能很難與人類撰寫的文本區分開來。近日美國西北大學的一個研究小組使用ChatGPT生成人工研究論文摘要，以測試科學家是否可辨別它們。
研究人員要求機器人基于發表在《美國醫學會雜志》《新英格蘭醫學雜志》《英國醫學雜志》《柳葉刀》和《自然·醫學》上的50篇研究編寫摘要。然后，他們通過抄襲檢測器和AI輸出檢測器將這些摘要與原始摘要進行比較，并要求一組醫學研究人員找出編造的摘要。
結果，ChatGPT生成的摘要通過了抄襲檢查器，原創性得分中位數為100%，表明沒有檢測到抄襲。人工智能輸出檢測器發現了66%的生成摘要，但人工審稿人只正確識別了68%的生成摘要和86%的真實摘要，他們錯誤地將生成摘要中的32%識別為真實，將14%的真實摘要識別為編造。
研究人員稱，ChatGPT寫出了能騙過人類的科學摘要，如果科學家無法確定研究是否屬實，或會產生“可怕的后果”。
研究人員表示，在虛假信息會危及人們生命安全的醫學等領域，期刊需要采取更嚴格的方法來驗證信息的準確性。而這些問題的解決方案，不應集中在機器人本身，“而是導致這種行為的不正當激勵措施，例如通過論文數量進行招聘和晉升審查，而不考慮其質量或影響”。（記者張夢然）
【總編輯圈點】
大火的ChatGPT，不止是聊天工具,它在教育領域的滲透已經引起了廣泛關注和討論，當然，隨之而來的還有憂慮。如果你使用過ChatGPT，也會驚訝于它撰寫報告的能力。給它一個主題，它就能在幾秒內生成大綱，也能在幾秒內進行細化，而且看起來非常是那么回事。這次，科研人員發現它撰寫的論文甚至能騙過審稿人。這又是一個人如何使用新技術的經典倫理問題。工具本身無罪，但應用邊界應該清晰，使用者也要對自己的行為負起責任。
(責編：趙竹青、陳鍵)
本站新聞轉載自人民網，文字、圖片及視頻版權歸原作者所有。來源：科技日報
手機掃碼閱讀
更多資訊
[Technology] ChatGPT為何引教育界“封殺”？ 2023-02-13
[Technology] ChatGPT全球爆火 談“顛覆”或許還早了點 2023-02-13
[Technology] 新聞分析：ChatGPT，變革與風險 2023-02-13
[Technology] ChatGPT引全球關注 學者談“新AI”深層思考 2023-02-10
[Trademark] 生成內容屬于誰？會侵權泄密嗎？ChatGPT法律風險詳解 2023-02-10
[Design] 數智技術融媒手段 讓珍貴古籍觸手可及 2023-02-10
[Technology] ChatGPT爆火，國內研發進展如何？ 2023-02-10
[Development] 微軟推出內置ChatGPT搜索引擎 2023-02-09
[Technology] ChatGPT爆紅 AI大規模商用離我們還有多遠？ 2023-02-08
[Development] “啥都懂”“啥都會”的ChatGPT會是現實世界的MOSS嗎 2023-02-08
[Cloud] 看似無所不能，ChatGPT會不會成為行業“終結者” 2023-02-07
[Development] 心芯相連半導體先進銅互連設備研發項目臨港研發制造中心順利開工 2023-02-07
[Development] 日本研發出促進腦損傷修復的生物材料 2023-02-06
[EBusiness] 墨西哥電商市場發展迅速 2023-02-06
[Technology] “小納米”蘊含“大市場” 重慶納米金屬研究院科研攻關取得重大突破 2023-02-06
[Development] 機器人應用領域加速拓寬 優必選科技擬赴港IPO 2023-02-02
[Technology] 一種治療腦部疾病的神經芯片出爐 2023-02-01
聯系我們
-
山東省,威海市,環翠區
青島中路87-1,阿里巴巴四十大道A1512 -
service@briline.net
-
0631 3655286
13385420936 -
Office hours:
設計、開發、客服 09:00 - 17:00 (周一-周六)數據維護 7 × 24 H商標業務 09:00 - 20:00 (周一-周五)
