機器之心報道

編輯：杜偉、Panda

這屆 ICLR 的煩心事還沒有結束。

最近一段時間，對于 ICLR 2026 來說，真可謂是一波未平、一波又起。先是第三方機構對審稿意見的系統性統計發現，其中有 21% 完全由 AI 生成；后有 OpenReview 評審大開盒，波及到了 ICLR 2026 超過 10000 篇投稿。

今天，ICLR 2026 的審稿又被揭開一塊遮羞布。事情是這樣的：AI 生成內容檢測平臺 GPTZero 掃描了 300 篇投稿論文，發現其中有 50 篇在論文引用上至少包含一處明顯的幻覺內容。

甚至有些幻覺引用還非常離譜，達到了匪夷所思的程度，就好像投稿者完全不檢查一樣。比如下面 GPTZero CTO 和聯創 Alex Cui 在 X 分享的這個例子，投稿者給出的引用鏈接竟然是默認示例鏈接 example.com ！

而在下面的例子中，作者名單就只是一串大寫字母。

更令人擔憂的是，這些存在幻覺內容的投稿已經經過了 3-5 名領域專家的同行評審，但他們中的絕大多數都未能識別出這些虛假的引用。

這意味著，如果這些投稿沒有其他外部干預，就可能會被 ICLR 會議接收。部分投稿的平均分甚至達到了 8/10，這幾乎可以確保它們被錄用。

在實操過程中，GPTZero列出了每篇論文中由檢測工具標記、并由人工核實的具體幻覺示例。如下兩篇論文，第一篇（TamperTok）的一篇引用論文確實存在，但所有作者都錯了；第二篇（MixtureVitae）的一篇引用論文的前 3 位作者信息正確，而后七位作者不在論文中甚至是虛構出來的。

甚至還有「不存在的論文引用」。

50 篇存在幻覺內容的投稿完整如下：

存在幻覺的地方還包括：

作者和會議信息與引用論文相符，但標題略有不同，年份也有誤；arXiv ID 是真實的，但引用論文的作者和標題都不同；引用論文存在，但是作者和頁碼都是錯誤的；能找到與 URL 對應的引用論文，但作者不匹配。

GPTZero 表示，根據 ICLR 的編輯政策，即使只有一處明確的幻覺內容，也構成倫理違規，可能導致論文被拒稿。「我們目前只掃描了 2 萬篇投稿中的 300 篇，我們預計在未來幾天內將發現數百篇包含幻覺內容的論文。」

科學期刊與學術會議已在 AI 重壓下不堪重負

GPTZero 表示：「學期刊和學術會議正被生成式 AI、論文工廠（paper mills）和發表壓力引發的投稿狂潮壓垮。」

據統計，2016 年至 2024 年間，每年發表的科學文章數量激增了 48%，與此同時，撤稿和其他學術丑聞也層出不窮。許多科學會議和期刊都在苦于尋找合格的同行評審員，而評審員們則因日益增加的時間需求而感到「不堪重負」。

像 ICLR 這樣的學術會議也面臨著巨大的壓力。ICLR 是全球最重要的人工智能研究人員年度盛會之一，然而最近許多會議投稿和同行評審都顯示出 AI 撰寫的跡象。這些跡象從行文冗長、濫用列舉項，到偽造數據和「幻覺」，不一而足。

「幻覺檢測」發現了什么？

GPTZero 表示，自今年 1 月推出「幻覺檢測」（Hallucination Check）工具以來，他們已經測試了小羅伯特?肯尼迪（RFK Jr.）的「MAHA」報告、一份丑聞纏身的澳大利亞德勤（Deloitte Australia）報告以及數百份其他文件。

本周，他們用它掃描了提交給 OpenReview 的 300 篇 ICLR 論文樣本集。

自動檢測后，他們的工具標記了 90 篇論文，這些論文中至少包含一條在網上似乎不存在的引用。

經過人工核實，他們確定其中 50 篇論文至少包含一處真實的幻覺。

定義「幻覺」

鑒于問題的嚴重性 —— 畢竟這對研究人員和編輯都利害攸關，幻覺檢測工具在設計上必須優先考慮準確性，提供每個來源評估的透明度，并采取審慎的態度。

GPTZero 在博客中介紹說：「它使用我們內部訓練的 AI 智能體來標記文檔中任何無法在網上找到的引用。這些被標記的引用并不自動等同于幻覺，因為許多檔案文件或未發表的作品無法與在線來源匹配，但它們指出了哪些來源需要進一步的人工審查。」

與 ICLR 一樣，GPTZero 提議由人工來判斷一條有缺陷的引用究竟是 AI 生成的，還是傳統錯誤的產物。

雖然界限可能很模糊，但他們將「幻覺」定義為：使用生成式 AI 產生的引用，這些引用似乎是對一個或多個真實來源的標題、作者和/或元數據進行了改寫或拼湊。

如果一條有缺陷的引用只是單純在網上找不到（且看起來合理，比如這個引用 Elara Voss, letter to author, October 12, 2024.），或者標題和作者明顯與真實來源匹配（即使引用的其余部分極不準確），都不認為它是幻覺。

下表展示了基于以上方法論，真實引用、有缺陷的引用和幻覺引用之間的區別。（注：原文中差異部分以紅色高亮顯示，此處以文字內容呈現）。

類似于 GPTZero 的 AI 檢測器，幻覺檢測工具的假陰性率（漏報率）極低 —— 成功發現有缺陷引用的概率可達 99%。

并且由于此工具會標記任何無法在線驗證的引用，因此假陽性率（誤報率）會相對較高。

同行評審的未來

同行評審是學術出版的重要組成部分，但目前的體系讓評審員和編輯們有些難以招架。

GPTZero 的幻覺檢測為同行評審流程提供了兩個關鍵益處。

將幻覺檢測與 GPTZero 的 AI 檢測器結合使用，允許用戶同時檢查 AI 生成的文本和可疑引用，甚至利用其中一個結果來驗證另一個。通過識別有缺陷的引用供人工審查，幻覺檢測大大減少了驗證文檔來源所需的時間和人力。

GPTZero 表示：「我們希望，在 50 篇 ICLR 投稿中識別出這 50 個幻覺，能向那些面對投稿狂潮的人們展示幻覺檢測的價值。我們的目標是讓同行評審過程對每個人都更快、更公平、更透明。」

結語

如果在 AI 領域的頂級殿堂里，連基本的真實性都需要依靠另一款 AI 工具來艱難維系，這無疑是一種巨大的諷刺。

ICLR 的遭遇并非孤例，它是當下學術界大煉模型與發表壓力雙重擠壓下的必然產物。

當生成一篇看似專業的論文只需要幾秒鐘，而驗證它的真偽卻需要耗費數小時，這種不對稱的對抗正在擊穿同行評審的防線。那些高達 8 分的幻覺論文，就像是潛伏在學術共同體中的特洛伊木馬，嘲笑著現有的評價體系。

GPTZero 的檢測結果是一個警告，也是一個契機。它提醒我們，在擁抱 AI 帶來的效率紅利時，必須建立起與之匹配的數字安檢機制。否則，未來的學術會議可能不再是思想碰撞的火花，而變成了一場 AI 生成內容（AIGC）的自我狂歡。

我們期待 ICLR 能挺過這次水逆，但更期待整個學術界能以此為鑒：不要讓劣幣驅逐良幣，更不要讓幻覺成為常態。

https://gptzero.me/news/iclr-2026/

https://x.com/yaroslavvb/status/1997748956210868641

https://x.com/slashML/status/1997719788160954547

https://x.com/alexcdot/status/1997152905980268750