開欄語：

AI技術正以前所未有的速度重塑世界，也在現實中投射出重重亂象。幾天前，“slop”（AI批量產出的劣質內容）被評為年度熱詞。過去這一年，我們見證了AI“一鍵脫衣”打開潘多拉，捏個“假偶像”直播撈金；賽博算命、智商稅學習機屢屢上新，學術圈和詐騙團伙也都在狂刷AI副本……上游新聞特別推出“年度AI亂象調查”專題，盤點六大AI“翻車”現場，帶你看透亂象背后的深層邏輯和監管難點，探討AI亂象綜合整治之道。

技術無善惡，道德有底線。這場AI安全保衛戰，沒有局外人和旁觀者。

近年來，隨著人工智能技術的不斷發展，AI給人們的生活帶來越來越多的便利。在網絡上，人們隨處可見AI生成的圖片、文字乃至視頻，在高校，學生利用AI工具完成作業、撰寫論文的情況也越發普遍。眼下，不少高校為了防止AI代寫畢業論文，在原有查重檢測的基礎上，增加了AIGC檢測（人工智能生成內容檢測）的要求，國內多所高校都為師生AI使用制定了規范。于是，部分學生購買AI工具，試圖“用魔法打敗魔法”，卻發現“雖然AI率下來了，讀起來卻像白開水，被導師批評邏輯不通，退回重改。”

學術圈的AI“斗法”愈演愈烈，AI時代的學術研究路在何方？

第三方機構：近六成高校師生頻繁使用生成式AI

以ChatGPT為代表的生成式人工智能技術(AIGC)橫空出世，似乎為人們寫論文提供了新幫手。從提供選題到文稿潤色、從統計分析到圖表制作……其功能之強大，幾乎覆蓋了學術論文寫作過程的方方面面。

據大皖新聞此前報道，小程是一名漢語言文學專業的學生，在平時的學習中，他需要交不少的文字作業。以前他都會在閱讀完作品后，再去網上查閱一些關于作品的評論，通過自己的思考和他人的評論結合去創作作文，“現在我發現通過AI生成文章更加便利，只要給出清晰的描述，AI便能根據你的要求生成文字，然后我再選用其中適合自己的部分，能節約不少時間。”

與小程有著同樣想法的人不在少數。據第三方機構“麥可思”對超3000名高校師生的問卷結果顯示，近六成高校師生每天或者每周多次使用生成式AI。而大學生在使用生成式AI時，有近三成主要用于寫論文或作業。

麥可思數據報告。北青網

據央視新聞報道，浙江大學教育學院黃亞婷團隊從2024年初開始，分3次對國內大學生使用AI工具的情況進行了調研，調研發現有部分學生表示“習慣于借助AI完成任務”，對AI產生了依賴。

2023年《自然》雜志對全球博士后的一項調查發現，約有三分之一的受訪者使用人工智能聊天機器人來優化文本、生成或編輯代碼、整理文獻。

AI真的能生成一篇完整的“優質”論文嗎？科技日報記者按照教程開始了嘗試：“請提出與民族志紀錄片有關的論文選題。”幾乎無需等待，幾個看起來很“靠譜”的選題就出現在對話框里。

“請就某一選題生成寫作大綱。”幾秒后，7個像模像樣的章節全部生成完畢。

“請就提綱中某項內容，詳細描述2000字。”重復幾次操作后，一篇幾萬字的“論文”很快就完成了。

但瀏覽生成的“論文”可以發現，其生成的段落中，存在大部分重復且言之無物的內容。除了說“車轱轆”話，某985高校人工智能專業碩士研究生溫睿還發現了此類論文的行文特點：“一般是先寫一句話，然后進行分條論述。當老師看到這樣套路化的內容就會猜測，這類文章很大程度上是人工智能寫的。”

不少期刊編輯、審稿人也發現了同樣的問題。某人文社科期刊審稿人徐彬向透露，用AI寫論文的關鍵在于提示詞。如果提示詞選用的不恰當，就極有可能得到一篇套路化的文章，“這些文章的共同特點就是非常水。雖然它生成的語言連貫性不錯，但是缺乏深度，創新性也不強。”對此，徐彬略顯無奈，“綜述類文章是使用AI的重災區，但目前期刊還缺乏相關的評價標準和處理機制。”

學者擔憂：知識界的批判性思維或將集體退化

“用AIGC（人工智能生成內容）技術輔助學位論文寫作，可能會導致學生產生一種‘人工智能依賴’，會削弱學習自主性，并在不同程度上影響人才評價的公正性。”廣西師范大學法學院副教授李志鍇接受中青報采訪時認為，甚至可能會有涉嫌抄襲、剽竊等風險。同時，大部分學生很難判斷AI生成的內容是否來源于受知識產權保護的材料或是否摻雜虛假信息，這使得學生在使用AI輔助甚至代寫論文時，稍不注意便會將虛假的信息寫入學位論文中。

一位網友畢業論文的AI檢測報告。北青網

李志鍇介紹，學生若在論文中引用了AI生成的侵犯他人知識產權的文本，那么學生本人也同樣將面臨侵權的民事風險，甚至因此可能被學校認定為論文作假從而影響到學位獲取。

研究發現，在訓練數據的影響下，AIGC所生成的輸出內容容易帶有反映文化和政治偏見的刻板回答，回歸到學位論文寫作過程中，李志鍇認為，AIGC可能將一些帶有偏見的內容作為回答提供給學生并影響學生的情感認知、態度和行為等。

中文核心期刊《社會科學輯刊》李學成透露，從2024年底，他便發現投稿論文中有使用AI創作的苗頭。此后，這類情況越來越多。其中的投稿者，不僅有學生，還包括有職稱的高校教師。

在他看來，隨著AI創作的論文比例越來越高，這不僅增加了期刊編輯部的檢測工作量，更關鍵的是，文章將缺乏學術創新，“沒有靈魂”，還可能讓寫作者變得越來越慵懶，不去讀原著原文，尤其會阻礙青年人才獨立思考和寫作能力的培養。

更讓李學成擔憂的是，與核心期刊面臨的狀況相比，普通期刊才是AI創作的“重災區”。李學成向一些普刊編輯部了解到，由于接收了大量碩士生、博士生的投稿，普刊中AI創作的論文占比已經“很高了”。

斯坦福大學一項研究顯示，超過半數的研究生承認用AI撰寫“非核心”論文章節。有學者擔憂：當學生用AI寫作業、審稿人用AI生成報告，知識界的批判性思維或將集體退化。甚至有人認為，證明自己是人類而非AI，或將成為一門新的大學生“必修課”。

某985高校一位從事AI方向研究的博士生坦言，課題組的同學在研究和寫作中，使用AI的頻率高達100%。“從選題思路、完成初稿到后期語言潤色，我們都在使用AI，可以說已滲入論文生成的每個環節。”

不過，也有大學生在使用過程中遭遇“AI幻覺”。“AI會編出不存在的學者、論文，如果不是我特意去搜索，根本不會發現，這里面隱藏這么多坑。”在校大學生伊一（化名）就曾多次遭遇“AI幻覺”陷阱。近期，一項面向全國各地大學生的問卷調查顯示，97.%受訪大學遇到過AI提供錯誤或虛假信息的情況。

AIGC檢測：帶來誤傷但已比較成熟

眼下，不少高校為了防止AI代寫畢業論文，在原有查重檢測的基礎上，增加了AIGC檢測（人工智能生成內容檢測）的要求。于是，部分學生購買AI工具，試圖用魔法打敗魔法，卻發現“雖然AI率下來了，讀起來卻像白開水，被導師批評邏輯不通，退回重改。”也有學生“吐槽”說，他的一篇論文經導師指點修改后，AI率不減反增，從10%飆升到80%。

要知道，AIGC檢測也挺費錢。以知網為例，AIGC檢測單價為2元/千字符，維普的檢測價格按篇計算，每篇20到38元不等。受訪學生直言，一篇文章往往在多個平臺檢測比對數據才能放心，為此花上幾百元并不出奇。

不僅學生為此苦惱，大學教授也對AI審稿表達不滿。日前，資深環境科學家、韓國忠南大學教授洪成進在《泰晤士高等教育》撰文吐槽，其團隊論文疑因AI工具生成的評審意見被拒稿。

那么，AIGC檢測結果權威嗎？有網友將朱自清的《荷塘月色》、劉慈欣的《流浪地球》上傳到檢測平臺，意外發現這些文章也被“蓋章”為AI生成，疑似度分別高達62.88%和52.88%。那么，這是否意味著AIGC檢測翻車了？

“大模型的運作思路和人腦類似，就是將知識存儲起來，再根據已有知識做出推測和判斷。”上海財經大學計算機與人工智能學院副教授崔萬云直言，目前大模型在一些答題場景的準確率和反應時間方面已領先人類，但模型無法和真實世界完全對齊，要確保大模型答案永不出錯并不現實，“合理的‘出錯’也是大模型能力的一部分。”

華東師范大學計算機科學與技術學院青年研究員周杰分析，當前市面上的許多大模型在設計之初就以更好地服務人類為目標，旨在快速提供能夠滿足大多數用戶需求的答案。因此，當面對超出其理解或處理能力的問題時，大模型可能會基于已有知識的概率分布“冒險”作答，而這恰恰也體現了模型在一定程度上的創造力。由此談及被大學生們口誅筆伐的AIGC檢測，崔萬云和周杰兩位學者均認為，盡管大模型的準確率、AIGC檢測有一定誤差，但目前相關工具已比較成熟。

據知網官方解釋，AIGC檢測基于預訓練大語言模型算法邏輯，從語言模式和語義邏輯兩條鏈路，用AI對抗AIGC；維普AIGC率檢測系統則是通過對文本的詞匯、語法、語義等多方面特征進行分析，構建復雜的模型來識別AI生成的內容。

“目前市面上主流的AIGC檢測工具大概率是根據數據庫中已有的文章，做分類模型，將檢測文章輸入，進而根據語言風格、寫作習慣區分AI生成和人為寫作。”崔萬云舉例，機器寫作中經常用到首先、其次、再次，還會大量使用排比和比喻。如果文中出現了上述表達，很可能被判定為AI寫作。

他直言，雖然有學生被“誤傷”，但大部分顯示超標的論文，確實因為過度使用AI生成而被發現。

高校應對：多所大學為此立了規矩

據橙柿互動報道，為了應對生成式人工智能對學術論文寫作帶來的沖擊，國內很多大學，都為師生AI使用制定了規范。

浙江工商大學今年10月發布了《關于在本科畢業論文（設計）中使用AI工具的指導意見（試行）》，明確了人工智能允許使用范圍和禁止使用范圍。要求不得使用AI工具直接生成畢業論文（設計）的內容。禁止直接使用AI工具生成本科畢業論文（設計）正文、開題報告及相關附件材料。AI工具可以在學生學習如何撰寫畢業論文（設計）階段中輔助寫作，但不能代替最終獨立創作。

今年1月，復旦大學發布《關于在本科畢業論文（設計）中使用AI工具的規定（試行）》。作為國內高校首個專門針對AI工具在本科畢業論文（設計）中使用的規范化管理文件，《規定》的發布填補了這一領域的政策空白。復旦大學允許AI使用的范圍包括文獻檢索、代碼調試和統計分析等輔助性工作，但要求經過學生的審核和指導教師的同意，確保AI生成內容的真實性和可靠性。如果出現嚴重違規者，論文成績將被認定不合格，影響學生取得學位。學生要簽字并聲明，是否在寫作的過程中使用過AI，是不是觸及了相應的邊界和底線。

復旦大學關于學生畢業論文使用AI的要求。網頁截圖

北京師范大學新聞傳播學院、華東師范大學聯合發布《生成式人工智能（AIGC）學生使用指南》，共六大方面，涉及遵守相關法規、符合學術道德規范、使用時應進行標注、對生成內容進行必要自查、遵循學科相關使用規定，以及遵守教師課程要求。學生在使用生成式人工智能完成作業時，需標紅相關內容，且直接生成的內容不能超過全文的20%。

北京郵電大學、中國傳媒大學、華北電力大學、湖北大學、福州大學、南京工業大學等不少高校，都在試行或出臺相關規定或辦法，對學生借助AI完成作業，進行論文寫作等行為進行規范。

當知識觸手可得，人類為何還要寒窗苦讀？

2026年畢業生將是全球第一代“AI原生代”，他們的大學生涯與ChatGPT等AI工具的興起同步。復旦大學新聞學院教授、博士生導師張力奮援引數據指出，中國生成式AI用戶已達5.11億，專利數是美國的6倍。“相比之下，中國大學對AI的戰略思考和制度應對，已明顯落后于牛津、劍橋、斯坦福等歐美高校。”

“大學的存在價值依然不可替代，但是，形態必須革新。”復旦大學特聘教授王曉陽強調，AI進入校園已經不是未來時而是進行時，固守傳統教學模式無異于掩耳盜鈴。在他看來，教育范式必須從單純的知識囤積轉向深度的認知構建。“未來教育要培養的是設計架構的建筑師，而非只負責砌磚的工程師。大學必須引導學生構建比AI更宏偉的世界模型。”

央視網也指出，今天學者們憂慮的、高度依賴AI生成的論文，在20年前可能是高度依賴“Ctrl+C/Ctrl+V”的論文，在10年前可能是高度依賴“降重神器”的論文，性質上沒有差別。原創意識是一種珍貴的自覺，甚至是一種自信，它需要建立在對專業神圣性的深度信任之上。

今天的學術評判標準，整體上都在朝向高效率、高功績標準，所有行內人都在不斷尋找，什么手段能高度壓縮時間、什么辦法能帶來最高性價比的投入產出。否則，拿什么來跑過“非升即走”的倒計時，拿什么來達到論文、項目的訂單量，拿什么來緊緊卡住年齡申請各類“基金”“人才”？

“從過往經驗看，技術手段與技術治理手段一定會在一定時間內達到均衡，所以更精準化的AI檢測工具早晚會出現。需要想一想的事情是，上述那些問題，比如缺乏原創性、批判性與人文主義，會不會隨著工具的升級而消失。”

上游新聞綜合自 新華網、央視網、科技日報、中青網、上觀新聞、大皖新聞、橙柿互動、新民晚報等