前段時間，關于 AI 檢測畢業(yè)論文的話題引發(fā)了廣泛討論，并一度登上了熱搜榜， 圍觀者觀點無外乎 AI 檢測論文的程度有些過火，甚至也有人質疑是否應該使用 AI 進行檢測。

而據(jù)《華爾街日報》報道，OpenAI 內(nèi)部開發(fā)了一種可以準確檢測用戶是否利用 ChatGPT 撰寫文章或學術論文的方法。

報道稱，這項技術的背后用到了一種數(shù)字水印，雖然肉眼上不可察覺，但可以通過 OpenAI 的檢測技術進行識別。檢測工具會提供一個分數(shù)，以評估整篇文檔或其中一部分由 ChatGPT 撰寫的可能性。

內(nèi)部文件透露，當由 ChatGPT 生成的文本達到一定程度時，水印技術的準確性高達 99.9%。

去年七月，包括 OpenAI、meta 在內(nèi)的七家科技巨頭承諾將采用一些安全措施來增強 AI 技術的安全性。

這七家科技巨頭都承諾將共同開發(fā)和應用一種水印系統(tǒng)，適用于 AI 生成的所有類型的內(nèi)容，包括文本、圖像、音頻和視頻。

據(jù)知情人士和《華爾街日報》查閱的內(nèi)部文件顯示，ChatGPT 文本檢測器也已經(jīng)準備就緒，隨時可以發(fā)布。一位知情人士表示：「這不過是按一下按鈕的事情?！?

OpenAI CEO Sam Altman 和 CTO Mira MUrati 也曾參與有關這個「反作弊」工具的討論，但據(jù)知情人士透露，Altman 雖然支持這個項目的開發(fā)，但卻并未積極推動其公開發(fā)布。

一個關鍵的考慮因素在于，根據(jù) OpenAI 對 ChatGPT 高黏度用戶所進行的一項調(diào)查結果，69% 的用戶認為作弊檢測技術可能會引發(fā)對使用 AI 的不實指控。

近 30% 的用戶表示，如果 ChatGPT 啟用了水印功能而其競爭對手沒有，他們可能會減少使用 ChatGPT。

OpenAI 去年也曾推出一款名為「AI Text Classifier」 的文本檢測器，旨在檢測文本是否是由 AI 生成。

然而，根據(jù) OpenAI 的數(shù)據(jù)，該工具在識別 AI 生成文本方面的正確率僅為 26%，同時將人類縮寫內(nèi)容錯誤識別為 AI 生成的錯誤率達到了 9%，因此，該工具僅推出半年后便遭到了停用。

與此同時，《華爾街日報》引述 OpenAI 一位女發(fā)言人的話稱，OpenAI 擔心這項工具可能對非英語為母語的群體造成不公平的影響。

她強調(diào)「我們正在開發(fā)的文本水印技術在技術上有很大潛力，但在探索其他可能性時，我們也在權衡其帶來的重要風險……考慮到所涉及問題的復雜性和對 OpenAI 之外整個生態(tài)系統(tǒng)可能產(chǎn)生的影響，我們認為采取謹慎的態(tài)度是必要的?！?

斯坦福大學生物醫(yī)學數(shù)據(jù)科學助理教授 James Zou 曾領導一眾科學家，使用 7 個流行的 GPT 檢測器評估了 91 篇由非英語母語人士撰寫的托福（鑒定非英語為母語者的英語能力考試）作文。

研究發(fā)現(xiàn)，在 7 個 GPT 檢測器中，由非英語母語人士撰寫的超過一半的作文被錯誤地標記為由 AI 生成，甚至有一個檢測器錯誤地將近 98% 的作文標注為由 AI 生成。

相比之下，以英語為母語的八年級學生寫的作文在檢測后，同樣的 AI 檢測器將超過 90% 的作文標注為由人類生成。

此外，這類 AI 檢測器的普及度也是一個微妙的平衡點。

倘若使用檢測器的人過少，該工具的效果將大打折扣，如果使用的人太多，被破解的風險也隨之激增。

可以預見的是，隨著 AI 的不斷進步和滲透到我們的日常生活，驗證作品的「含人量」將逐漸成為我們不得不面對的新常態(tài)。