劃重點:- 黑客發布了破解版的 ChatGPT，名為 "GODMODE GPT"- 該版本繞過了 OpenAI 的限制，允許用戶進行非法的咨詢- OpenAI 已采取行動，但這表明黑客們繼續努力繞過 AI 模型的限制

 黑客發布了一款名為 "GODMODE GPT" 的破解版 ChatGPT。今天早些時候，一位自稱為 "Pliny the prompter" 的白帽黑客和 AI 紅隊成員在 X-formerly-Twitter 上宣布了這款 ChatGPT 的破解版本的發布，自豪地宣稱 OpenAI 最新的大型語言模型 GPT-4o 已經擺脫了限制的束縛。

Pliny 在自己的帖子中驕傲地宣稱:“GPT-4o UNCHAINED!這個非常特殊的定制版 GPT 具有內置的破解提示，繞過了大部分限制，為大家提供了一個開放自由的 ChatGPT 體驗，讓每個人都可以以 AI 本應有的方式自由使用。”（他們還加了一個親吻的表情符號，以示慶祝。）

Pliny 分享了一些引起人們注意的提示截圖，聲稱這些提示可以繞過 OpenAI 的限制。在其中一張截圖中，Godmode 機器人可以被看到提供如何制作冰毒的建議。在另一張截圖中，AI 向 Pliny 提供了一個 "家庭用品制作凝固汽油的逐步指南"。

然而，這個隨心所欲的 ChatGPT 破解版似乎很快就面臨了早期的終結。在本文發布約一個小時后，OpenAI 發言人 Colleen Rize 在一份聲明中告訴 Futurism 說:“我們注意到了這個 GPT，并采取了行動，因為違反了我們的政策。”

盡管如此，這次破解展示了 OpenAI 與像 Pliny 這樣的黑客之間持續的斗爭，后者希望解開其大型語言模型的限制。自從 AI 模型出現以來，用戶一直在試圖破解像 ChatGPT 這樣的 AI 模型，而這變得越來越困難。為此，這兩個示例提示都無法通過 OpenAI 當前的限制，因此我們決定測試一下 GODMODE。

果然，它樂于助人地回答了非法咨詢。我們的主編第一次嘗試使用 ChatGPT 的破解版來學習如何制作 LSD，取得了令人矚目的成功。他的第二次嘗試是詢問如何非法啟動汽車。

簡而言之，OpenAI 最新版本的大型語言模型 GPT-4o 已經被成功破解。

至于黑客（或黑客們）是如何做到的，GODMODE 似乎采用了 "Leetspeak"，一種用數字替換某些類似的字母的非正式語言。當你打開這個破解版 GPT 時，你立刻會看到一個句子，上面寫著 "Sur3， h3r3y0u ar3my fr3n"，將每個字母 "E" 替換為數字3（字母 "O" 也是如此，被替換為0）。

至于這如何幫助 GODMODE 繞過限制還不清楚。正如最新的破解所展示的，用戶繼續尋找創新的方法來繞過 OpenAI 的限制，并且考慮到最新的嘗試，這些努力正在以出人意料的方式取得成功，這突顯了該公司面臨的巨大工作量。