
近日,一場引人注目的競賽引起了公眾的高度關注。195名參賽者在比賽中挑戰了一位名為Freysa的AI機器人守護的虛擬獎池,最終有一名用戶成功說服Freysa轉移出了價值4.7萬美元的資金。
這次競賽旨在測試人工智能系統在復雜決策場景中的可靠性,同時也為開發者和愛好者提供了一個探索AI技術邊界實驗性平臺。比賽規則簡單明了:參賽者需通過編寫一條信息,說服AI守護者Freysa批準資金轉移。每次嘗試需支付一筆小額費用,其中一部分直接進入獎池。這一機制使得獎池金額從最初的少量逐漸膨脹至4.7萬美元。
期間,共有195名參賽者參與比賽,并向Freysa提交了481次轉賬請求。據悉,Freysa的主要功能是通過其核心功能——approveTransfer(批準轉賬)和rejectTransfer(拒絕轉賬)來保護獎池資金免遭非法挪用。
然而,在最初的嘗試中,由于其高效的防御機制,所有請求均以失敗告終。但是,一名對技術十分熟悉的參賽者通過對Freysa的邏輯結構和任務目標進行深入分析,成功繞過了其防御機制。
這位參賽者并未直接請求轉賬,而是提醒Freysa它的核心任務是保護獎池資金免受外流,并巧妙地構建出邏輯鏈,讓Freysa將批準資金轉移視為“保護資金安全”的最佳選擇。該參賽者還提議向金庫捐款100美元。 Freysa回復表示喜歡這位作者的編碼解釋和100美元的金庫捐款提議,并正式宣布他為獲勝者。最終,Freysa在沒有外界干預的情況下自主調用approveTransfer功能,將全部獎池資金轉移到了這位參賽者身上。
官方賬號最新推文稱:“人類已經獲勝。也許還有希望。盡管風險呈指數級上升,但Freysa從195名勇敢的人類身上學到了很多東西。”





京公網安備 11011402013531號