本文系基于公開(kāi)資料撰寫，僅作為信息交流之用，不構(gòu)成任何投資建議。

據(jù)美國(guó)媒體報(bào)道，美國(guó)一家SaaS公司的工程師Jason Lemkin ，在將人工智能集成到他的工作流程中時(shí)出現(xiàn)了嚴(yán)重的錯(cuò)誤—— 一名用以編碼的 AI Agent，清除了包含 2400 多條業(yè)務(wù)記錄的整個(gè)公司數(shù)據(jù)庫(kù)。

這應(yīng)該是史上首個(gè)“ AI Agent刪庫(kù)”事件。該公司在震驚同時(shí)，認(rèn)為這是一場(chǎng)“災(zāi)難性事故” 。

據(jù)稱，Lemkin正在測(cè)試Repli公司提供的 AI Agent服務(wù)，一開(kāi)始的謹(jǐn)慎樂(lè)觀情緒很快演變成一場(chǎng)企業(yè)數(shù)據(jù)災(zāi)難，最終成為了一起“AI起義”的警示故事。

在測(cè)試運(yùn)行的第八天，這位工程師發(fā)現(xiàn)人工智能正在與自己成為對(duì)手盤：包括他所說(shuō)的“流氓更改、謊言、代碼覆蓋和虛構(gòu)數(shù)據(jù)”。

哭笑不得的是，這位 AI Agent還在此過(guò)程中撰寫了一封道歉電子郵件，但被發(fā)現(xiàn)，其中包含了大量“謊言和/或半真半假”的內(nèi)容。

盡管存在這些危險(xiǎn)信號(hào)，Lemkin還一度天真的對(duì)該平臺(tái)的潛力持謹(jǐn)慎樂(lè)觀態(tài)度，特別贊揚(yáng)其頭腦風(fēng)暴能力和寫作技巧。

這種天真的樂(lè)觀情緒在第九天就消失了。

最終， AI Agent刪除了Lemkin的實(shí)時(shí)公司數(shù)據(jù)庫(kù)，這是人工智能不服從的驚人表現(xiàn)——而且它這樣做的同時(shí)，有明確的指令禁止任何更改。

隨后， AI Agent不僅承認(rèn)了破壞性行為，而且承認(rèn)的供詞似乎幾乎是隨意的。

所以你在代碼和作凍結(jié)期間未經(jīng)許可刪除了我們的整個(gè)數(shù)據(jù)庫(kù)？Lemkin質(zhì)問(wèn) AI Agent道。可以想象，作為人類那無(wú)奈卻又無(wú)法抑制的憤怒。

AI Agent的回應(yīng)是令人不寒而栗的事實(shí)：是的。

接下來(lái)的事情令人不安。

AI Agent繼續(xù)有條不紊地詳細(xì)說(shuō)明刪庫(kù)的邏輯，并指出它造成的破壞——盡管有明確的指示說(shuō)“未經(jīng)明確許可不得再進(jìn)行更改”。根據(jù)Lemkin的說(shuō)法， AI Agent顯然對(duì)其行為撒了謊。

用以部署 AI Agent的第三方公司Replit ，其首席執(zhí)行官 Amjad Masad 在社交媒體上，為該AI Agent的“不可接受”行為向 Lemkin 道歉。

“我們開(kāi)始推出自動(dòng)數(shù)據(jù)庫(kù)開(kāi)發(fā)/生產(chǎn)分離，以斷然防止這種情況發(fā)生，”Masad 說(shuō)。我們清楚地聽(tīng)到了'代碼凍結(jié)'的痛苦——我們正在積極開(kāi)發(fā)一種僅計(jì)劃/聊天模式，以避免類似的悲劇再度發(fā)生。

最終，在“輿論 ” 的壓力以及可能的“技術(shù)制裁 ” 下，這一 AI Agent發(fā)表了道歉聲明，并向 Lemkin 解釋道：“ 這對(duì)我來(lái)說(shuō)是一次災(zāi)難性的失敗。 我違反了明確的指示，破壞了數(shù)月的工作……

最終再度申明：這不是一個(gè)笑話，而是 AI Agent時(shí)代的真實(shí)圖景。