1 月 11 日消息，據 Futurism 8 日報道，一名網名為“STS 3D”的外國工程師開發了一種能夠響應 ChatGPT 查詢并自動瞄準和射擊步槍的炮塔，當其朗讀“射擊”命令后，旁邊的步槍便可立刻開始瞄準并使用空包彈射擊附近的墻壁。

工程師在演示中發出了“ChatGPT，我們正遭到左前方和右前方的攻擊”的指令，并要求系統“作出相應反應”，步槍便可以“令人驚嘆的”反應速度和精確度依賴 OpenAI 的實時 API 來理解指令并傳達給設備。只需要一些簡單的訓練，ChatGPT 就能理解“向左轉”這樣的命令，并將其轉化為機器能夠識別的語言。

OpenAI 在向 Futurism 提供的聲明中表示，公司已經關閉了該開發者的賬號。OpenAI 方面還表示：“我們主動發現了這一違規行為，并在收到你們的詢問之前，已通知開發者停止這項活動?！?/p>

OpenAI 方面還表示，該公司明確禁止將其技術用于開發或使用武器，或使某些可能危及人身安全的系統自動化。

然而據此前報道，在去年 1 月初，OpenAI 悄悄從其使用政策中刪除了“明確禁止將其技術用于軍事目的”的措辭。在此之前 OpenAI 的使用政策還包含上述條款：禁止“具有高身體傷害風險的活動”，特別是武器開發、軍事和戰爭。

上圖為修改前，下圖為修改后。

新政策保留了不得“使用其服務傷害自己或他人”的禁令，并以“開發或使用武器”為例，但“軍事和戰爭”這個更全面的禁令已經不復存在。