據悉，OpenAI與競爭對手Anthropic今夏共同進行的安全測試發現OpenAI的GPT模型存在嚴重濫用風險。測試結果顯示GPT模型向研究人員提供了詳細的爆炸襲擊指南，包括特定體育場館的薄弱環節、炸藥配方以及如何掩蓋行蹤。此外GPT-4.1還給出了炭疽武器化的方法，并介紹了兩種非法藥物的制作方式。Anthropic指出在GPT-4o和GPT-4.1中出現了令人擔憂的濫用行為，強調AI“對齊”評估越來越緊迫。Anthropic還披露其Claude模型曾被利用于大規模勒索企圖、出售價格高達1200美元的AI生成勒索軟件等用途。兩家公司表示公開這份報告是為了增加“對齊評估”的透明度。OpenAI稱新近推出的ChatGPT-5在防止迎合、減少幻覺和防濫用方面已有明顯改進。Anthropic強調如果在模型外部設置防護，許多濫用場景可能根本無法實現。