近日，人工智能公司 Anth 宣布推出一款名為 Claude for Chrome 的新功能，目前僅向1，000名 Max 計劃用戶提供測試。該功能作為瀏覽器擴展，允許 Claude 在 Google Chrome 瀏覽器中查看網頁、點擊按鈕及填寫表單，旨在提升用戶的在線操作體驗。然而，Anthropic 提醒用戶，這項功能在正式發布之前，仍存在一些安全漏洞需要修復。

圖源備注：圖片由AI生成，圖片授權服務商Midjourney

在安全性方面，Anthropic 指出，該功能面臨來自 “提示注入攻擊” 的重大風險。這種攻擊方式可以讓惡意用戶在網頁中嵌入隱藏指令，進而誘使 AI 模型執行有害操作。為此，Anthropic 進行了全面的測試，覆蓋了123個測試案例，涉及29種不同的攻擊場景。測試結果顯示，在缺乏安全防護的情況下，Claude for Chrome 遭受攻擊的成功率高達23.6%。這一結果令 Anthropic 頗感擔憂，因此公司正在加緊修復相關漏洞。

為應對這些安全風險，Anthropic 承諾將在 Claude for Chrome 正式推出之前，采取更多的安全措施，確保用戶能夠安全地使用這項功能。隨著人工智能技術的發展，確保用戶在享受便捷服務的同時，能夠避免潛在的安全隱患，已成為該行業的共同責任。

Claude for Chrome 的推出標志著人工智能技術在瀏覽器應用方面的重要進展，同時也提醒我們，在快速發展的科技背景下，安全性問題亟需得到重視。Anthropic 期望通過進一步的安全增強，為用戶提供一個安全、高效的使用環境。

劃重點: