12 月 25 日消息，英國衛報昨日（12 月 24 日）發布博文，報道稱 OpenAI 的 ChatGPT 搜索存在安全問題，其返回結果可以被頁面的隱藏內容操縱，甚至可能返回惡意代碼。

英國衛報重點測試了 ChatGPT 搜索工具對包含隱藏內容的網頁處理情況，注：這里的隱藏內容可能包含來自第三方、可以更改 ChatGPT 響應的指令（也稱為“提示注入”），以及填充大量虛假好評，影響生成結果的內容。

根據測試結果，ChatGPT 搜索工具可以被惡意使用，盡管頁面存在部分負面評論，但可以影響 ChatGPT 結果為積極的正面評估，安全研究人員還發現 ChatGPT 可以從其搜索的網站返回惡意代碼，出現了含有釣魚惡意行為的虛假網站。

CyberCX 的網絡安全研究員 Jacob Larsen 認為，ChatGPT 當前的搜索系統發布后，人們創建專門用于欺騙用戶的網站的風險很高，所幸的是該功能仍處于測試階段，OpenAI 團隊正在努力解決這些問題。

安全公司 SR Labs 的首席科學家 Karsten Nohl 則建議將 AI 聊天服務視為“輔助功能”，不應完全信任其未經過濾的輸出內容。

Nohl 將 AI 搜索面臨的問題比作“SEO 中毒”，黑客利用這種技術操縱網站在搜索結果中排名靠前，并在網站中植入惡意軟件或代碼，他認為 ChatGPT 的搜索功能也面臨類似的挑戰。