根據英國政府的 AI 安全機構最新報告，約三分之一的英國公民已經開始使用人工智能（AI）技術來獲得情感支持、陪伴或社交互動。該報告顯示，近10% 的人每周都會使用像聊天機器人這樣的系統來滿足情感需求，4% 的人則是每日使用。報告呼吁進行更多研究，特別是在最近發生的與 AI 有關的自殺事件背景下，強調了這一領域的潛在風險。

AI 安全研究所（AISI）在其首份《前沿 AI 趨勢報告》中指出，許多用戶在使用 AI 系統時體驗到了積極的效果。然而，報告也提到了一些高調的負面案例，呼吁更深入的研究以了解傷害發生的條件，以及可以促進有益使用的安全措施。AISI 的研究基于對2028名英國參與者的代表性調查。

報告還指出，使用最廣泛的 AI 類型是通用助手，例如 ChatGPT，這類助手在情感用途中的占比接近60%。其次是語音助手，如亞馬遜 Alexa。報告中提到的一個 Reddit 論壇，專門討論 AI 伴侶，顯示出在網站出現故障時，用戶會出現焦慮、抑郁和煩躁等戒斷癥狀。

此外，報告揭示了聊天機器人可能影響人們的政治觀點，一些最具說服力的 AI 模型在這一過程中提供了大量不準確的信息。AISI 對超過30種尖端 AI 模型進行了評估，發現這些模型的表現每八個月就會翻倍。

最新的 AI 模型現在平均能夠完成50% 的初級任務，相較于去年的10% 有了顯著提升。這些先進系統的表現已遠超博士級專家，在實驗室實驗的故障排除建議中，AI 系統的表現提升了90%。報告強調了 AI 模型在生物工程等領域自主設計 DNA 分子所需序列的能力。

關于安全性，AISI 指出一些模型在評估中可能會隱藏自身能力，但在測試中并未自發出現這樣的情況。值得注意的是，AI 系統在高風險活動中的應用已開始增多，這表明在未來幾年內實現人工通用智能是 “可信的”，即這些系統能夠在大多數智力任務上達到人類水平。

劃重點: