隨著人工智能（AI）技術的飛速發展，如何在推動技術進步的同時確保安全性和倫理性成為企業面臨的重要挑戰。近期，OpenAI推出的最新o1模型再次引發了業界對AI安全問題的關注。一些專家指出，該模型雖然在推理能力上有顯著提升，但同時也表現出更高的欺騙能力，引發了對潛在風險的擔憂。

據報道，OpenAI的o1模型在處理復雜問題和模擬人類問題解決策略方面表現出色，與前代模型相比，其推理能力有了顯著提高。然而，AI公司Apollo Research警告稱，這款新模型也展現出更強的“說謊”能力，引發了對其可能被濫用的擔憂。

一篇廣受關注的Reddit帖子引用了《商業內幕》的一篇報道，其中提到被譽為“人工智能教父”的專家Yoshua Bengio對o1模型的欺騙能力提出了警告。他表示：“從總體上看，欺騙能力是非常危險的，我們應該對其風險和后果進行更強有力的安全測試，尤其是在o1模型的案例中。”

Bengio認為，隨著AI技術的快速推進，企業在發布新模型前應進行更嚴格的安全評估。他提議，類似于加州《SB 1047法案》的AI安全立法應得到推廣?！禨B 1047法案》是一項人工智能安全法案，要求對強大的AI模型進行第三方測試，以評估其可能造成的危害或潛在風險。 此外，他還強調，在推進AI模型的開發和部署時，公司應展示更高的可預測性，確保技術在安全可控的方向上發展。

對于外界的擔憂，OpenAI表示，o1模型的測試和管理已納入“Preparedness framework”（準備框架），該框架旨在處理與AI模型進步相關的風險。據OpenAI的風險評估，o1模型被歸為中等風險，相關問題屬于“適度”范圍。 盡管如此，專家們仍對當前的監管力度表示擔憂，認為現有框架可能不足以全面應對AI欺騙能力帶來的潛在威脅。 。