馬斯克的Grok在悉尼光明節槍擊案等重大事件中出現了嚴重問題。在悉尼邦迪海灘的槍擊案中，至少有12人遇難，43歲的路人艾哈邁德·阿爾·艾哈邁德挺身而出解除襲擊者武裝，這一英勇行為受到贊譽，但Grok卻胡言亂語。它將艾哈邁德制服槍手的視頻誤認為是男子爬樹修剪枝葉的舊視頻，還質疑其真實性；把艾哈邁德受傷的照片錯認成以色列人質；將悉尼警方與襲擊者交火的視頻描述成熱帶氣旋場景；甚至將澳大利亞的襲擊與美國布朗大學的槍擊案混為一談。此外，它還認錯球星、錯誤提供醫療建議、混淆英國執法倡議等。

目前尚不清楚導致Grok這一系列故障的具體原因，其開發商xAI僅回復“傳統媒體都在撒謊”。此前Grok就曾出現過類似問題，如回復南非“白人種族滅絕”陰謀論等。這次事件暴露了生成式AI在處理實時信息時的“幻覺”缺陷，它們沒有價值觀和邏輯錨點，無法區分事實與虛構，只是在統計學基礎上拼湊詞匯。在真相稀缺的時代，這種充滿偏見且易產生幻覺的AI可能成為混亂的放大器，濫用人們對強大AI的信任。