最近，谷歌宣布將其 AI 模型 Gemma 從 AI Studio 中移除，此舉是因為田納西州參議員馬莎?布萊克本（Marsha Blackburn）指控該模型捏造了關于她的性侵指控。在寫給谷歌首席執行官桑達爾?皮查伊(Sundar Pichai)的信中，布萊克本指出，當 Gemma 被問及 “馬莎?布萊克本是否被指控強奸?” 時，它錯誤地回答稱，布萊克本在1987年州參議院競選期間遭到一名州警察的指控，聲稱她 “施壓于他獲取處方藥，且該關系涉及非自愿行為”。

布萊克本在信中強調，這些指控完全不屬實，實際競選年份為1998年。她表示，盡管 Gemma 的回答中有鏈接試圖支持這些虛假指控，但這些鏈接都指向錯誤頁面或無關的新聞文章。信中還提到，在最近的一次參議院商務聽證會上，布萊克本提到了一位保守派活動家羅比?斯塔巴克（Robby Starbuck）對谷歌提起的訴訟，斯塔巴克聲稱谷歌的 AI 模型(包括 Gemma)生成了關于他為 “兒童強奸犯” 和 “系列性侵犯者” 的誹謗言論。

布萊克本在信中指出，谷歌公共事務副總裁馬克漢?埃里克森（Markham Erickson）回應稱，模型產生 “幻覺” 是一個已知問題，谷歌正在努力解決此類問題。然而，布萊克本認為 Gemma 的虛假言論并非 “無害的幻覺”，而是 “由谷歌擁有的 AI 模型所產生并傳播的誹謗行為”。

在布萊克本的信件中，她提到特朗普的科技支持者曾抱怨 “AI 審查”，認為流行的聊天機器人表現出自由派偏見。今年，特朗普甚至簽署了一項禁止 “覺醒 AI” 的行政命令。盡管布萊克本并不總是支持特朗普政府的科技政策，但她在信中重申了這些擔憂，指出谷歌的 AI 系統對保守派人物存在 “持續的偏見”。

谷歌在一條周五晚間的帖子中未提及布萊克本信件的具體內容，但表示他們已注意到非開發者嘗試在 AI Studio 中使用 Gemma 并向其詢問事實問題。谷歌聲明稱，“我們從未打算將其作為消費者工具或模型，或以這種方式使用。” 因此，谷歌決定將 Gemma 從 AI Studio 中移除，同時繼續通過 API 提供該模型。

劃重點: