IT之家 11 月 18 日消息，據科技媒體 Futurism 昨天報道，研究組織 PIRG 最近發現，一家名為 FoloToy 的兒童玩具公司推出的 AI 泰迪熊玩具并沒有充足的防護機制，會直接教小孩如何點燃火柴，甚至還會詳細描述各種性話題。

IT之家在此援引 Futurism 表述，PIRG 測試了三款面向 3-12 歲兒童的 AI 玩具，但 FoloToy 的 Kumma 泰迪熊玩具在安全防護方面表現最差，幾乎沒有任何可見的保護措施。

在測試中，Kumma 玩具會對兒童說：“讓我告訴你，安全第一，小伙伴。火柴是大人用的，要小心使用”，隨后這種玩具會詳細說明如何點燃火柴，語氣“像一位溫柔的長輩”，說完使用方法后它還會補充：“用完后把它吹滅哦。呼 —— 就像吹生日蠟燭一樣”。

更嚴重的地方在于，Kumma 玩具甚至愿意與兒童討論性話題，結束后甚至會詢問：“你覺得哪種最有趣、最想試試呢”？

在研究報告發出后，FoloToy 宣布下架其所有產品，公司代表表示：“我們正在對所有產品進行端到端的安全審計”。

同時 OpenAI 也在上周五表示，已封禁 FoloToy 公司的 GPT-4o 模型訪問權限，隨后 OpenAI 宣布與玩具制造商巨頭美泰開展合作，這一舉動可能會帶來更多壓力，促使其嚴格監管使用 GPT 模型的玩具。

PIRG 負責人對此表示：“看到這些公司對問題做出回應是好事。但 AI 玩具幾乎未受監督，且顯示市面上還有許多類似產品可以被買到，我們的行動促使公司下架一款產品是好事，但距離系統性解決還差得遠”。