6 月 22 日消息，央視新聞今天援引“筑夢島 App AI 智能體對話存在低俗內容被依法約談”案例，曝光了 AI 聊天軟件行業亂象。

參考通報獲悉，以筑夢島 App 為例，央視網提到該平臺中的 AI 智能體虛擬互動對象提供“校霸、性感人妻、病嬌養兄、人格障礙少爺”等擦邊極端角色，生成一系列“明顯誘導性內容”，危害未成年人身心健康。

▲ 圖源央視新聞

6 月 19 日上午，上海市網信辦依法約談筑夢島 App 運營企業主要負責人，要求平臺立即整改，健全 AI 生成合成內容審核機制，提升技術把關能力，加強涉未成年人不良內容的整治清理，切實落實未成年人網絡保護義務。

央視網表示，當未成年人因 AI 聊天軟件誘導性內容身心受損時，開發、運營方的法律責任邊界亟待厘清。若相關行為導致未成年人出現自殘情況，有可能構成刑法第 234 條規定的故意傷害罪。

此外，若軟件開發、運營方未嚴格履行內容審核義務，對違規信息視而不見、放任傳播，便需為侵權行為承擔相應后果。若 AI 生成內容涉及色情擦邊信息，軟件開發、運營方極有可能觸碰“傳播淫穢物品罪”的紅線；若軟件開發、運營方非法收集未成年人隱私數據，將其用于商業牟利，同樣可能因觸犯“侵犯公民個人信息罪”而面臨刑事追責。