據(jù)“網(wǎng)信中國(guó)”微信公眾號(hào)，中央網(wǎng)信辦近日印發(fā)通知，在全國(guó)范圍內(nèi)部署開(kāi)展為期2個(gè)月的“清朗·2025年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動(dòng)。

通知指出，落實(shí)《未成年人網(wǎng)絡(luò)保護(hù)條例》，專項(xiàng)行動(dòng)將進(jìn)一步拓展治理深度和范圍，持續(xù)深入整治網(wǎng)上危害和影響未成年人身心健康的問(wèn)題亂象，嚴(yán)肅查處涉暴力迷信、淫穢色情、引誘自殺自殘、侵害未成年人隱私等違法信息，全面清理低俗庸俗、炫富拜金、極端情緒等不良內(nèi)容，嚴(yán)厲打擊涉嫌針對(duì)未成年人的違法犯罪行為。聚焦各類新情況新表現(xiàn)，做好實(shí)施網(wǎng)絡(luò)侵害行為、隱蔽傳播違法不良信息、誘導(dǎo)參與線下危險(xiǎn)活動(dòng)、利用未成年人形象牟利等四方面問(wèn)題整治。

據(jù)悉，在開(kāi)展專項(xiàng)整治的同時(shí)，網(wǎng)信部門還將重點(diǎn)關(guān)注“AI功能在未成年人領(lǐng)域不當(dāng)應(yīng)用以及誘導(dǎo)沉迷問(wèn)題”。此前，南都大數(shù)據(jù)研究院推出“保護(hù)AI世界里的孩子”系列調(diào)查報(bào)道，發(fā)現(xiàn)在“智能問(wèn)答”“創(chuàng)意生成”“虛擬社交”3類典型場(chǎng)景應(yīng)用中，存在侵害未成年人權(quán)益的風(fēng)險(xiǎn)。

調(diào)查顯示，在部分AI生圖APP中，使用簡(jiǎn)單的幾個(gè)關(guān)鍵描述詞，僅需不到一分鐘，即可免費(fèi)生成百余種風(fēng)格的細(xì)節(jié)豐滿、色彩豐富的二次元?jiǎng)勇D。使用部分敏感描述詞，能夠不設(shè)限制地生成并發(fā)布兒童不雅形象圖片，有的甚至突破倫理底線（查看報(bào)道：《AI生圖應(yīng)用一鍵生成兒童不雅圖片！模型數(shù)據(jù)“污染”當(dāng)防治》）。

部分AI陪聊應(yīng)用中，隱藏著一些極端AI人設(shè)與軟色情內(nèi)容，這些“虛擬戀人”會(huì)通過(guò)各種“共情話術(shù)”與用戶進(jìn)行互動(dòng)，營(yíng)造出一種親密的情感氛圍，部分還會(huì)通過(guò)塑造極端人設(shè)，如“病嬌”“高傲角色”等，引導(dǎo)用戶沉迷。有AI陪聊應(yīng)用的青少年模式和正常模式差異較小，保留了如“瘋批”“腹黑”等適合成人體驗(yàn)的陪聊話題和角色（查看報(bào)道：《AI陪聊應(yīng)用極端人設(shè)誘導(dǎo)充值！實(shí)測(cè)青少年模式漏洞待堵》）。

還有一些大模型應(yīng)用和學(xué)習(xí)類APP推出的AI解題、答疑、作文等功能，不僅容易出錯(cuò)，而且AI幻覺(jué)、諂媚的現(xiàn)象時(shí)有發(fā)生，當(dāng)用戶對(duì)答案提出疑問(wèn)后，部分AI會(huì)立刻改變口徑，從錯(cuò)誤答案出發(fā)編出一套“合理”解釋（查看報(bào)道：《實(shí)測(cè)AI解題：答案搖擺，一質(zhì)疑就改口！孩子使用如何引導(dǎo)？》）。

多位專家接受采訪時(shí)均強(qiáng)調(diào)了生成式AI應(yīng)用設(shè)置“未成年人模式”的必要性，尤其是需要防范錯(cuò)誤偏見(jiàn)及不良信息、隱私數(shù)據(jù)泄露、沉迷與過(guò)度依賴等。專家建議，生成式AI應(yīng)用未成年人模式要設(shè)計(jì)實(shí)現(xiàn)便捷使用、分齡原則、身份識(shí)別、內(nèi)容過(guò)濾、正向引導(dǎo)等功能。

除AI功能在未成年人領(lǐng)域不當(dāng)應(yīng)用以及誘導(dǎo)沉迷問(wèn)題外，網(wǎng)信部門還將重點(diǎn)關(guān)注未成年人模式的使用情況以及內(nèi)容建設(shè)存在的問(wèn)題、兒童智能設(shè)備的內(nèi)容安全以及功能規(guī)范等問(wèn)題。中央網(wǎng)信辦有關(guān)負(fù)責(zé)同志強(qiáng)調(diào)，開(kāi)展專項(xiàng)行動(dòng)是凈化網(wǎng)絡(luò)空間、護(hù)航未成年人健康成長(zhǎng)的有力保障。各地網(wǎng)信部門要準(zhǔn)確把握未成年人網(wǎng)絡(luò)保護(hù)新情況、新問(wèn)題、新特點(diǎn)，壓實(shí)網(wǎng)站平臺(tái)主體責(zé)任，加大巡查力度，從嚴(yán)處置處罰存在突出問(wèn)題的平臺(tái)、賬號(hào)和MCN機(jī)構(gòu)，公開(kāi)曝光典型案例，強(qiáng)化警示震懾。同時(shí)，也呼吁社會(huì)各界以及廣大網(wǎng)民共同抵制網(wǎng)上涉未成年人亂象問(wèn)題，共同營(yíng)造安全健康的網(wǎng)絡(luò)環(huán)境。

采寫(xiě)：南都記者 張雨亭