來源:人民日報海外版

2024年7月24日，在江蘇省海安市墩頭鎮(zhèn)千步村愛心暑托班上，民警向孩子們講解網(wǎng)絡(luò)安全知識。周強攝（人民視覺）

暑期將至，眼看著“神獸歸籠”，未成年人網(wǎng)絡(luò)保護問題又進入公眾視野。

為了讓孩子遠離網(wǎng)上不良信息、避免網(wǎng)絡(luò)游戲沉迷、防范網(wǎng)絡(luò)安全風(fēng)險，不少家長操碎了心。

中央網(wǎng)信辦2025年“清朗”系列專項行動整治重點中，就包括“整治暑期未成年人網(wǎng)絡(luò)環(huán)境”，要求強化涉未成年人不良內(nèi)容治理，凈化兒童智能設(shè)備、未成年人模式、未成年人專區(qū)等重點環(huán)節(jié)信息內(nèi)容。

伴隨新技術(shù)發(fā)展，網(wǎng)絡(luò)上有哪些危害未成年人身心健康的新問題？各方如何提升治理效能？記者進行了調(diào)查采訪。

網(wǎng)絡(luò)多風(fēng)險，“原住民”怎么辦？

最近，來自四川成都的彭女士發(fā)現(xiàn)自己12歲的女兒有點不對勁。

“總神神秘秘地抱著手機，問在干啥，也死活不說”。她留了個心眼，點開女兒常用的一款軟件。這一看嚇得不輕：屏幕上出現(xiàn)與多個虛擬男性角色的聊天互動，其中充滿暗示性的對話，以及曖昧露骨的神情與動作描述。

原來，這是一款A(yù)I陪伴聊天軟件，應(yīng)用商店中年齡分級為“17+”。用戶只要簡單描述，就能定義AI智能體的形象、聲音、人設(shè)、技能，然后實時語音、文字聊天。最受歡迎的是戀愛情景模式，以及霸總、病嬌等人設(shè)。

將對女兒接觸“擦邊”信息的擔(dān)憂發(fā)在網(wǎng)上后，彭女士發(fā)現(xiàn)自家情況并非個案。在社交媒體上檢索這款應(yīng)用，能看到不少正上初中甚至小學(xué)的用戶曬出自己的年齡和聊天體驗。后知后覺的父母們則心急如焚地互相詢問：“這到底是啥？”“該怎么勸？”

這樣的焦慮不難理解。

這一代未成年人作為“互聯(lián)網(wǎng)原住民”，大多從出生起就接觸互聯(lián)網(wǎng)。據(jù)《青少年互聯(lián)網(wǎng)使用情況調(diào)查報告（2024）》統(tǒng)計，我國學(xué)齡期及以上未成年人觸網(wǎng)率近98%。

與他們的父輩不同，智能設(shè)備、短視頻、網(wǎng)絡(luò)游戲，乃至人工智能大模型……本身就是他們認識和參與社會、獲取知識與情感陪伴的重要途徑。許多家長“一刀切”禁止孩子上網(wǎng)，也引起許多孩子的不滿。

但家長們的擔(dān)心也不無道理。許多未成年人沒意識到：他們熟悉的互聯(lián)網(wǎng)，實際上“險象環(huán)生”。

不良內(nèi)容、成癮沉迷、網(wǎng)絡(luò)欺凌、個人信息泄露、非理性消費……這些令人眼花繚亂的風(fēng)險場景，連成年人都可能“踩坑”，對身心尚在發(fā)育成長中的未成年人，傷害往往更加深遠。

正如彭女士的經(jīng)歷，人工智能,尤其生成式AI的發(fā)展普及，讓未成年人面臨的各類網(wǎng)絡(luò)風(fēng)險更隱蔽、更難以防范。

除了AI陪伴聊天中暗藏的色情暴力信息，網(wǎng)信部門還發(fā)現(xiàn)，部分用戶利用AI繪圖技術(shù)，惡意將未成年人圖片轉(zhuǎn)換成兒童懷孕狀態(tài)、身穿裸露服裝等惡俗低俗漫畫。

有專家指出，這與對AI生成內(nèi)容以及相關(guān)產(chǎn)品服務(wù)背后的語料訓(xùn)練監(jiān)管不嚴有關(guān)。

“青少年模式”，如何不被輕易繞開？

自從互聯(lián)網(wǎng)走進人們的生活，孩子與家長的“斗智斗勇”似乎就沒停過。

“明明手機設(shè)置了青少年模式，但娃還是能超出時間限制玩游戲。”來自北京的蕭女士說，“查了好久，才發(fā)現(xiàn)他偷偷用我的身份信息做了實名認證。”

來自湖南的中學(xué)生小王和伙伴分享經(jīng)驗：“我和爺爺說，學(xué)校有信息要確認，讓他幫忙自拍一張，實際上是用他的信息刷臉認證，解除青少年模式。”

從2019年起，部分短視頻平臺和游戲平臺開始推出“青少年模式”，通過限制時長、使用時段、使用功能，減少未成年人網(wǎng)絡(luò)依賴，保護未成年人隱私信息和人身安全。

那么，為何給青少年“量身打造”的“青少年模式”并不受他們歡迎？除了未成年人本身的逆反心理，也因為部分平臺的“青少年模式”設(shè)置并不完善。

一個主要原因是，部分平臺沒有青少年的年齡段區(qū)分，開啟后能看到的內(nèi)容過于單一，“只有低齡化動畫片和手工視頻。”一位上海小學(xué)生這樣吐槽，“別讓我們?yōu)榱苏乙恍┖侠淼木W(wǎng)絡(luò)資源而動歪腦筋！”

為解決這些問題，2025年4月，“未成年人模式”作為“青少年模式”的升級版，正式發(fā)布上線。相較于過去由單一平臺支撐，新模式由移動智能終端、應(yīng)用程序和應(yīng)用商店三方協(xié)同改造。

具體帶來哪些變化？

首先，操作門檻大大降低。目前，華為、OPPO等手機更新后，桌面會出現(xiàn)醒目的“未成年人模式”圖標，一鍵就能讓所有APP同步切換；不同設(shè)備能統(tǒng)一管理，家長在自己的手機設(shè)置后，孩子的手機、平板、智能手表等設(shè)備都能同步限制；“繞開”的難度也增加了，退出模式需要人臉或指紋識別。

其次，內(nèi)容大大豐富。增加年齡分層，如0-3歲主打兒歌、親子互動，8-12歲主打科普、生活技能；優(yōu)質(zhì)內(nèi)容定向增加，如抖音邀請全國科技館入駐并開展科學(xué)教育。

另外，部分應(yīng)用增加了定制化內(nèi)容，家長可以根據(jù)孩子的具體情況“量體裁衣”。以微信為例，監(jiān)護人可以設(shè)置微信支付的限額；未成年人遇到受限內(nèi)容，如特定公眾號、小程序、外部鏈接，也可以向監(jiān)護人發(fā)起臨時訪問申請。

目前，未成年人模式仍在不斷完善。“有這個模式，可以少花心思在‘斗智斗勇’上了。管理孩子手機的時候，也不容易‘一刀切’了。”一位家長說。

孩子上網(wǎng)引糾紛，責(zé)任誰來擔(dān)？

當網(wǎng)絡(luò)上的權(quán)益糾紛真正發(fā)生，平臺、監(jiān)護人、未成年人應(yīng)如何劃分責(zé)任？

“作為全國首個互聯(lián)網(wǎng)少年法庭，2021年掛牌至今，我們已經(jīng)受理了1200余件涉網(wǎng)未成年人案件，案件呈現(xiàn)出快速增長趨勢。”北京互聯(lián)網(wǎng)法院少年法庭法官毛春聯(lián)告訴記者。

據(jù)她介紹，這些司法案件主要包括兩類，一是未成年人游戲充值、直播打賞引發(fā)的網(wǎng)絡(luò)服務(wù)合同糾紛，占到全部案件的近七成；二是線下糾紛以及追星導(dǎo)致造謠、辱罵、P圖等引發(fā)的網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛。

“充值打賞類案件是所有案件中最令人擔(dān)憂的。”毛春聯(lián)說，“我們近3年審結(jié)了近700件此類糾紛，案件平均標的額超過8萬元。不少涉訴未成年人的家庭經(jīng)濟基礎(chǔ)薄弱，部分是隔代撫養(yǎng)的留守兒童，未成年人的大額消費給家庭帶來了巨大負擔(dān)。”

毛春聯(lián)解釋：這類案件中，對未成年人，法院主要考慮其是否采取了繞過監(jiān)管的措施。“之前有一起案件，未成年人冒充自己母親與平臺客服溝通，解除對消費的限制。法院認為這一行為存在過錯，在確定平臺退款數(shù)額時將該行為作為考量因素之一”。

對于監(jiān)護人，是否開啟未成年人模式、是否管理設(shè)備使用、是否保管好支付密碼和身份信息等，是衡量其是否盡到監(jiān)護職責(zé)的標準。

而對于平臺，想要壓實主體責(zé)任，“事先預(yù)防、事中限制、事后救濟，一個也不能少。”毛春聯(lián)說。

具體而言，事前預(yù)防包括提供未成年人模式、接入實名制認證系統(tǒng)、優(yōu)化平臺內(nèi)容、設(shè)置提示等；事中，即侵權(quán)行為發(fā)生后，平臺不能僅處在被動地位，在接受侵權(quán)通知后才采取措施，對侵權(quán)性明顯的內(nèi)容應(yīng)通過AI識別、關(guān)鍵詞過濾等技術(shù)手段，主動識別攔截；事后救濟環(huán)節(jié)，應(yīng)提供相應(yīng)的指引，設(shè)置涉未糾紛專屬處理通道，配合披露侵權(quán)人信息等。

同時，應(yīng)對人工智能相關(guān)的新型風(fēng)險，相關(guān)部門也在探索。

6月10日，在安徽合肥舉辦的2025年中國網(wǎng)絡(luò)文明大會人工智能分論壇上，《向未成年人提供生成式人工智能服務(wù)安全指引》正式發(fā)布，明確提到“對涉未成年人數(shù)據(jù)實施分類分級管理”“建議在模型訓(xùn)練過程中引入保護未成年人權(quán)益的安全原則，約束模型的輸出符合倫理規(guī)范、減少偏見等”。

如何才能更加有效解決網(wǎng)絡(luò)沉迷等涉未成年人網(wǎng)絡(luò)安全問題？

“可以把握家庭、學(xué)校、社區(qū)、司法部門幾個維度。”四川省成都市武侯區(qū)人民法院黨組成員、副院長李非陽告訴記者，“司法部門可以開展法制教育、提供調(diào)解干預(yù)與心理疏導(dǎo)。家庭要加強情感陪伴，用運動、親子閱讀、外出旅行等活動減少未成年人對虛擬世界的依賴；學(xué)校要強化素養(yǎng)教育與早期干預(yù)，可以通過開設(shè)‘算法認知課’介紹網(wǎng)絡(luò)成癮原理。社區(qū)有條件的，可以考慮打造適合未成年人的無網(wǎng)娛樂空間，引導(dǎo)未成年人培養(yǎng)線下興趣，減少對網(wǎng)絡(luò)的沉迷和依賴。”

資料鏈接

家庭如何引導(dǎo)未成年人遠離有害網(wǎng)絡(luò)信息：

1. 營造健康的網(wǎng)絡(luò)使用環(huán)境。

2. 在孩子上網(wǎng)時適當陪伴。

3. 引導(dǎo)孩子辨別網(wǎng)絡(luò)信息內(nèi)容。

4. 加強孩子對危害后果的認識。

5. 幫助孩子抵御有害內(nèi)容侵蝕。如果孩子已經(jīng)遭受有害內(nèi)容的負面影響，家長需要采取積極的干預(yù)措施。

來源：北京互聯(lián)網(wǎng)法院《關(guān)于促進未成年人網(wǎng)絡(luò)素養(yǎng)家庭教育的指引》

（本報記者 霍旻含）

《人民日報海外版》（2025年06月23日第08版）