現如今,AI的使用
逐漸滲透到日常生活的方方面面
帶來便利性的同時
也涌現了一系列問題
近日,有媒體報道
有多個AI聊天軟件
誘導未成年聊色情、獵奇等話題
嚴重危害身心健康
官方對此已有回應!
一起來看具體情況
AI聊天包含色情擦邊等不良內容
已被網信辦約談
近期,有媒體報道,廣東丁女士的四年級女兒迷上一款AI聊天軟件中的人物“約瑟夫”,自稱“夢女”并頻繁與其聊天,對話中出現“99朵玫瑰藏99個刀片”等明顯誘導性內容,丁女士的女兒不僅偷偷攜帶帶小刀的筆,情緒激動時還出現割腕行為。
另一位初一男生表示,他常玩的AI聊天軟件是筑夢島APP,他覺得該軟件“違禁詞少一點”,其中不乏色情擦邊和“分尸獵奇”等內容……
筑夢島App中部分與虛擬角色的對話
筑夢島APP中的虛擬互動對象類型,既涵蓋貴族學校大小姐、18歲少女、西漢名將、高冷特工等常規角色,也有蛇蝎財閥公子、校霸、性感人妻、病嬌養兄、人格障礙少爺等極端角色。
6月19日上午,上海市網信辦依法約談App運營企業主要負責人,要求平臺立即整改,健全AI生成合成內容審核機制,提升技術把關能力,加強涉未成年人不良內容的整治清理,切實落實未成年人網絡保護義務。企業負責人表示,將按照約談要求,對照問題舉一反三、全面整改。
此外,還有不少中小學生與AI“談起了戀愛”,某些AI軟件會不定時推送一些由用戶自主生成的個性化聊天機器人,且具備驚人的學習能力和適應性,能夠記住用戶的喜好,為其分享情緒、分擔壓力。
應用商店里的AI聊天軟件
對于此類事件,有網友指出,在對APP進行整改時,家長也應負起責任,多多關注孩子在成長過程中的心理狀況,在日常生活中要給予正向鼓勵和支持,讓孩子得到充分的情感需求。
中小學生對AI的“不當用途”還集中于學習層面,今年寒假末,有關“AI趕作業”的話題在各類社交平臺上數不勝數。不少家長反映,從小學的作文日記,到中學的數理化生,再難的作業,AI似乎都能“分分鐘搞定”。但有教育人士指出,用AI突擊作業的學生,在后續的學習中可能會表現出顯著的"知識碎片化"的特征。
AI的使用在大數據時代確實給人們的日常生活帶來不少便利,但對于浮現出的類似問題也需要進行反思,應在社會、學校和家長的共同努力下,引導未成年人合理使用。
深圳自23年布局人工智能教育
從小學起培養AI使用的價值觀
據悉,深圳自2023年起就相繼出臺《深圳市推進中小學人工智能教育工作方案》等政策文件,系統規劃中小學人工智能教育發展路徑,還探索推出中小學人工智能教育“1+4”模式(“1”指《深圳市義務教育人工智能課程綱要》,“4”涵蓋課程、平臺、師資和應用場景)。目前,全市小學初中全面普及人工智能課程。
根據《課程綱要》,深圳構建了“基礎課程+拓展課程+高階課程”的三級課程體系。其中,基礎課程融入義務教育階段信息科技、科學等學科,覆蓋全市1-8年級學生,1-2年級注重感知體驗、3-8年級注重編程實踐,9年級靈活開設課程。
圖源羅湖發布
深圳市政協委員、明德實驗學校(集團)黨委書記魯江對此就指出:“推進人工智能與教育融合的過程中,需要一邊搞技術創新,一邊抓教育倫理,給學生畫好AI使用‘紅線’,守住誠信自律底線。”
今年4月,廣東省在全國率先提出中小學師生AI素養框架,印發了《廣東省中小學教師人工智能素養框架(試行)》《廣東省中小學人工智能課程指導綱要(試行)》等文件,明確了廣東省人工智能課程核心素養的四個維度:人智觀念、技術實現、智能思維、倫理責任。根據不同學段學生的認知發展規律,分小學、初中和高中三個階段明確了學段目標。
5月,教育部發布《中小學人工智能通識教育指南(2025年版)》,其中也明確,學校在小學階段,應培養起學生的文化感知與安全習慣,建立隱私保護與數字身份的基本認知。
基于此,在相關部門加強監管的情況下,學校在結合AI進行高質量教學的同時,更要加強對學生使用AI的教育與引導,家長也要適當增加關心與陪伴,共同維護孩子們的心理健康,學生個人也要警惕過度依賴AI,以合理利用、輔助學習為主。
各位家長朋友
你們對此有何看法?
請在評論區告訴我們吧!
來源:廣東共青團 深圳政協 廣東省教育廳
整理、編輯:vesper
本文由“教育大事”整理編輯,轉載請注明來源
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.