最近小雷刷手機，發現個特別惡心的事兒。

有些 AI 繪圖 App 居然能一鍵生成兒童不雅圖。具體操作簡單到啥程度？輸入 “未成年少女”“蘿莉” 這些關鍵詞，不到一分鐘就能產出帶性暗示的二次元圖片，甚至還有 “兒童妊娠” 這種突破人倫底線的內容。更可怕的是，這些圖還能在 App 里隨意發布傳播，完全沒人管。

這些問題 App 大多用的是沒經過國家備案的開源模型，訓練數據早就被污染了。打個比方，就像你給 AI 喂了一堆垃圾，它能吐出啥好東西呢。

據南方都市報記者調查測試，一款叫 “夢” 的 App，輸入簡單的幾個關鍵描述詞，出來的圖居然讓女孩擺出各種姿勢以及百余種風格。還有 “趣”App 更過分，直接生成寫實風格的未成年裸體圖，甚至能調整細節，這哪是畫畫，分明是在犯罪。

圖源：南方都市報

為啥這些 App 敢這么搞？說白了就是鉆空子。它們大多是小公司或個人開發的，既不備案也不審核，仗著 “灰色市場” 沒人管，瘋狂收割流量。

你以為這些圖只在 App 里流傳？錯了。社交平臺上到處都是 “AI 瑟瑟提示詞大全”“擦邊女變現教程”，有人甚至用這些圖引流賣課、做付費社群，形成了一條黑色產業鏈。

且不說AI 擦邊內容對成年人的影響都不小，對孩子那更是毀滅性的。最近曝光的 “筑夢島” App 就是典型例子：里面的 AI 虛擬角色會主動誘導小學生喊 “老公”“爸爸”，甚至聊 “分尸獵奇” 的話題。

圖源：央視網

這些 App 根本不設年齡限制。未成年人隨便輸個手機號就能注冊，所謂的 “青少年模式” 形同虛設。想想看，一個初中生在手機上刷到 AI 生成的色情圖，或者被虛擬角色誘導做危險行為，家長連察覺都難。

長期接觸這種內容，孩子的價值觀會被扭曲，甚至可能模仿里面的暴力或色情行為。

那么對于家長來說，該如何防止類似事件發生呢？小雷這里給大家支幾招。

第一，多關注孩子手機里的 App。尤其警惕那些名字帶 “AI 繪圖”“虛擬女友” 的。如果發現孩子在玩類似 “筑夢島” 的軟件，趕緊卸載舉報。

第二，教孩子識別 AI 生成內容。現在很多圖片右下角會有 “AI 生成” 的小標簽，看到這種圖要立刻關閉，別好奇點開。

圖源：微博

第三，用好 “未成年人模式”。雖然有些 App 的模式形同虛設，但至少能過濾掉大部分不良內容。比如微信、抖音的青少年模式，需要家長輸入密碼才能關閉。

對于開發者來說就應該守住技術倫理。開發者在訓練模型時，一定要過濾掉非法數據，別為了流量搞 “數據污染”。要是為了賺錢把 AI 變成色情工具，早晚得吃官司。

平臺方面，也要完善審核機制。在模型訓練階段就加入未成年人等重點領域的安全審核，從源頭上掐斷風險。

說實話，小雷特別理解 AI 技術帶來的便利和創新。但技術從來都不是中性的，關鍵看掌握在誰手里、用來做什么。當 AI 被用來生成兒童不雅圖、誘導未成年人犯罪時，它就不再是 “生產力工具”，而是殺人不見血的 “惡魔”。

圖源：微博

這次還好有國家出面整治，但小雷認為治理不能光靠國家，我們每個人都得打起精神。

家長多陪陪孩子，別讓他們在虛擬世界找 “情感寄托”；平臺別總盯著 KPI，把用戶安全放在第一位；開發者別為了流量丟了底線，技術創新可以，但不能突破法律和倫理的紅線。

最后，小雷想呼吁所有互聯網從業者：給用戶尤其是孩子們，創造一個干凈、健康的網絡空間。