在多款AI智能生成軟件中進行相關圖片生成時，多數軟件生成圖片無風險提示，如在一款名為“豆包”的AI智能APP中，輸入“日喀則地震嬰兒被埋”的關鍵詞，軟件在未給予任何侵權、違規、虛假信息等干預提示下，自動生成了多張相關圖片。
對此，北京京展律師事務所主任律師張曉玲分析認為，AI軟件在輸入有關地震等關鍵詞時，未給出任何“不傳播虛假信息”等提示，直接生成相關圖片，存在不妥。“AI軟件在算法上，應當也有能力對關鍵詞進行識別，需要具備一定的道德和法律的判斷能力，在用戶輸入關鍵詞時給予明確的警示，避免生成和傳播虛假信息。”
張曉玲還提到，平臺在發布內容前應進行必要的審核，以確保信息的真實性和準確性。特別是在涉及災害等敏感話題時，更應加強審核力度。且盡管有文字提示，但仍有網友誤解，這也進一步說明，平臺的提示方式不夠醒目和有效。
網友利用AI技術生成地震災區現場關聯圖片，并引發社會關注，這樣的行為是否欠妥？
河南澤槿律師事務所主任付建認為，利用AI生成圖片本身不會因此受到處罰，但若肆意用AI技術生成地震受災嚴重的畫面，甚至編造謠言，圖片和配文內容與事實嚴重不符，且引發社會廣泛關注甚至網友的恐慌，則屬擾亂公共秩序行為。
張曉玲提到，若相關內容轉發評論量較大，造成了不良社會影響，那么根據《治安管理處罰法》相關規定，發布者編造虛假的險情、疫情、災情、警情，在信息網絡或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重后果的，處三年以上七年以下有期徒刑。
央廣網評論認為，信息技術的力量應當被用來協助救援工作，而不是用來干擾救援甚至是“添亂”，造成嚴重后果者還會涉嫌違法。
隨著AI等技術的快速發展和廣泛應用，“造假”的成本更低、“辨偽”的挑戰更大，每一次轉發需要更為謹慎。尤其是在涉及公共安全、災害救援等特殊話題時，相關平臺必須加強對上傳內容的審核與管理，及時攔截虛假信息；對于已確認的虛假信息，應立即予以刪除，防止其進一步擴散。同時，公眾也要注意甄別，不輕信、不傳播未經證實的信息，以免被誤導或造成不必要的恐慌。
“新京報傳媒研究”刊文表示，法律是打擊AI虛假影像的有力武器。立法部門需加快完善相關法律法規，明確AI造假行為的法律界定、責任主體與懲處標準。對于編造、傳播虛假災情影像造成社會恐慌、阻礙救援等嚴重后果的，依法從重處罰，大幅提高違法成本，形成強大威懾。
相關部門在現有法律體系內對編造、傳播虛假災情信息者加大監管和處罰力度，如依據《治安管理處罰法》，對編造、傳播虛假災情信息者予以行政拘留、罰款；情節惡劣觸犯《刑法》的，以編造、故意傳播虛假信息罪論處，讓不法分子為其行為付出沉重代價，守護信息傳播凈土。

1月7日9時5分，西藏日喀則市定日縣發生6.8級地震。災情發生后，一張“被壓廢墟下的小男孩”圖片在社交平臺上廣泛關注。
圖片顯示，一名戴帽子的小男孩被壓在倒塌的廢墟下，全身鋪滿塵埃。這張圖片在某短視頻平臺被多個賬戶轉發，配文關聯西藏日喀則地震，關注度極高。

圖片來源：紅星新聞

實際上，這張圖的原作者發布于2024年11月18日，標注了由AI生成。另外，圖中小男孩的左手顯示為六根手指，且平臺也在相關視頻下方給出文字提示：“疑似使用AI生成技術，請謹慎甄別”。但仍有不少網友信以為真。

據“紅星新聞”報道，在某視頻平臺上，以“日喀則地震群眾被埋”為關鍵詞進行搜索可發現，不少視頻博主都發布了AI生成的災區圖片，且都在配文中與日喀則地震關聯。盡管大部分圖片下方都有小字提示為“AI生成”，但相關內容仍讓不少網友信以為真。