電商熱銷產品“苗古金貼”,號稱由傳承“千年秘方”的非遺傳承人制作,專攻膝蓋、頸椎等問題。在一些電商平臺,該產品甚至排到了“熱敷貼回購榜”第一名。然而,據媒體調查發現,該“非遺傳承人”的照片實為AI生成,“非遺傳承人”證書由一家機構違規炮制。類似“神醫”“神藥”在網上還有很多,假非遺加上AI生成的假傳承人,經過一系列的虛假包裝,產品竟然可以在各大電商平臺大肆銷售。
由AI生成的文本、圖像和視頻等,在為民眾的生活和工作帶來諸多便利的同時,也給社會帶來了一些麻煩和困擾。如果AI生成的內容被惡意利用到商業領域,虛假廣告、偽造身份、捏造資質等行為就會悄然出現。普通人面對高度仿真的AI生成內容,往往難以辨別真偽,因而極易上當受騙。
AI生成的“神醫”具有一定的迷惑性。從肉眼觀察,這些“神醫”的面容神態和身份證書等均十分逼真,現在的技術甚至能通過不同場景的圖片,拼接出“神醫”的虛假人生軌跡。在“苗古金貼”事件中,AI生成的“非遺傳承人”不僅擁有全套視覺素材,而且配有偽造的機構認證,形成環環相扣的欺騙鏈條。如果不對其加以約束,那么將來隨著人工智能技術進一步成熟,消費者將會更加難以分辨“神醫”究竟是真人還是AI合成。
針對AI生成的普通內容,需要通過強制標識等舉措強化監管。但對于AI生成的“神醫”,有必要在此基礎上予以重拳出擊。醫療關系到民眾的生命健康,任何打著AI旗號的醫療虛假宣傳都應被嚴令禁止。監管部門需秉持零容忍的態度,對涉及醫療健康領域的AI生成內容實施前置審查。此外,還應完善相關法律法規,進一步明確AI冒充專業人士的法律責任,讓技術造假者付出代價。
除了監督與打擊,全鏈條治理更是必不可少。從偽造非遺證書的中介機構,到提供AI生成服務的科技公司,再到銷售貼牌產品的代工企業,每個環節都應納入監管視野。對此,有必要建立跨部門的協作監督機制,嚴查虛假認證機構,強化AI生成內容的溯源追蹤,完善醫療器械廣告審查流程。唯有從各個環節入手,方能盡快斬斷AI“神醫”的利益鏈條。
“神醫”有多種表現形式,并且不同時期有不同類型的“神醫”。但過去的“神醫”,無論他們在電視上售賣所謂的“祖傳秘方”,還是在直播間吹噓產品“包治百病”,都需要人來偽裝,可以追溯和處罰到假扮成“神醫”的真人。相比之下,AI生成“神醫”不僅能夠做到神似和形似,而且還能夠做到量身定制、批量出現。AI生成“神醫”值得高度警惕。填平這個醫療欺詐“深陷阱”,就得通過技術更新快速識別這類“神醫”,并豐富監督與打擊手段,大幅度提升懲戒的力度,阻止“神醫”利用AI技術實施欺詐。
面對AI生成假“神醫”的新情況,平臺與監管部門應保持對AI技術的跟蹤,學會使用最新技術,了解技術瑕疵、漏洞等,以提高鑒別能力。同時,可采取“AI打假AI”的手段,引入AI辨偽技術,建立數據庫,實現智能化識別“AI神醫”,提升辨偽效率。只有以技術手段反制技術造假,以制度建設重構市場秩序,才能徹底斬斷AI生成假“神醫”的利益鏈,避免其成為醫療欺詐的陷阱。
來源:北京青年報
全國衛生產業企業管理協會轉化醫學產業分會(以下簡稱分會)是全國衛生產業企業管理協會(以下簡稱總會)的分支機構。全國衛生產業企業管理協會是由原國家衛生部申報,國家民政部登記批準,1992年10月成立。由從事衛生健康企事業單位和科研、管理等人員自愿結成的全國性、行業性、非營利性,具有獨立法人資格的國家一級社會團體。登記管理機關是國家民政部,黨建領導機關是中央和國家機關工作委員會,業務指導單位是國家衛生健康委員會。協會宗旨:堅持“護佑健康、發展產業、誠信創新、服務社會”,推進衛生健康事業、產業企業發展,為國家經濟建設和人民健康服務。CCTMIS(全國衛生產業企業管理協會轉化醫學產業分會)致力打造一個“產學研醫、協同創新”的平臺,目前協會有超過4000個會員,其中超過半數為臨床專家型醫生!
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.