近日，公安部網(wǎng)安局公布了一起網(wǎng)絡(luò)謠言典型案例，該謠言中出現(xiàn)了“某醫(yī)院前院長未得到及時救治”“客死他鄉(xiāng)醫(yī)院走廊”等抓人眼球的內(nèi)容。但是，上海警方調(diào)查后發(fā)現(xiàn)，這些內(nèi)容竟然都是AI工具生成的。

前不久，上海警方在網(wǎng)絡(luò)巡查時發(fā)現(xiàn)一則題為“華山醫(yī)院前院長張明遠因闌尾炎未得到及時救治，客死他鄉(xiāng)醫(yī)院走廊長椅”的消息在網(wǎng)絡(luò)傳播，引發(fā)了廣泛的關(guān)注。

上海市公安局靜安分局網(wǎng)安支隊民警 張帆：這個消息在發(fā)布之初可能點擊寥寥，但是在之后經(jīng)過微信群的層層傳播，經(jīng)過了大概10個小時，因為正好是晚上的時候，然后就大肆傳播。

為了核實該消息的真實性，上海警方迅速展開調(diào)查工作，經(jīng)查，華山醫(yī)院根本沒有名為“張明遠”的前院長，也沒有同名員工，另外，發(fā)布該內(nèi)容的也并不是賬號注冊者本人。

上海市公安局靜安分局網(wǎng)安支隊民警 張帆：注冊者是因為通過兼職把自己的賬號注冊完之后交給他人使用。

警方深入調(diào)查發(fā)現(xiàn)，所謂“華山醫(yī)院前院長客死他鄉(xiāng)”的不實信息是某自媒體工作室所發(fā)布，實際運營者為王某某、郭某某、石某某等3人。

據(jù)了解，王某某等人為了快速增加賬號粉絲的數(shù)量，每天在網(wǎng)絡(luò)上查找各種熱點事件和消息，通過向AI工具輸入關(guān)鍵詞，自動生成文章，在未經(jīng)核實的情況下就在自己控制的賬號上發(fā)布。

上海市公安局靜安分局網(wǎng)安支隊民警 張帆：他利用AI批量生成一些不實信息，然后這些不實信息再通過他購買到的一些所謂的網(wǎng)絡(luò)小號，他控制了大概有500余個自媒體賬號，然后通過這500余個自媒體賬號，一共發(fā)布了大概有10余萬條的不實信息，通過這些制造一些爆款內(nèi)容，然后增加這些小號的瀏覽量，然后最終獲取那些流量的目的。

通過濫用AI技術(shù)，一條包含“知名三甲醫(yī)院”“前院長”“客死他鄉(xiāng)”等吸引眼球的謠言信息被王某某等人拼湊出來并發(fā)布，僅24小時之內(nèi)，相關(guān)謠言的不同版本就在網(wǎng)上被大量傳播，造成了惡劣的社會影響。

目前，王某某、郭某某、石某某等3人因涉嫌非法利用信息網(wǎng)絡(luò)罪，被上海靜安警方依法采取刑事強制措施，相關(guān)違法賬號已被依法封禁，案件正在進一步偵辦中。

AI仿冒名人帶貨多次發(fā)生 消費者被誤導(dǎo)

隨著近年來AI深度合成技術(shù)的快速發(fā)展和應(yīng)用，網(wǎng)絡(luò)上頻繁出現(xiàn)AI造謠亂象。記者調(diào)查發(fā)現(xiàn)，在網(wǎng)絡(luò)上，除了利用AI技術(shù)造謠吸粉引流之外，利用AI仿冒社會名人進行帶貨、代言，也成了一些自媒體博主的生財之道。一些消費者被誤導(dǎo)而進入消費陷阱，而這種仿冒的行為也給被仿冒的名人帶來極大困擾和傷害。

畫面1：那些一個月能輕松瘦個10~15斤的人，一定是熬過了這4個時間點，先點贊收藏，以免找不到。

畫面2：可以來試一試我的食譜，評論區(qū)打出食譜兩字，我看到了，發(fā)您一份。

這是之前在網(wǎng)絡(luò)上流傳的一段中國工程院院士張伯禮帶貨的視頻，不管從形象到聲音，視頻中的仿冒張伯禮都非常逼真，普通網(wǎng)民如果僅從畫面來判斷很難分辨真?zhèn)危聦嵣线@些畫面也都是通過AI技術(shù)仿冒的。

有過同樣遭遇的還有復(fù)旦大學(xué)附屬華山醫(yī)院感染科主任張文宏，他的形象和聲音也被自媒體博主用AI技術(shù)仿冒進行引流帶貨，不少消費者信以為真而被騙。

北京航空航天大學(xué)法學(xué)院副教授 趙精武：對于被仿冒的名人而言，這類帶貨現(xiàn)象未經(jīng)名人本人同意，侵犯了其名譽權(quán)、肖像權(quán)、個人信息權(quán)益等，對于被誤導(dǎo)的消費者而言，在決定購買相關(guān)產(chǎn)品時，名人的社會聲譽和口碑肯定是他購買該物品的重要考量因素之一。尤其對于粉絲群體而言，這一點更加突出。即便商家沒有就產(chǎn)品的質(zhì)量、場地等作出虛假承諾，但其本身的銷售行為也已經(jīng)構(gòu)成了對消費者的實質(zhì)性誤導(dǎo)，那就存在欺詐消費者的情形。

據(jù)趙精武介紹，如果有消費者被仿冒名人帶貨而誤導(dǎo)消費，可以依據(jù)《中華人民共和國消費者權(quán)益保護法》的相關(guān)規(guī)定，針對商家構(gòu)成的欺詐行為，消費者可以主張“退一賠三”。

來源 | 央視網(wǎng)監(jiān)制 | 李金鋒 李潔敏主編 | 彭丹編輯 | 杜卉

象象留言有獎活動來啦！

（每周好禮：小象玩偶、大象文創(chuàng)袋、象象定制筆記本，三選一）

獲獎名額：
最有態(tài)度獎：當(dāng)周留言總數(shù)前5名

金句達人獎：當(dāng)周精選留言條數(shù)前5名
人氣爆棚獎：當(dāng)周單條留言點贊數(shù)前5名

參與方式：1.關(guān)注本公眾號，確保留言資格；2.在當(dāng)周任意推文評論區(qū)留言，內(nèi)容需符合平臺規(guī)范；3.邀請好友為你的留言點贊，提升獲獎概率。

結(jié)果公布：每周一獲獎名單將在公眾號菜單欄“熱門”——“”中公布，中獎?wù)咝柙?8小時內(nèi)私信聯(lián)系客服領(lǐng)取，逾期視為放棄。