近日，公安部網(wǎng)安局公布了一起網(wǎng)絡(luò)謠言典型案例，該謠言中出現(xiàn)了“某醫(yī)院前院長未得到及時(shí)救治”“客死他鄉(xiāng)醫(yī)院走廊”等抓人眼球的內(nèi)容。但是，上海警方調(diào)查后發(fā)現(xiàn)，這些內(nèi)容竟然都是AI工具生成的。

前不久，上海警方在網(wǎng)絡(luò)巡查時(shí)發(fā)現(xiàn)一則題為“華山醫(yī)院前院長張明遠(yuǎn)因闌尾炎未得到及時(shí)救治，客死他鄉(xiāng)醫(yī)院走廊長椅”的消息在網(wǎng)絡(luò)傳播，引發(fā)了廣泛的關(guān)注。

上海市公安局靜安分局網(wǎng)安支隊(duì)民警張帆表示：“這個(gè)消息在發(fā)布之初可能點(diǎn)擊寥寥，但是在之后經(jīng)過微信群的層層傳播，經(jīng)過了大概10個(gè)小時(shí)，因?yàn)檎檬峭砩系臅r(shí)候，然后就大肆傳播。”

為了核實(shí)該消息的真實(shí)性，上海警方迅速展開調(diào)查工作，經(jīng)查，華山醫(yī)院根本沒有名為“張明遠(yuǎn)”的前院長，也沒有同名員工，另外，發(fā)布該內(nèi)容的也并不是賬號(hào)注冊(cè)者本人。張帆說，注冊(cè)者是因?yàn)橥ㄟ^兼職把自己的賬號(hào)注冊(cè)完之后交給他人使用。

警方深入調(diào)查發(fā)現(xiàn)，所謂“華山醫(yī)院前院長客死他鄉(xiāng)”的不實(shí)信息是某自媒體工作室所發(fā)布，實(shí)際運(yùn)營者為王某某、郭某某、石某某等3人。

據(jù)了解，王某某等人為了快速增加賬號(hào)粉絲的數(shù)量，每天在網(wǎng)絡(luò)上查找各種熱點(diǎn)事件和消息，通過向AI工具輸入關(guān)鍵詞，自動(dòng)生成文章，在未經(jīng)核實(shí)的情況下就在自己控制的賬號(hào)上發(fā)布。

張帆介紹：“他利用AI批量生成一些不實(shí)信息，然后這些不實(shí)信息再通過他購買到的一些所謂的網(wǎng)絡(luò)小號(hào)，他控制了大概有500余個(gè)自媒體賬號(hào)，然后通過這500余個(gè)自媒體賬號(hào)，一共發(fā)布了大概有10余萬條的不實(shí)信息，通過這些制造一些爆款內(nèi)容，然后增加這些小號(hào)的瀏覽量，最終獲取流量。”

通過濫用AI技術(shù)，一條包含“知名三甲醫(yī)院”“前院長”“客死他鄉(xiāng)”等吸引眼球的謠言信息被王某某等人拼湊出來并發(fā)布，僅24小時(shí)之內(nèi)，相關(guān)謠言的不同版本就在網(wǎng)上被大量傳播，造成了惡劣的社會(huì)影響。

目前，王某某、郭某某、石某某等3人因涉嫌非法利用信息網(wǎng)絡(luò)罪，被上海靜安警方依法采取刑事強(qiáng)制措施，相關(guān)違法賬號(hào)已被依法封禁，案件正在進(jìn)一步偵辦中。

AI技術(shù)的發(fā)展

帶來了新奇體驗(yàn)和產(chǎn)業(yè)進(jìn)步，

與此同時(shí)，

也成為不法分子牟取利益的工具。

據(jù)記者了解，目前各地網(wǎng)信部門多措并舉，扎實(shí)推進(jìn)，積極履行屬地管理責(zé)任。北京網(wǎng)信辦開設(shè)AI技術(shù)濫用治理舉報(bào)渠道，形成“用戶標(biāo)記—平臺(tái)核查—聯(lián)合處置”工作模式，處置有關(guān)舉報(bào)26篇。上海網(wǎng)信辦推動(dòng)標(biāo)識(shí)要求落地示范，組織開展4場(chǎng)法規(guī)宣貫和專題交流，覆蓋企業(yè)400余家，屬地內(nèi)重點(diǎn)企業(yè)已基本完成顯式標(biāo)識(shí)規(guī)范上線。

另外，各大重點(diǎn)網(wǎng)站平臺(tái)也在積極履行主體管理責(zé)任，加強(qiáng)AI技術(shù)濫用源頭治理。在處置違規(guī)AI產(chǎn)品方面，騰訊規(guī)范應(yīng)用程序管理，提高準(zhǔn)入門檻，優(yōu)化巡查機(jī)制，駁回、處置違規(guī)小程序、應(yīng)用程序等共計(jì)570余款。在清理違規(guī)AI產(chǎn)品教程和商品方面，微博通過策略識(shí)別、用戶舉報(bào)等多渠道審核，累計(jì)處置違規(guī)內(nèi)容4800余條，并公布典型案例。

來源 央視新聞