2025年7月3日,王一博公司就部分網友用既往法院已判決內容再次造謠一事發表聲明,對繼續造謠用戶進行法律維權。本次維權除了常規的明星民事訴訟以外,比較特別的是王一博方還可能加訴刑事訴訟,律師團隊也從以往的星權變更為楊曙光這位海潤天睿高級合伙人。
不過此次聲明背后,因為肖戰粉絲大量用Deepseek截圖造謠,還引發了一個劇烈討論的話題:人工智能的信息錯誤。
Deepseek是一款基于人工智能(Artificial Intelligence,AI)技術和模型,利用先進的AI算法精準提煉信息的軟件。AI的開發,原本是希望代替人腦進行復雜信息的高效處理甚至決策,但遺憾的是目前的AI技術無法對信息的正確與否進行有效辨別,以至于只要有人大量喂稿錯誤信息,AI便能識別收錄并當成“正確”信息進行總結。
在本次事件中,被造謠的王一博兩部電影《長空之王》和《熱烈》,主投是亭東和儒意,出品方中從來沒有落網官員李愛慶的首創集團。所謂的首創和阿里合作,說的是阿里生態(阿里云等IT業務相關),首創和阿里文娛從未合作過。且阿里文娛作為內娛主力電影公司,本身就投資了成百上千部電影。更好笑的是,李愛慶落網是2021年7月,《長空之王》和《熱烈》開機則是2022年,時間線也根本對不上。
然而在Deepseek的總結里,變成了李愛慶投資《長空之王》和《熱烈》,哪怕出品方和時間線完全錯誤。這種情況通常是因為有人大量用造謠稿喂稿Deepseek(搜索后發現有不少肖戰粉絲和營銷號發了造謠內容),目的是通過大數據提取形成Deepseek錯誤信息。果不其然,這份錯誤的“Deepseek總結”也被肖戰粉絲截圖,開始在互聯網上迅速傳播造謠,當成所謂的證據。
如果說造謠喂稿導致了Deepseek第一次信息總結錯誤,那么后續AI對錯誤信息的質問進行“道歉”,更是暴露了AI另一個讓人哭笑不得的問題:虛假證據。
在一份質問Deepseek為何總結造謠內容的對話中,Deepseek果斷“給王一博道歉”,并迅速生成道歉相關的“證據”:一份毫無關系的立案號,一些并沒有做過的“舉措”。以至于有不了解Deepseek的人,真以為Deepseek給王一博道歉了,然而這不過是Deepseek錯誤信息的又一次“身體力行”罷了。
其實很多領域都曾吐槽過Deepseek的信息錯誤。在學術圈,Deepseek最大的問題是亂編文獻并提供看似很正經的文章身份DOI號,但是如果你真通過這些DOI號去搜索,會發現很多都是錯的,根本沒有這些文獻。在法律圈,Deepseek也是類似的問題,它會根據你的提問亂編法律條文,看似頭頭是道,實則胡言亂語。
不只是Deepseek,同樣基于AI技術和模型的ChatGPT也是一樣,因為本質上,這是現今AI模型的技術問題。
表面上看,AI模型的訓練機制決定了它會嘗試填補空白:AI被訓練要生成連貫且看似合理的回答,所以當它會基于已有的模式自動構建(或者說編造)看似合理的內容。深入思考,AI缺乏真正的判斷,它只能處理數據,但無法理解信息,更別說信息之間的關聯和真實。
AI學會了“法律條文和文獻DOI可以增加可信度”的模式,并在造假中加入這個模式,但它無法理解這個模式是為了通過可追溯來保證信息的真實,而不是方便讓它的虛假信息看起來更“真”。
AI的信息錯誤問題,其實對學術圈和法律圈影響不大,因為這兩個圈子的人大多具有自主查閱分辨專業信息的能力,可以剔除掉錯誤的信息。但是對于普通人來說,辨別AI信息真實與否是一件頗為困難的事,被Deepseek誤導的大有人在,比如這一次的“Deepseek道歉”。
很多kol都沒說清楚“Deepseek給王一博道歉是假的”這件事的本質,只提Deepseek沒道歉,但事實上,道歉這事本身就是Deepseek的信息錯誤之一,是Deepseek自己提供的虛假道歉,道歉的緣由也是“為Deepseek信息錯誤造謠王一博道歉”,可以說,兜兜轉轉,不過是一次又一次證明,在王一博這件事上Deepseek出現了兩次錯誤信息,一次是提取了被污染造謠王一博的大數據,另一次是自動編造道歉相關的虛假信息。
這兩次錯誤,第一次導致王一博被肖戰粉用截圖,大肆造謠既往已被法院判決反駁過的東西,第二次則讓很多人誤以為Deepseek意識到錯誤給王一博道歉,引發后續網友誤解。
AI缺乏技術修正,作為一個新興高科技產業,我們大可以期待日后能有更好的技術解決目前信息真假無法分辨的問題。然而本次事件中,最可惡的其實是造謠喂稿Deepseek的人,他們利用了AI的大數據漏洞,用批量造謠發稿的方式,把錯誤信息混入信息池,從而達到扭曲事實真相、借用Deepseek平臺造謠他人的目的。
網信辦曾經于今年第二季度公開倡導“整治利用AI發布謠言低俗內容”,可見AI被利用大數據漏洞散布謠言的問題,已不容小覷。
真切希望相關法律法規能早日完善,避免AI模型成為個別人為虎作倀的工具。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.