1245個字 閱讀時長：3分鐘

中產(chǎn)先生 | 洞見時代發(fā)現(xiàn)價值講述生活

防不勝防。

最近，都在傳DeepSeek給王一博道歉，因為它錯誤的把王一博聯(lián)系到不久之前的李愛慶事件。

媒體大肆報道之后，發(fā)現(xiàn)這個道歉也是假的。

在AI造假和算法推薦的效率之下，媒體信息不斷被污染，沒有真實可言了。

我們都知道AI造假的原因有兩個：

1、AI幻覺問題

它經(jīng)常會主動編造一些事實來迎合提問者的偏好。

這一點(diǎn)，會被有心者故意利用，來編造各種情節(jié)離奇的謠言。

這些人膽子大到什么地步呢？

編造明星的離奇情節(jié)還不夠，甚至編造涉政涉軍的謠言。

今年以來流傳比較廣的AI謠言就有：

涉及腐敗的：某官員把黃金澆鑄成飛機(jī)螺旋槳葉片。

涉及芯片的：深圳華強(qiáng)北地下倉庫直接以或換貨。

涉及關(guān)稅的：墨西哥邊境無數(shù)架無人機(jī)低空走私。

總結(jié)起來就一句話：

要多離奇多離奇，要多狗血多狗血，現(xiàn)在大家不關(guān)心真假，只在乎情緒和流量。

營銷號正是抓住了這個趨勢。

2、給AI喂假料

這次王一博的事件，就是不懷好意者給AI喂假聊的結(jié)果。

現(xiàn)在給AI喂假料太容易，AI基本沒有辨別的能力，只有梳理羅列的功能，到時候再因為幻覺問題嚴(yán)重，就可能直接誤導(dǎo)用戶，甚至成為黑公關(guān)的手段。

而且，以飯圈的瘋狂程度：

如果這種操作一旦被普通人知曉，后果不堪設(shè)想。

明星們是不是要瑟瑟發(fā)抖了。

3、社交媒體加持

這還不是最嚇人的：

AI固有的幻覺問題，別有用心的喂假料，再加上社交媒體極致的傳播效率。

以后我們將生活在一個什么信息環(huán)境中，畫面有點(diǎn)不敢想。

這不僅是下沉的問題了，簡直就是糞坑了。

不能在這么下去了。

必須想一些辦法：

1、AI公司完善技術(shù)

DeepSeek的幻覺尤其嚴(yán)重，但是國外三家主流的大模型，幻覺問題就沒那么嚴(yán)重，我不想說這是蒸餾的原因，但是需要在邏輯和工程設(shè)計上做一些改進(jìn)了。

2、相關(guān)監(jiān)管要跟上

最近有關(guān)部門也在打擊AI傳播虛假信息，但是整治行動的效率，跟幾乎零成本的造假信息相比，還是有差距的。

當(dāng)然，對于一個新興行業(yè)，我們一貫的政策是放水養(yǎng)魚，不能監(jiān)管過嚴(yán)，所以只能個人層面加強(qiáng)辨別了。

3、個人層面要注意

現(xiàn)在各種AI功能泛濫，幾乎已經(jīng)無孔不入，最終會改變所有人的信息獲取方式和信息本身。

我的建議是：

對于一些成熟知識性的信息可以參考，對于即時性的信息要謹(jǐn)慎對待。

AI真是一把雙刃劍，用不好也很嚇人。

就這樣。

下半年有大動作？

這兩天，大家都在討論這個事，甚至今天連相關(guān)板塊都漲了，小作文滿天飛：

要有大動作？

可以繼續(xù)閱讀：

10個朋友讀過 趨勢

500個點(diǎn)贊 局勢

閱讀10萬+ 深度