AI是很美好的東西

但也可能是傷人的利器

來源公眾號：李月亮

01

前陣子，有粉絲給劉曉慶留言。

說有一個視頻賬號，發(fā)了很多劉曉慶的視頻，但里面很多話明顯不是劉曉慶說的，應(yīng)該是AI生成的。

比如這個賬號里，有個劉曉慶演講的視頻。

她在里面講自己“出獄當(dāng)天連吃了三碗炸醬面”。

——這是根本沒有的事兒。

劉曉慶自己點(diǎn)進(jìn)去一看，也驚了——

“天哪，畫面是我，聲音很像我，但不是我！

這是怎么做到的？

以后大家不會搞不清哪個才是真的我了吧？”

簡直是現(xiàn)實(shí)版真假美猴王。

關(guān)鍵假劉曉慶賬號流量還很大，點(diǎn)贊成千上萬。

評論區(qū)也非常熱鬧，好多不明真相的網(wǎng)友在熱烈發(fā)言。

更可怕的是，這種號還很泛濫。

雷軍也掉過這個坑。

——準(zhǔn)確說，一直在坑里。

這兩年，網(wǎng)上特別流行用“AI雷軍”做配音。

用雷軍的聲音，說各種離譜的話。

有時候瘋狂罵人，有時候胡說八道——

“你們年輕人整天就知道TMD扯淡！”

“我打算用50億投資安徽農(nóng)業(yè)大學(xué)，誰要阻攔我，我就遠(yuǎn)程操控小米SU7把他撞飛！”

這種假視頻，不仔細(xì)分辨很容易信以為真。

雷軍深受困擾，但是也沒什么辦法。

他一再告誡網(wǎng)友不要這么惡搞。

但是這個風(fēng)根本剎不住。

到現(xiàn)在還有人收錢教人如何制造“AI雷軍語音”。

有內(nèi)行的網(wǎng)友告訴劉曉慶，現(xiàn)在的AI只要輸入你的形象和臺詞，就能自動生成你的視頻。

做視頻的人想讓你說什么，你就說什么，想讓你賣什么，你就賣什么。

你說嚇不嚇人。

02

不得不說，現(xiàn)在AI的發(fā)展堪稱炸裂。

經(jīng)常上網(wǎng)的人，每天都會不知不覺地看一堆AI生成的視頻。

有些AI視頻沒啥壞處，就是圖個樂呵。

比如甄嬛舉起“屠龍槍”。

比如林妹妹大戰(zhàn)賈寶玉。

這些視頻一看就是假的，大家樂呵樂呵就過去了。

算是人畜無害。

而有些AI視頻，問題就大了。

比如造假重災(zāi)區(qū)——AI小孩和AI寵物。

這種虎頭虎腦的AI大胖孫子，很多人都刷到過。

打開短視頻軟件，一排白白胖胖的小孩朝你招手。

馱著大豬蹄，頂著烤乳豬。

又好看又能干。

三歲就能摘菜、洗菜。

一個人做出四菜一湯。

這群大胖孫子把很多老年人哄得挪不開眼。

動不動轉(zhuǎn)發(fā)到家人群，“看看人家這小孩”。

言外之意，敦促兒子兒媳女兒女婿都學(xué)著點(diǎn)，好好教教自己那個不成器的娃，人家三歲都能做四菜一湯了，你瞅瞅你養(yǎng)那個，鞋都穿不上。

咱就說這玩意得引發(fā)多少家庭矛盾。

有位網(wǎng)友過年回家探望老人。

發(fā)現(xiàn)奶奶根本不搭理他，反倒對著手機(jī)里的假孫子哎了半個小時。

他說那是假的，奶奶根本不相信。

現(xiàn)在“AI大胖孫子”，已經(jīng)流傳到動物界了。

小狗燉雞湯。

小貓擺攤賣炒飯。

最常見的是一只小橘貓。

一會兒救老奶奶，一會兒救白娘子。

可給它忙壞了。

03

好在，這種AI視頻畢竟好識別，危害還算小。

很多賣藥帶貨的AI數(shù)字人，才貽害無窮。

像這種一頭白發(fā)的“金牌老中醫(yī)”。

經(jīng)常在鏡頭前娓娓道來，傳授她的養(yǎng)生技巧。

乍看很讓人信服。

但事實(shí)上，她是個AI生成的“數(shù)字老專家”。

從形象到聲音，到文案，到頭銜，都是憑空偽造的。

是個徹頭徹尾的冒牌貨。

而這種“數(shù)字專家”們說的話，更是蒙人。

看似有道理，實(shí)則比鬼話還離譜——

按揉大拇指的穴位可以治愈近視。

拍打左肩膀能徹底治好心臟病。

每天吃三顆紅棗，貧血立刻好。

喝綠豆湯包治百病，所有藥都讓你停掉……

所謂“獨(dú)家秘方”，其實(shí)都是他們瞎編的。

所謂“臨床研究數(shù)據(jù)”，根本沒有人臨床研究過。

你要是信他們，指不定掉啥坑里去。

有網(wǎng)友試過了。

跟著上面那個老太太做養(yǎng)生的動作，最后會變成這樣。

更別提跟著她求醫(yī)問藥了。

@小宇在農(nóng)村

這種“數(shù)字專家”，很有迷惑性。

有時候打眼一看，真看不出是假的。

比如這位哥們。

有皺紋，有痘印，臉上還出了點(diǎn)油。

看面相就是業(yè)主群里的一個普通鄰居。

但他其實(shí)是個挺出名的AI人，叫“王建國”。

別看其貌不揚(yáng)，走的還是“蠱惑人心”的情感賽道。

打開短視頻平臺，王建國從花叢里鉆出來。

嘴甜心暖，卯著勁哄老姐姐們開心。

時不時還動一動感情。

眼眶微微泛紅，害羞地袒露心意：

“連睡夢里，我都會情不自禁地，叫著你的名字。”

雖然沒辦法敞開自己的心房。

但是……

他可以向老姐姐們打開櫥窗。

他的視頻其實(shí)有平臺的AI標(biāo)識。

但是很不顯眼，一般人都不會注意到。

不少老姐姐被王建國迷得七葷八素，咔咔下單。

后來，王建國還“拖家?guī)Э凇钡厣蠉彙?/p>

讓他的AI兒子、AI閨女都開始發(fā)類似的短視頻。

帶貨效果也不錯。

這一家子根本不存在的AI人，不知道給幕后主人賺了多少錢。

這樣的AI人，現(xiàn)在越來越多。

喊幾句“寶寶姐姐”，就能賺得盆滿缽滿。

而他的姐姐們可能一直不知道。

你為之撒錢的弟弟，根本不是人。

因?yàn)锳I是機(jī)器生成的產(chǎn)物。

一旦出事，賬號注銷跑路。

受害者要找到機(jī)器背后的人維權(quán)，十分困難。

04

劉曉慶遇到的陷阱，是AI技術(shù)的進(jìn)階版，叫“深度偽造”。

這個技術(shù)，用一張真人照片，就能生成說話、跳舞、賣貨的視頻。

并且做得惟妙惟肖。

靳東、陳建斌、劉德華……很多知名人物都是受害者。

前陣子，張伯禮院士也在央視辟謠。

說有不少人用他的形象做AI廣告，帶貨護(hù)膚品、賣藥。

他氣憤又憂心：

“對我的影響還是第二位的，最可怕的是這些東西誤導(dǎo)消費(fèi)者，讓老百姓買到假藥。”

更讓人憂心的是，這個技術(shù)也會被用在普通人身上。

北京的69歲徐大爺，因?yàn)榕牧藯l視頻。

莫名其妙被人用AI改造成了“90歲患癌老人”。

通過講述離奇的經(jīng)歷，騙網(wǎng)友買抗癌神藥。

有一天，他在天壇公園鍛煉，遇到了看過他廣告的人。

那人氣勢洶洶地問他賺了多少黑心錢。

他才知道，自己早就被“上鏈接”了。

05

那么如何防范這無孔不入的AI坑呢？

其實(shí)也不難。

學(xué)會以下幾個小技巧，基本就不會踩坑了：

第一，最直接的辦法，就是去看視頻下方有沒有AI標(biāo)識。

大部分AI視頻都能被系統(tǒng)識別，貼上標(biāo)簽。

第二，對于沒有標(biāo)識的視頻，可以觀察他們的面部特征。

AI一般會出現(xiàn)一種“機(jī)器長相”。

皮膚光滑、五官不協(xié)調(diào)、沒有清晰的頭發(fā)絲兒。

第三，還可以通過一些細(xì)節(jié)看出AI痕跡——

眨眼頻率過快或者過慢。

牙齒邊緣過于整齊。

瞳孔顏色兩邊不一樣（比如一個黑，一個棕，因?yàn)槿诤狭瞬煌说哪槪?/p>

第四，看他說的話、做的事是否符合常識。

對于違反常識、又說不清來源的言論，不要輕信。

第五，如果有親友打來電話或視頻借錢，要當(dāng)心AI騙局。

可以要求他在鏡頭前揮揮手，觀察臉部有沒有明顯不正常的抖動。

或者問一些只有對方才知道的問題，驗(yàn)證那邊是不是本人。

第六，求證AI問題的時候，不要過于相信它。

現(xiàn)在我們經(jīng)常會找AI問各種問題。

這就需要有一個基本常識：

AI親口回答你的內(nèi)容，不能完全相信。

因?yàn)锳I技術(shù)背靠的信息池，像一本巨大的百科書。

所有網(wǎng)友說的話，不管真假，它都照單收錄。

所以，它可能會天馬行空地說一些根本不存在的東西。

而且說得有鼻子有眼。

也因?yàn)樾畔⒈晃廴荆珹I有時連一些簡單的問題都答不對。

告訴你過完一輪12生肖，需要13.5年。

1000天前是2023年。

有時是因?yàn)閱柕搅酥R盲區(qū)。

觸及了AI的自由創(chuàng)作機(jī)制，讓它開始一本正經(jīng)地胡說八道。

清華大學(xué)的研究團(tuán)隊(duì)發(fā)現(xiàn)，AI的幻覺率高達(dá)30%。

差不多問它三次問題，它就可能犯一次迷糊。

因?yàn)閮?nèi)容生產(chǎn)的機(jī)制存在硬傷，哪怕最先進(jìn)的AI，都逃脫不了出現(xiàn)幻覺的麻煩。

如果你一定要使用AI查找信息，可以借助“三角求證法”。

問三個AI產(chǎn)品同一個問題。

一般會得到比較靠譜的答案。

這個時代，AI已經(jīng)成為人們的得力助手。

但我們在利用AI的同時，也要提升對它的認(rèn)知。

避免被AI蒙蔽。

畢竟越好的東西，越可能是傷人的利器。

謝謝你看完文章，如果你也認(rèn)同，還請點(diǎn)亮【贊】+【在看】。

本文作者：李月亮，高人氣作家，微信公眾號【李月亮】每日解讀熱點(diǎn)，透析人性，以理性和智慧陪讀者成長。新書《活得清醒》當(dāng)當(dāng)網(wǎng)熱賣中。

Hot Events

讓每一次閱讀都有價值