99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

“AI那么火,我還是勸你謹慎用它”

0
分享至



小心AI一本正經(jīng)胡說!


聽筒Tech(tingtongtech)原創(chuàng)

文|小 聽

編|饒 言

盡管AI已經(jīng)火爆全球,但依然有不少人對它的使用存在置疑。

曉姐是一名文字工作者,自大模型推出伊始,她便嘗試借助AI工具寫作,但自始至終,她都無法相信AI。

“大模型剛推出的時候,大家都知道它‘資料更新不及時’,后來,隨著應用不斷升級,我也習慣了用大模型,但仍會對它生成的內(nèi)容持遲疑態(tài)度。尤其大模型給出的數(shù)據(jù)和時間,幾乎很少標注信息來源和出處,這點我必須要做一番考證。”

在曉姐看來,大模型的行文方式和生成作品,“更像結(jié)論和觀點。”簡單來說,大模型給出的是邏輯和結(jié)論,但寫文章和做研究,只有遠遠是不夠的,“我們講究每一句發(fā)言是有跡可循,只有被敲打和反復考證過的傳播,才有價值。”

曉姐遇到的情況,并不是偶發(fā)。近期,越來越多的博主在社交平臺發(fā)出警示,告誡網(wǎng)友“警惕AI幻覺”,不少博主指出,AI的強邏輯,讓網(wǎng)友產(chǎn)生幻覺,認為“AI完全正確”,但實際上,不少跡象表明,AI經(jīng)常出現(xiàn)“一本正經(jīng)胡說”的現(xiàn)象。

事實上,Vectara公司聯(lián)合創(chuàng)始人阿姆爾·阿瓦達拉表示,在訓練過程中,AI模型會壓縮數(shù)萬億個單詞間的關(guān)系,隨后通過龐大的網(wǎng)絡模型重新展開這些信息。盡管這些模型能夠重構(gòu)出接近98%的訓練內(nèi)容,但剩下2%內(nèi)容卻會“誤入歧途”,生成不準確或虛假信息。

Vectara平臺最新發(fā)布的數(shù)據(jù)還顯示,目前市場上AI大模型,均有幻覺率,即便是OpenAI-o3,也有0.8%的幻覺率;目前市場大熱的DeepSeek-V3,幻覺率達到3.9%。而在更早之前,這一幻覺率甚至高達30%。



圖:市場主流大模型幻覺率(截止2025年1月31日)

來源:網(wǎng)絡

這就意味著,至少在目前,AI依然無法完全信任。不少業(yè)內(nèi)人士亦對《聽筒Tech(ID:tingtongtech)》表示,在專業(yè)的領(lǐng)域,建議警惕使用AI,“我們可以借助AI來輔助我們的工作,而不是依賴AI。”

“AI很強大,但我不怎么用”

曉姐是在朋友安利下開始使用AI。
十年文字工作者的曉姐,日常資料梳理的工作量非常大。前兩年,大模型剛興起的時候,曉姐就在朋友的建議下成為最早使用大模型的那一批人。
“快速響應,內(nèi)容強大,邏輯也足夠清晰。”這是曉姐對大模型的直觀感受。一度,她熱衷使用大模型,每逢寫作都要問“模”。
但很快,曉姐發(fā)現(xiàn),大模型不能滿足她的寫作需求,甚至讓其創(chuàng)作也不夠“絲滑”。
實際上,大模型剛推出的時候,有的資料確實更新不及時,會誤導曉姐的文字創(chuàng)作。再者,曉姐發(fā)現(xiàn),大模型給出的內(nèi)容通常是結(jié)論和觀點,雖然邏輯性很強,但一旦出現(xiàn)細節(jié)和事實錯誤,就會給曉姐的工作帶來致命的打擊。
“比如,使用大模型的人會發(fā)現(xiàn),模型生成內(nèi)容的數(shù)據(jù)和時間,幾乎不標注信息來源和出處,在寫作過程中,我還發(fā)現(xiàn)了有名言出處錯誤的事實,所以,我現(xiàn)在對AI持遲疑態(tài)度。”
高校任職的林哥也一度無法完全擁抱AI。
“如今AI已經(jīng)非常強悍了,但我還是在堅持手工敲字,這與正確錯誤無關(guān),完全是個人愛好。”

林哥在批閱學生的作業(yè)和論文的時候發(fā)現(xiàn),“有些學生的內(nèi)容一看就是AI生成,引用也‘張冠李戴’,甚至出現(xiàn)憑空捏造的‘AI幻覺’,我改了一部分就堅持不下去,AI增加了我的工作量。”
“這并不是一個好的引導和風向。當你越來越認為本就應該如此的時候,那么你就失去了對文字和內(nèi)容的審美鑒別,也失去了對事實的判斷和認識能力。”林哥表示。



圖:社交平臺關(guān)于“AI幻覺”的討論

來源:小紅書,《聽筒Tech》截圖

95后家裝設計師小屈告訴《聽筒Tech》,盡管自己是網(wǎng)絡擁護者,但也很少使用AI繪圖。

其實,在大模型剛出來的時候,小屈是興奮的,“畫圖是非常累的,客戶的需求也非常多,現(xiàn)在的家裝行業(yè),通常有了初步的設計圖紙,客戶才會繳納意向金。我每天的工作不是跟客戶溝通設計需求,就是在畫圖。且畫的圖都不一定會被客戶采用,所以工作量非常大。”

AI繪圖出現(xiàn)后,小屈抱著試試的心理去AI作圖。不過,在嘗試了幾次后,小屈放棄了作圖。目前,他只是用AI編輯一些文案。

“主要問題在于不夠精準,每個空間不能統(tǒng)一設計手法。”在小屈看來,AI繪圖只能作為輔助,或者作為早期工作意向確認工具。

同樣的問題,也發(fā)生在視頻生成領(lǐng)域。

在AI軟件席卷行業(yè)的最早期,影視就被認為是被沖擊的巨大行業(yè)。后來,隨著細分領(lǐng)域模型的不斷推出和升級,影視行業(yè)從業(yè)者郭哥十分焦慮。他曾和《聽筒Tech》交流,要主動學習AI技術(shù),避免在行業(yè)的內(nèi)卷中被淘汰。

但郭哥發(fā)現(xiàn),以全網(wǎng)都在吹的某平臺為例,生成的視頻有幾個明顯的缺點,比如圖人和物體之間存在交互失靈、物理引擎失效、對象突然冒出等使視頻產(chǎn)生“鬼畜感”。

“小心AI一本正經(jīng)胡說”

在曉姐和小屈看來,目前不敢將專業(yè)的工作交給AI來做,“或許有一天我會信任它,但不是現(xiàn)在。”

關(guān)于“我為什么不用AI”,在社交平臺,網(wǎng)友也眾說紛紜。有人表示,“我完全不覺得AI生成的短片有趣,因為創(chuàng)作這個東西的不知道痛楚為何物”、“有沒有人感覺越用AI越蠢,這學期用AI輔寫,被導師吐槽了幾遍文章寫作水平不行”、“越來越不會內(nèi)容輸出了”......

尤其是,“AI幻覺”一詞最近被提及得越來越多。

一位博主表示,“小心AI一本正經(jīng)的‘胡說’。”實際上,AI“強邏輯”幻覺的背后,存在“一本正經(jīng)胡說”的隱患,且不是自己的專業(yè)和領(lǐng)域根本判斷不了。

該博主表示,尤其是AI在回應一些嚴肅知識性問題時,會存在憑空編造事實、杜撰不存在文獻的可怕現(xiàn)狀。

科普作家河森堡表示,自己讓某大模型介紹一下“青銅利簋”,它就開始一本正經(jīng)地胡扯,說這件青銅器是商王帝乙為祭祀自己父親所鑄,還詳述了其內(nèi)壁的銘文。

不過,河森堡曾經(jīng)在博物館看見過“利簋”這件文物,此物是西周貴族為了紀念武王推翻商朝而鑄,銘文和祭祀也與商王毫無關(guān)系。

實際上,河森堡還繼續(xù)追問AI,這些資料都是從哪看來的,AI列出了一大堆文獻,但他發(fā)現(xiàn),文獻和作者介紹都是捏造的。



另一位正在創(chuàng)業(yè)的科技博主,也在社交平臺呼吁大家“警惕AI幻覺”、“希望大家使用AI時,甄別它的謊言”。

該博主表示,“體驗了DeepSeek,一開始看到它如此強大的推理能力,特別是它在自我思考的時候展現(xiàn)出來的完整思維鏈,確實非常驚艷。”

但當自己在問怎樣看待“創(chuàng)新是一種涌現(xiàn)”這個話題時發(fā)現(xiàn),盡管大模型給出了一系列層次和角度的分析,但博主卻總感覺“有一絲絲的不對”。

于是,她認認真真地對內(nèi)容做了核對,發(fā)現(xiàn)這些看似正確的回答卻有很多問題。比如,AI在“編造數(shù)據(jù)謊言”。實際上,針對DeepSeek表示的“70%的創(chuàng)新出現(xiàn)在跨學科領(lǐng)域”,該博主查了很多文獻都沒有找到這個信息源頭和實驗數(shù)據(jù)。

“如果這種捏造廣泛流傳,不知有多可怕。”

甚至,如果AI能虛構(gòu)文本、照片乃至視頻的一切內(nèi)容,并且令其彼此之間相互印證和支撐,其制造幻覺的強度與編撰故事不可同日而語。

“除非你親自見到并本人求證,或者到現(xiàn)場實地考察,否則你會被AI創(chuàng)造出的假象玩得死死的。”一位業(yè)內(nèi)人士這樣擔憂。

然而,在現(xiàn)實社會中,有意愿和有能力親自驗證事實的人并不多。也就是說,稍一個不留神,你可能就會被AI污染。

別焦慮,現(xiàn)在AI還無法取代你我

實際上,AI幻覺已經(jīng)給人們的工作和現(xiàn)實生活帶來了巨大影響。

世界經(jīng)濟論壇發(fā)布的《2025年全球風險報告》顯示,錯誤和虛假信息是2025年全球面臨的五大風險之一。2023年,美國律師史蒂文·施瓦茨也曾因“輕信”ChatGPT,在法庭文件中引用了并不存在的法律案例。而在醫(yī)學領(lǐng)域,AI幻覺提供的錯誤診斷和治療建議,可能會危及患者生命。

從底層技術(shù)來看,AI幻覺的產(chǎn)生,是必然的。

AI企業(yè)落地師石云升便告訴《聽筒Tech》,“據(jù)我所知,目前AI底層架構(gòu)師無法解決幻覺問題。因為它每一個字符都根據(jù)概率計算,這就導致它輸出的內(nèi)容會有幻覺,這是無解的。”

不過,石云升指出,在真實場景中,用戶可以通過反復溝通來幫助AI更精準的回答問題。畢竟,AI給出的答案是否采納,最終還是由人來決定。

“降低AI幻覺的問題可以通過’預訓練、微調(diào)和推理‘三個層級來解決。”石云升指出,例如,在公司負責AI客服時,用戶主要通過“提示詞+知識庫”來防止AI輸出幻覺,“如果公司有懂得微調(diào)的技術(shù)人員,并且擁有優(yōu)質(zhì)的企業(yè)數(shù)據(jù),微調(diào)的效果會更加理想。”

不過,石云升坦言,微調(diào)通常是針對企業(yè)專屬的大模型進行的,“一般我們會在通用大模型回復效果特別不好的情況才會考慮微調(diào)。”

比如,在法律領(lǐng)域,通用大模型訓練預料數(shù)量太少,質(zhì)量太差,企業(yè)內(nèi)部有很多更優(yōu)質(zhì)的法律數(shù)據(jù),這種情況就可以考慮微調(diào)一個專屬公司的法律大模型,微調(diào)后出現(xiàn)幻覺的概率就小很多。

石云升指出,還有一種手法是使用“RAG增強檢索”,“在提問的時候,先從知識庫里查詢資料,然后給到大模型,如果用戶的問題在知識庫里有資料,那基本也不會出現(xiàn)AI幻覺。”

當然,石云升也表示,對于普通用戶來說,AI的幻覺率,目前沒有特別有效的解決辦法,“普通用戶很難接觸到預訓練和微調(diào)技術(shù),因此只能在AI推理階段提供更詳細的信息。這也是為什么在AI剛剛興起時,行業(yè)內(nèi)很多人開始教授如何編寫‘提示詞’并建立自己的知識庫。”



也即是說,至少在現(xiàn)階段,AI還無法真正取代你我。

此前,張雪峰“回應DeepSeek會讓自己失業(yè)”這一話題時曾這樣解釋,“第一,我們這個行當不止是打破信息差,還是在提供情緒價值;第二,大模型只會有一些公開信息,但是你要知道有些信息網(wǎng)上是不公開的。”

那些“網(wǎng)上非公開的”、“對情感的理解”,以及“深度思考引發(fā)的創(chuàng)新”,或許是現(xiàn)階段“你我”存在的價值和意義所在。

“警惕AI幻覺,這是一種呼吁,也是一種社會職責。”顯然,這不是“曉姐”一個人所希冀的事。

(文中曉姐、林哥、小屈、郭哥均為化名。)

(頭圖和部分圖片由AI生成。)

(聲明:本文僅作為信息交流,不構(gòu)成任何投資參考建議。)

—END—你

聲明:個人原創(chuàng),僅供參考

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
趁你病,要你命!中國不動聲色抽走美債籌碼,這場博弈開始玩真的

趁你病,要你命!中國不動聲色抽走美債籌碼,這場博弈開始玩真的

奇思妙想生活家
2025-07-23 13:12:11
馬斯克帶來一種新的商業(yè)模式!想排隊進特斯拉餐廳要等13個小時!

馬斯克帶來一種新的商業(yè)模式!想排隊進特斯拉餐廳要等13個小時!

湊近看世界
2025-07-22 18:24:46
豆瓣9.8|一套哲學童書,為何能風靡全球?

豆瓣9.8|一套哲學童書,為何能風靡全球?

i理想國
2025-07-22 13:07:54
為隊友慶生,恩佐曬出了神似庫庫雷利亞的長發(fā)貓貓形象

為隊友慶生,恩佐曬出了神似庫庫雷利亞的長發(fā)貓貓形象

雷速體育
2025-07-23 11:26:31
今夜!突發(fā)大利好!

今夜!突發(fā)大利好!

中國基金報
2025-07-24 00:18:59
原子彈炸后百年內(nèi)寸草不生,今廣島卻住滿了人,看看專家怎么說?

原子彈炸后百年內(nèi)寸草不生,今廣島卻住滿了人,看看專家怎么說?

墨印齋
2025-07-20 21:59:44
它是“補氣第一藥”,很多人用來泡水喝,結(jié)果越喝身體越虛……

它是“補氣第一藥”,很多人用來泡水喝,結(jié)果越喝身體越虛……

5060范
2025-07-21 20:53:10
陳冠希現(xiàn)身上海,白發(fā)駝背禿頂還抽煙,不過看著還是很帥氣!

陳冠希現(xiàn)身上海,白發(fā)駝背禿頂還抽煙,不過看著還是很帥氣!

界史
2025-07-21 10:58:23
中國男籃拒絕爆冷!全力擊敗委內(nèi)瑞拉,楊瀚森缺席,CCTV5直播

中國男籃拒絕爆冷!全力擊敗委內(nèi)瑞拉,楊瀚森缺席,CCTV5直播

體壇瞎白話
2025-07-23 15:23:47
離婚2年,再看尼格買提和帕夏現(xiàn)狀,一個再遇良人,一人依舊單身

離婚2年,再看尼格買提和帕夏現(xiàn)狀,一個再遇良人,一人依舊單身

洲洲影視娛評
2024-12-12 22:05:02
又暴雷了!董事長跳樓,近百家門店全關(guān)閉,55萬家庭受影響!

又暴雷了!董事長跳樓,近百家門店全關(guān)閉,55萬家庭受影響!

妙知
2025-07-23 16:35:53
宗慶后,一個連出生地點日期都虛假的首富

宗慶后,一個連出生地點日期都虛假的首富

深度報
2025-07-22 22:41:25
娛樂圈首位被執(zhí)行死刑的藝人,陜西咸陽中級人民法院公布調(diào)查:男藝人張藝洋殺害16歲女友,于去年12月18日執(zhí)行槍決

娛樂圈首位被執(zhí)行死刑的藝人,陜西咸陽中級人民法院公布調(diào)查:男藝人張藝洋殺害16歲女友,于去年12月18日執(zhí)行槍決

縱相新聞
2025-07-23 23:23:30
潘瑋柏發(fā)文:如在面店巧遇我吃面,煩請不要發(fā)社交媒體

潘瑋柏發(fā)文:如在面店巧遇我吃面,煩請不要發(fā)社交媒體

極目新聞
2025-07-22 14:44:02
悄悄完成10筆簽約,一躍成NBA實力最強球隊!新賽季懸念越來越小

悄悄完成10筆簽約,一躍成NBA實力最強球隊!新賽季懸念越來越小

老梁體育漫談
2025-07-24 00:05:19
生完孩子后,我出軌的欲望非常強烈!(女性勿入)

生完孩子后,我出軌的欲望非常強烈!(女性勿入)

性學研究僧
2025-06-17 22:37:40
足協(xié)杯四強出爐!國安點球大戰(zhàn)淘汰西海岸,河南隊10輪點球勝申花

足協(xié)杯四強出爐!國安點球大戰(zhàn)淘汰西海岸,河南隊10輪點球勝申花

順靜自然
2025-07-24 01:10:36
宗馥莉被曝黑歷史,所謂的知情人透露,她為奪權(quán)聯(lián)合生母囚禁親爹

宗馥莉被曝黑歷史,所謂的知情人透露,她為奪權(quán)聯(lián)合生母囚禁親爹

花哥扒娛樂
2025-07-21 21:21:15
誤打誤撞把病治好是啥體驗?網(wǎng)友:華佗在世都要甘拜下風啊

誤打誤撞把病治好是啥體驗?網(wǎng)友:華佗在世都要甘拜下風啊

帶你感受人間冷暖
2025-07-21 00:15:06
蔚來開始玩“臟”的了

蔚來開始玩“臟”的了

源Auto
2025-07-22 20:58:23
2025-07-24 02:59:00
聽筒Tech incentive-icons
聽筒Tech
深度還原科技
237文章數(shù) 8關(guān)注度
往期回顧 全部

科技要聞

別自嗨了!XREAL徐馳:AI眼鏡只有5歲智商

頭條要聞

宗馥莉被質(zhì)疑讀的是“野雞大學” 校方回應

頭條要聞

宗馥莉被質(zhì)疑讀的是“野雞大學” 校方回應

體育要聞

英格蘭最紅球星 也是加勒比島國驕傲

娛樂要聞

汪峰森林北同游日本 各帶各娃互不耽誤

財經(jīng)要聞

律師解析娃哈哈遺產(chǎn)案:遺囑是最大變數(shù)

汽車要聞

德系大招放盡 場地極限測試全新奧迪A5L

態(tài)度原創(chuàng)

數(shù)碼
本地
旅游
教育
公開課

數(shù)碼要聞

AppleCare+ 為 iPad 和 Apple Watch 帶來防盜和丟失選項

本地新聞

這雙丑鞋“泰”辣眼,跪求內(nèi)娛不要抄作業(yè)

旅游要聞

熱聞|清明假期將至,熱門目的地有哪些?

教育要聞

撿漏王誕生!黑龍江一考生389分上211鄭州大學,讓人羨慕

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關(guān)懷版 主站蜘蛛池模板: 磐石市| 资中县| 新营市| 高尔夫| 新龙县| 丹东市| 广南县| 临洮县| 宁城县| 水富县| 徐州市| 龙江县| 和林格尔县| 越西县| 色达县| 天气| 正定县| 宁南县| 江达县| 江川县| 徐水县| 廉江市| 浦江县| 都江堰市| 杭锦旗| 阜宁县| 河东区| 泰和县| 中宁县| 和平区| 德保县| 交城县| 平乐县| 桓仁| 伊宁县| 河北区| 黄浦区| 高雄县| 西丰县| 分宜县| 温泉县|