科技傳教士們樂(lè)于將“AI將吞噬世界”掛在嘴邊——一句化用自風(fēng)險(xiǎn)投資家馬克·安德森（Marc Andreessen）關(guān)于軟件的名言。在過(guò)去的幾周里，我們終于開(kāi)始理解他們的意思了。

今年春天，科技公司們已經(jīng)明確表明，無(wú)論人們是否愿意，AI 將成為網(wǎng)絡(luò)生活的決定性特征。首先，Meta給了用戶一個(gè)驚喜，在Instagram和Facebook搜索欄中上線了AI 聊天機(jī)器人。隨后該公司通知?dú)W洲用戶，他們的數(shù)據(jù)正在被用來(lái)訓(xùn)練AI（這一通知顯然只是為了遵守歐洲大陸的隱私法）。OpenAI則發(fā)布了GPT-4o，宣稱這是更強(qiáng)大且更擅于對(duì)話的大語(yǔ)言模型的新版本。[其發(fā)布會(huì)有一個(gè)名為Sky的 AI 語(yǔ)音選項(xiàng)——斯嘉麗·約翰遜（Scarlett Johansson）聲稱該語(yǔ)音是在未經(jīng)許可的情況下基于她的聲音制作的，這一指控被OpenAI CEO薩姆·奧特曼（Sam Altman）否認(rèn)。]與此同時(shí)，谷歌推出其搜索引擎的“AI概覽”（AI Overviews）功能（在某種程度上又削減了該功能）。OpenAI還與《大西洋月刊》等媒體組織和Reddit等平臺(tái)建立新的內(nèi)容合作伙伴關(guān)系，這一做法基于AI 產(chǎn)品很快將成為網(wǎng)上接收信息的主要方式的假設(shè)。生產(chǎn)用于支持AI應(yīng)用的微芯片公司Nvidia在五月底報(bào)告了創(chuàng)紀(jì)錄的收益，其市值增加到超過(guò) 3 萬(wàn)億美元。其CEO黃仁勛在臺(tái)北的 AI 會(huì)議上得到了搖滾明星般的待遇，并且，呃，像摩托車手樂(lè)隊(duì)（m?tley crüe）的成員一樣在一位女士的胸部上簽名。

AI的部署速度令人眩暈，甚至令人警覺(jué)——對(duì)于一些最了解這項(xiàng)技術(shù)的人也是如此。本周早些時(shí)候，OpenAI及谷歌的員工和前員工發(fā)表了一封信，聲明“強(qiáng)大的財(cái)務(wù)激勵(lì)”使行業(yè)規(guī)避了有意義的監(jiān)督。相同的激勵(lì)似乎也導(dǎo)致公司生產(chǎn)了大量垃圾產(chǎn)品。例如Humane和Rabbit等公司的聊天機(jī)器人硬件，被吹捧為試圖取代智能手機(jī)的產(chǎn)品，卻在幾乎無(wú)法工作的狀態(tài)下發(fā)貨。谷歌急于推出的AI概覽功能——試圖與微軟、Perplexity和OpenAI競(jìng)爭(zhēng)——導(dǎo)致了荒謬的缺陷和潛在的危險(xiǎn)搜索結(jié)果。

Humane Ai Pin

Humane

換句話說(shuō)，科技公司正在爭(zhēng)先恐后地爭(zhēng)奪資金和市場(chǎng)份額，并因此犯下了不必要的錯(cuò)誤。不過(guò)，雖然科技公司可能搭建了這輛炒作列車，其他人則樂(lè)于搭上便車。各行各業(yè)的領(lǐng)導(dǎo)者正簽署支票和達(dá)成協(xié)議，害怕錯(cuò)過(guò)下一個(gè)大事件。或許他們并不知道自己究竟陷入了什么，也不知道是否在無(wú)意中幫助了最終將摧毀他們的公司。據(jù)報(bào)道，《華盛頓郵報(bào)》的首席技術(shù)官Vineet Khosla已經(jīng)告訴員工，該公司打算在新聞編輯部“廣泛使用AI”，即使AI對(duì)新聞的價(jià)值在我看來(lái)還未經(jīng)證實(shí)，且只是起到裝飾性的作用。我們正在目睹飛機(jī)在空中倉(cāng)促組裝的情形。

作為最近與OpenAI簽署協(xié)議的出版物之一的員工，當(dāng)生成性AI把饕餮的目光投向你所在行業(yè)的一個(gè)小角落時(shí)，我對(duì)這是什么感覺(jué)有些許了解。當(dāng)AI吞噬世界時(shí)，感覺(jué)如何？感覺(jué)就像被困住了。

這些媒體合作關(guān)系中有一種感覺(jué)像是勒索。科技公司肆無(wú)忌憚地訓(xùn)練大語(yǔ)言模型，聲稱從互聯(lián)網(wǎng)上收集內(nèi)容以開(kāi)發(fā)程序是合理的使用。這是硅谷經(jīng)典的“先行后許”（Ask for forgiveness, not for permission）增長(zhǎng)策略的邏輯終點(diǎn)。以一種憤世嫉俗的方式來(lái)看待這些合作關(guān)系，媒體公司有兩個(gè)選擇：接受金錢，或接受 OpenAI扒拉他們的數(shù)據(jù)。這些條件更像是一場(chǎng)人質(zhì)談判，而不是一場(chǎng)雙方都能接受的商業(yè)伙伴關(guān)系——這是媒體高管們?cè)谒较聦?duì)彼此，偶爾也在公開(kāi)場(chǎng)合中所作的觀察。

出版物顯然可以拒絕這些交易。他們有其他選擇，但這些選擇，用一個(gè)技術(shù)術(shù)語(yǔ)來(lái)說(shuō)，不是很好。你可以起訴OpenAI和微軟侵權(quán)，就像《紐約時(shí)報(bào)》所做的那樣，希望設(shè)立一個(gè)法律先例，讓提取式生成性AI公司為用于訓(xùn)練模型的任何作品公平地支付版權(quán)費(fèi)用。這個(gè)過(guò)程對(duì)許多組織來(lái)說(shuō)代價(jià)高昂，如果輸了，他們除了法律賬單外一無(wú)所獲。這就留下了第三個(gè)選擇：完全根據(jù)原則放棄生成性AI革命，阻止OpenAI這類公司的網(wǎng)絡(luò)爬蟲(chóng)，并在你的競(jìng)爭(zhēng)對(duì)手屈服并拿錢時(shí)，采取正當(dāng)?shù)牡赖铝?chǎng)。這第三條路徑需要賭一把生成性AI時(shí)代被過(guò)度炒作的希望，賭《紐約時(shí)報(bào)》贏得官司，或賭政府介入調(diào)控這種提取業(yè)務(wù)模式——也就是說(shuō)，這是不確定的。

出版商面臨的情況似乎完美地說(shuō)明了一個(gè)更廣泛的動(dòng)態(tài)：沒(méi)有人確切知道該怎么辦?？紤]到生成性AI是一種迄今為止以模糊和不一致為特征的技術(shù)，這一點(diǎn)并不令人驚訝。谷歌用戶第一次遇到 AI 概覽時(shí)可能不明白它們是干什么的，或者它們是否比通常的搜索結(jié)果更有用。同時(shí)，現(xiàn)有工具與我們被告知的未來(lái)之間也存在差距。我們被告知，創(chuàng)新曲線將是指數(shù)級(jí)的。我們被警告，范式即將改變。我們被告知，普通人幾乎別無(wú)選擇，特別是隨著電腦規(guī)模的擴(kuò)大和增強(qiáng)：當(dāng)我們與這個(gè)被承諾的未來(lái)的概念較勁時(shí)，我們只能體驗(yàn)一種低級(jí)別的迷惘。與此同時(shí)，世界各地的ChatGPT正被科技公司強(qiáng)加給我們，這些公司堅(jiān)持認(rèn)為這些工具在某種程度上應(yīng)該有用。

但這些媒體合作關(guān)系有一個(gè)替代的框架，表明這是為困境中的媒體組織提供審慎機(jī)會(huì)的時(shí)刻。出版商早已是算法的供應(yīng)商，而媒體公司幾十年來(lái)一直在做虧本生意，允許像谷歌這樣的平臺(tái)索引他們的網(wǎng)站，僅僅換來(lái)流量指引。在這種邏輯下，與OpenAI簽約不是屈服或好生意：這是一種反擊平臺(tái)并設(shè)定規(guī)則的方式：你必須為我們的內(nèi)容付費(fèi)，如果你不付費(fèi)，我們就起訴你。

在過(guò)去的一周中，我與幾家與OpenAI協(xié)商過(guò)的不同公司的高管進(jìn)行了對(duì)話，我了解到這家科技公司對(duì)出版商數(shù)據(jù)訓(xùn)練其模型的興趣不大，而更關(guān)心實(shí)時(shí)訪問(wèn)新聞網(wǎng)站以供OpenAI即將推出的搜索工具使用。（我同意保持這些高管的匿名，以便他們可以自由地談?wù)撍麄児镜慕灰住＃?duì)科技公司來(lái)說(shuō)，獲得出版商合作伙伴數(shù)據(jù)在兩個(gè)方面有幫助：首先，它允許OpenAI在用戶詢問(wèn)敏感問(wèn)題時(shí)引用第三方組織，這意味著OpenAI可以聲稱其產(chǎn)品中沒(méi)有做出編輯決定。其次，如果該公司有志于取代谷歌成為占主導(dǎo)地位的搜索引擎，它需要最新的信息。

我被告知，媒體組織可能在持續(xù)談判中擁有籌碼：理論上，OpenAI將繼續(xù)需要更新的新聞信息。其他搜索引擎和AI公司想要競(jìng)爭(zhēng)，也需要這些信息，只是現(xiàn)在已經(jīng)有了一個(gè)先例，他們應(yīng)該為此付費(fèi)。這可能會(huì)為出版商創(chuàng)造一條持續(xù)的收入流，通過(guò)許可獲得。這并不是前所未有的：唱片公司曾與YouTube等平臺(tái)在版權(quán)問(wèn)題上進(jìn)行過(guò)斗爭(zhēng)，并找到了獲得補(bǔ)償?shù)姆绞剑辉掚m如此，新聞組織并不是在販賣泰勒·斯威夫特的歌曲。（OpenAI 和《大西洋月刊》的發(fā)言人確實(shí)向我澄清，根據(jù)為期兩年的合同，科技公司可以在《大西洋月刊》的內(nèi)容上訓(xùn)練其產(chǎn)品。但如果交易結(jié)束后未續(xù)簽，OpenAI 將不得使用大西洋數(shù)據(jù)訓(xùn)練新的基礎(chǔ)模型。）

拉遠(yuǎn)鏡頭，即便是這種樂(lè)觀的思考方式也變得困難重重。我們真的想生活在一個(gè)由生成性AI公司在網(wǎng)上控制信息流動(dòng)的世界中嗎？從搜索引擎到聊天機(jī)器人的過(guò)渡將是極大的顛覆。谷歌是不完美的，其產(chǎn)品可以說(shuō)是在退化，但它通過(guò)允許優(yōu)化的內(nèi)容觸達(dá)觀眾，為網(wǎng)絡(luò)創(chuàng)意工作提供基礎(chǔ)商業(yè)模型。也許搜索范式需要改變，網(wǎng)頁(yè)變成遺跡也是自然的。然而，這種顛覆的規(guī)模和科技公司建議每個(gè)人都加入的輕率態(tài)度，給人的印象是AI開(kāi)發(fā)者并不關(guān)心對(duì)可持續(xù)模式的探尋，以讓創(chuàng)意工作繁榮發(fā)展。正如朱迪斯·多納思（Judith Donath）和布魯斯·施耐爾（Bruce Schneier）最近在《大西洋月刊》撰文所寫的那樣，AI“威脅要破壞復(fù)雜的在線生態(tài)系統(tǒng)，這個(gè)系統(tǒng)允許作家、藝術(shù)家和其他創(chuàng)作者觸達(dá)受眾”。遵循這種邏輯，事情很快就會(huì)變得存在主義：如果人們不能通過(guò)創(chuàng)作來(lái)謀生，他們還有什么動(dòng)力去創(chuàng)作呢？

如果你感覺(jué)你的大腦在頭骨內(nèi)開(kāi)始扭曲，那你就完全體驗(yàn)到了生成性AI革命闖入你的行業(yè)的感覺(jué)。這就是真正的顛覆感覺(jué)。它是混亂的。它是倉(cāng)促的。你被告知這是一個(gè)充滿機(jī)會(huì)的激動(dòng)人心的時(shí)刻，即使實(shí)際意義上并不十分明確。

沒(méi)有人知道接下來(lái)會(huì)發(fā)生什么。生成性AI公司已經(jīng)構(gòu)建了一些工具，盡管這些工具在提高生產(chǎn)力方面很受歡迎并且名義上有用，但它們只是構(gòu)建人類級(jí)智能這一終極目標(biāo)的微弱影子。然而，這些公司資金充足，行事激進(jìn)，并能利用令人窒息的炒作周期來(lái)積累權(quán)力，并以明確的目的沖進(jìn)任何行業(yè)，使自己成為中心角色。這一時(shí)刻的技術(shù)成就是否值得顛覆，還是炒作慢慢消退，留下的互聯(lián)網(wǎng)比現(xiàn)在更破碎？經(jīng)過(guò)近兩年最新一輪AI炒作之后，唯一清楚的是，這些公司不需要構(gòu)建“天網(wǎng)”來(lái)破壞。

AI吞噬世界是技術(shù)擁躉用來(lái)描述這一過(guò)程的一種勝利而激動(dòng)人心的說(shuō)法。但這不是唯一的解讀方式。人們可以以一種威脅性的方式解讀它，作為對(duì)迅速?gòu)?qiáng)勁的“殖民化”的戰(zhàn)斗口號(hào)。最近，我聽(tīng)到這一說(shuō)法時(shí)的語(yǔ)調(diào)是無(wú)奈的，那種伴隨著聳肩和被迫攤手的語(yǔ)調(diào)。未說(shuō)出口的是，當(dāng)原材料——食物——被消耗和消化，營(yíng)養(yǎng)成分被提取出來(lái)后，會(huì)發(fā)生什么。我們沒(méi)有大聲說(shuō)出來(lái)，但我們知道它會(huì)變成什么。

作者：Charlie Warzel

翻譯：EY

封面：Photo by Denny Müller on Unsplash

原文：https://www.theatlantic.com/technology/archive/2024/06/ai-eats-the-world/678627/