如今的大模型產(chǎn)業(yè)正進(jìn)入一個(gè)關(guān)鍵時(shí)刻:泡沫破裂,還是落地改變世界。
Gartner數(shù)據(jù)顯示,2024 年僅有 41% 的生成式 AI 試點(diǎn)項(xiàng)目能夠成功進(jìn)入生產(chǎn)階段,更直觀來說,59%的生成式AI落地,都死在了路上。這是一個(gè)尷尬的數(shù)據(jù)。
亞馬遜全球副總裁、亞馬遜云科技大中華區(qū)總裁儲(chǔ)瑞松也有提到,從技術(shù)能力與現(xiàn)實(shí)來看,過去一年,生成式AI真的爆發(fā)了。
但技術(shù)爆發(fā)的量變,到引起產(chǎn)業(yè)的質(zhì)變,有一道關(guān)于落地的鴻溝。如果繼續(xù)維持現(xiàn)狀,那么大概率產(chǎn)業(yè)的演化,會(huì)如同過往Gartner曲線的走勢(shì),短暫的泡沫之后,進(jìn)入又一次漫長衰退。前進(jìn)一步,則大模型可以造福一半企業(yè),成為新的社會(huì)基礎(chǔ)設(shè)施。
為了避免AI的故事一次又一次重蹈覆轍,早在2023年亞馬遜云科技就成立了一個(gè)秘密組織,生成式AI創(chuàng)新中心,讓350 位戰(zhàn)略顧問、應(yīng)用科學(xué)家、數(shù)據(jù)科學(xué)家、開發(fā)人員和專家?guī)椭蛻糁贫ㄉ墒?AI 戰(zhàn)略,并協(xié)助他們構(gòu)建生成式 AI 解決方案,以實(shí)現(xiàn)業(yè)務(wù)成果。
而這個(gè)秘密組織,如今已經(jīng)來自不同行業(yè)的客戶提出的超過 1500 個(gè)項(xiàng)目需求,推動(dòng)82%+客戶從 PoC 到量產(chǎn)。
也就是說,在亞馬遜云科技上,生成式AI已經(jīng)率先翻過了技術(shù)的Gartner死亡谷,進(jìn)入產(chǎn)業(yè)發(fā)展的穩(wěn)步增長期。
那么亞馬遜云科技憑什么翻過Gartner死亡谷?秘密組織生成式AI創(chuàng)新中心的經(jīng)驗(yàn)是什么?
所有答案都藏在正在進(jìn)行中的2025 亞馬遜云科技中國峰會(huì)上。
Gartner死亡谷里藏著什么?
在儲(chǔ)瑞松看來:歷史上蒸汽機(jī)放大和解放了人的肌肉,落地紡織、交通、采礦和冶煉,帶來了工業(yè)革命;如今,機(jī)器智能放大和解放人的大腦智力,帶來下一場(chǎng)革命。
而且,與歷史上的前幾輪AI泡沫不同,2023年崛起的生成式AI浪潮中,技術(shù)的成熟度,早已跨過了從實(shí)驗(yàn)室到工業(yè)生產(chǎn)的門檻。峰會(huì)現(xiàn)場(chǎng)儲(chǔ)瑞松展示,無論測(cè)試多個(gè)學(xué)科領(lǐng)域的MMLU、測(cè)試科學(xué)領(lǐng)域的GPQA、測(cè)試真實(shí)世界軟件工程相關(guān)問題的SWE-bench還是推出的HLE — Humanity’s Last Exam(人類的最終考試),模型的能力早已隱約展現(xiàn)出了巨大的潛力。
既然技術(shù)不是問題,那么為什么市面上59%的項(xiàng)目,都倒在了爆發(fā)的前夜。
兩年多的實(shí)踐經(jīng)驗(yàn),優(yōu)秀的生成式 AI成功原因百花齊放,但是黃掉的項(xiàng)目,卻大多教訓(xùn)雷同。總結(jié)來說有四點(diǎn)
教訓(xùn)一:場(chǎng)景選錯(cuò),不是所有問題都值得用AI解決
許多企業(yè)在AI項(xiàng)目啟動(dòng)時(shí),犯的第一個(gè)錯(cuò)誤就是“為AI而AI”。高頻詞是“增強(qiáng)效率”“提升智能化”“優(yōu)化工作流程”,但缺乏對(duì)場(chǎng)景價(jià)值的量化認(rèn)知。
一個(gè)很典型的例子是:很多公司希望通過大模型提升客服效率,于是部署了GPT接口替代基礎(chǔ)問答模塊,但因缺少專有數(shù)據(jù)增強(qiáng)與業(yè)務(wù)上下文處理,模型表現(xiàn)甚至不如原有基于規(guī)則的FAQ系統(tǒng)。結(jié)果就是大模型胡說八道,人類跟在身后補(bǔ)鍋道歉。不僅沒有如愿達(dá)到成本降低,反而帶來了不少的不必要麻煩。
教訓(xùn)二:模型錯(cuò)配,大模型唯參數(shù)、唯最優(yōu)論
亞馬遜云科技全球技術(shù)總經(jīng)理 Shaown Nandi觀察到,基礎(chǔ)模型的進(jìn)展以周為單位,永遠(yuǎn)會(huì)有層出不窮的更強(qiáng)大、更具成本效益和更快速的模型發(fā)布。但不會(huì)存在一個(gè)模型能適用于所有用例的情況。更多企業(yè)需要的其實(shí)是定制模型的能力,以及有選擇的權(quán)利,因此在Amazon Bedrock中,亞馬遜云科技托管了全球各大主流大模型企業(yè)的基礎(chǔ)模型,從數(shù)千億甚至萬億參數(shù)的巨型模型到只有幾百萬參數(shù)的小型模型均有覆蓋。
亞馬遜云科技全球技術(shù)總經(jīng)理 Shaown Nandi
但現(xiàn)實(shí)中,往往很多團(tuán)隊(duì)都會(huì)盲目擁抱市面上最大、最貴、指標(biāo)最亮眼的模型,忽略了實(shí)際業(yè)務(wù)對(duì)時(shí)延、成本和精度的多維需求,導(dǎo)致項(xiàng)目盲目上馬之后,最后又潦草下臺(tái)。
教訓(xùn)三:ROI不可控,沒人知道項(xiàng)目值不值,導(dǎo)致不敢上馬
事實(shí)上,多數(shù)生成式AI項(xiàng)目失敗的最終歸宿,往往不是技術(shù)掛了,而是領(lǐng)導(dǎo)覺得看不到價(jià)值。在技術(shù)團(tuán)隊(duì)視角里,模型能跑通、響應(yīng)速度OK、可以調(diào)優(yōu)就意味著項(xiàng)目完成;但在業(yè)務(wù)部門眼中,沒有明確指標(biāo)提升、沒有看得見的成本優(yōu)化,項(xiàng)目就等于實(shí)驗(yàn)室玩具。
過程中,基礎(chǔ)模型、使用場(chǎng)景的數(shù)量和負(fù)載特征、模型的定制和調(diào)優(yōu)策略能做到什么水平,需要讓決策層有概念,執(zhí)行層有目標(biāo);最終帶來了什么效果,不僅要肉眼可見,也需要數(shù)據(jù)可量化,成本能算清。
教訓(xùn)四:沒有完善的成果檢測(cè)閉環(huán),項(xiàng)目靜默暴斃
基于前三個(gè)問題的背景,最后導(dǎo)致的結(jié)果就是很多生成式AI項(xiàng)目上馬之后,做出來沒人用,也找不到原因,沒辦法升級(jí)迭代,導(dǎo)致陷入靜默暴斃狀態(tài)。尤其是項(xiàng)目后期維護(hù)需要成本,怎么說服老板繼續(xù)投入,很多團(tuán)隊(duì)連個(gè)評(píng)估框架都沒有。
一句話總結(jié)來說,如今的生成式AI已經(jīng)度過了認(rèn)知普及階段,但大部分項(xiàng)目黃在了前期不會(huì)選,中期不會(huì)用,后期沒閉環(huán)上。
爬出死亡谷,亞馬遜云科技的兩重準(zhǔn)備與四大秘籍
關(guān)于如何爬出死亡谷,見證了亞馬遜云科技幫助國內(nèi)上千項(xiàng)目落地后,儲(chǔ)瑞松將問題拆解成了自上而下與自下而上兩個(gè)角度。
“在我與很多客戶的溝通中能觀察到,越來越多的企業(yè)都想擁抱AI 、Agentic AI,但卻不知道從何開始。我認(rèn)為,企業(yè)需要做好雙重準(zhǔn)備。”
自上而下,是管理。高層擁抱生成式AI和Agentic AI時(shí)需要有明確的認(rèn)知和頂層設(shè)計(jì),要在機(jī)制和人才上做準(zhǔn)備,要認(rèn)清之前企業(yè)信息化、數(shù)字化的工作和時(shí)代的關(guān)系。
自下而上,是技術(shù)。技術(shù)又可以被分為三點(diǎn),其一是統(tǒng)一的AI就緒的基礎(chǔ)設(shè)施,過去一度甚囂塵上的多云策略,其有限的連接性會(huì)導(dǎo)致企業(yè)出現(xiàn)業(yè)務(wù)孤島、數(shù)據(jù)孤島,導(dǎo)致最終體驗(yàn)大打折扣。其二是聚合的、經(jīng)過治理的數(shù)據(jù),如今模型調(diào)用已經(jīng)沒有門檻,企業(yè)獨(dú)有的差異化的來源只有數(shù)據(jù),數(shù)據(jù)只有通過聚合與高效管理,才能產(chǎn)生價(jià)值。其三則是高效的策略和快速高效地執(zhí)行。
而多數(shù)項(xiàng)目之所以最終靜默暴斃,除了已經(jīng)客觀存在的管理、企業(yè)基礎(chǔ)設(shè)施以及數(shù)據(jù)之外,最大的問題就出在策略與執(zhí)行上。
圍繞策略與執(zhí)行,亞馬遜云科技還把過往項(xiàng)目執(zhí)行中的四大“爬坑”經(jīng)驗(yàn)做了總結(jié):
首先是針對(duì)場(chǎng)景,亞馬遜云科技給出七大評(píng)估維度與十一大場(chǎng)景總結(jié),七大評(píng)估維度包括團(tuán)隊(duì)、時(shí)間節(jié)點(diǎn)、可行性、預(yù)算、風(fēng)險(xiǎn)、ROI、數(shù)據(jù)是否支持;場(chǎng)景則包括翻譯、運(yùn)營、寫作、角色扮演、教輔、辦公、客服、開發(fā)、審核、知識(shí)助手、運(yùn)維。也就是說,團(tuán)隊(duì)只有滿足了七大維度評(píng)估標(biāo)準(zhǔn),項(xiàng)目上馬才會(huì)更安全,圍繞十一大成熟場(chǎng)景做落地,成功的概率也會(huì)更高。此外,圍繞場(chǎng)景,亞馬遜云科技還給出了成熟案例參考,加速團(tuán)隊(duì)的創(chuàng)新。
確定了項(xiàng)目可以上馬后,接下來常見的問題是選型階段的技術(shù)錯(cuò)配。亞馬遜云科技的實(shí)踐經(jīng)驗(yàn),技術(shù)選型需要從模型層、數(shù)據(jù)層和技術(shù)方案層三個(gè)維度進(jìn)行系統(tǒng)性考慮。
在數(shù)據(jù)層,企業(yè)需要考慮:如何做分析、如何做管理、如何做切分和優(yōu)化;技術(shù)層,企業(yè)應(yīng)該善于使用MCP、多Agent工具調(diào)用框架等方案,提升開發(fā)效率。最重要的是模型層,通常來說,企業(yè)在速度/時(shí)延、成本、精度這三大因素中,往往只需要三選其二即能滿足需求。
一個(gè)正面案例是,F(xiàn)reeWheel在廣告識(shí)別場(chǎng)景中對(duì)比評(píng)估了Nova Lite、GPT-4 mini與Claude 3 Haiku等多個(gè)模型。結(jié)果顯示,在延遲、輸出穩(wěn)定性與推理成本的綜合對(duì)比下,精度反而不是唯一決定因素。最終他們選擇了精度中上、推理速度極快、成本可控的方案,以實(shí)現(xiàn)批量部署與高頻調(diào)用的目標(biāo)。
選型過程定好方案后,項(xiàng)目正式開始落地,此時(shí)的關(guān)注重點(diǎn)應(yīng)該是ROI。為避免ROI不可控,亞馬遜云科技給出了六大階段、三個(gè)層面不同解決思路。圍繞六大階段,關(guān)于如何做用例、評(píng)估、POC、生產(chǎn)、規(guī)模化、治理,亞馬遜云科技都進(jìn)行了細(xì)化。三層則是模型層、提示詞層、基礎(chǔ)設(shè)施層,亞馬遜云科技也給出了專門的優(yōu)化策略。
上馬之后,團(tuán)隊(duì)需要繼續(xù)關(guān)注的是是否完成成果檢測(cè)閉環(huán),亞馬遜云科技同樣給出了質(zhì)量評(píng)估、性能評(píng)估、應(yīng)用效果等不同維度的數(shù)據(jù),幫助企業(yè)衡量系統(tǒng)在實(shí)際場(chǎng)景中的效果、成本與用戶接受度。
總結(jié)來說,讓項(xiàng)目前期有預(yù)期,中期有選擇,后期有優(yōu)化,每一步都有憑有據(jù)有效果,是多數(shù)成功生成式AI項(xiàng)目落地的共同經(jīng)驗(yàn)。而過程中,亞馬遜云科技就是那個(gè)保駕護(hù)航和幫助提供選擇和指標(biāo)的加速器。
為什么是亞馬遜云科技
為什么多數(shù)企業(yè)都選擇亞馬遜云科技成為其生成式AI轉(zhuǎn)型路上的加速器?
不同企業(yè)的答案,各有千秋。
比如在咨詢公司德勤看來。 他們使用Amazon Q Developer來評(píng)估架構(gòu)決策、檢查和記錄代碼、生成代碼、創(chuàng)建單元測(cè)試,并持續(xù)審查和執(zhí)行安全實(shí)踐,不止讓開發(fā)的速度提高了40%,測(cè)試時(shí)間減少了70%,代碼質(zhì)量有了很大提升,更是解放了開發(fā)人員不用再做那些枯燥的工作,讓工作變得更加有價(jià)值。
再比如,在WPS看來,WPS AI(海外版)通過Amazon Bedrock,進(jìn)行語義檢查與文檔潤色,模型的快速響應(yīng)大幅提升了修改速度,減少用戶等待時(shí)間,還實(shí)現(xiàn)了PPT一鍵生成、一句話擴(kuò)寫PPT大綱、文檔轉(zhuǎn)PPT大綱、自動(dòng)模板匹配等特色功能,解決了其出海過程中的研發(fā)、成本、用戶體驗(yàn)多個(gè)困擾。
但總結(jié)來說,亞馬遜云科技帶給企業(yè)的,不只是一朵云,更是基于這一朵云的更低成本、更高水平安全合規(guī)、更多經(jīng)驗(yàn)、與更多AI能力的提供。
眾所周知,云服務(wù)的本質(zhì)是一個(gè)講究規(guī)模效應(yīng)的產(chǎn)業(yè)。而對(duì)生成式AI落地來說,更是如此,實(shí)驗(yàn)室創(chuàng)新需要天馬行空,量產(chǎn)需要大量經(jīng)驗(yàn)積累,大力出奇跡。而亞馬遜云科技作為全球第一大云,已經(jīng)覆蓋全球245個(gè)國家和地區(qū),與下一大云服務(wù)提供商相比,擁有三倍以上的數(shù)據(jù)中心數(shù)量。此外,亞馬遜云還以99.99%的超高可用性,成為中國唯一達(dá)到“四個(gè)九”標(biāo)準(zhǔn)的云服務(wù)提供商。
不只是規(guī)模大,亞馬遜云科技的另一大特點(diǎn)在于能力更全。現(xiàn)實(shí)中,多數(shù)企業(yè)都有轉(zhuǎn)型意識(shí),卻沒有轉(zhuǎn)型能力,甚至更夸張來說,只有數(shù)據(jù),沒有能力。而亞馬遜云科技過去18個(gè)月推出的機(jī)器學(xué)習(xí)和生成式AI功能數(shù)量較全球主要云服務(wù)提供商的總和多出近兩倍。同時(shí),提供覆蓋企業(yè)生成式AI創(chuàng)新所需的基礎(chǔ)設(shè)施、構(gòu)建工具以及開箱即用型應(yīng)用程序的全棧能力。
僅僅算力側(cè),亞馬遜云科技除了能為客戶提供來自Nvidia的最新GPU計(jì)算實(shí)例,還能提供亞馬遜云科技自研的高性價(jià)比、低能耗自研AI芯片Trainium。
數(shù)據(jù)側(cè),亞馬遜云科技提供的全面大數(shù)據(jù)能力,包括數(shù)據(jù)湖、數(shù)據(jù)倉庫、數(shù)據(jù)流、實(shí)時(shí)分析,能夠幫助客戶打破數(shù)據(jù)孤島,統(tǒng)一治理異構(gòu)數(shù)據(jù),實(shí)現(xiàn)基于數(shù)據(jù)的業(yè)務(wù)洞察。
而在最重要的AI層面,亞馬遜除了是全球Gen AI轉(zhuǎn)型的先行者,同時(shí)亞馬遜云科技還能提供領(lǐng)先的模型和工具,包括Amazon Bedrock平臺(tái),Amazon Q,Amazon Transform,Strands Agents SDK等簡(jiǎn)單易用、功能完善強(qiáng)大的開發(fā)工具。此外,亞馬遜云科技還宣布2025年投入約1000億美元用于其人工智能項(xiàng)目的研發(fā)。其中大部分將用于AI相關(guān)項(xiàng)目,涵蓋AWS的數(shù)據(jù)中心、網(wǎng)絡(luò)設(shè)備、AI硬件以及生成式AI服務(wù)能力建設(shè)。
事實(shí)上,亞馬遜云科技能夠常年保持龍頭地位,除了更早的投入與更專注之外,另一大公開秘籍其實(shí)是善于分享。
對(duì)內(nèi)是生成式AI創(chuàng)新中心幫助伙伴成功;對(duì)外則是在中國峰會(huì)中分享經(jīng)驗(yàn),幫助更多企業(yè)順利轉(zhuǎn)型。讓企業(yè)生成式AI落地從59%的死亡率,變成82%的成功率,讓更多企業(yè)基于亞馬遜云科技,加速創(chuàng)新的發(fā)生,用整體的進(jìn)步來做大蛋糕。
本內(nèi)容為作者獨(dú)立觀點(diǎn),不代表虎嗅立場(chǎng)。未經(jīng)允許不得轉(zhuǎn)載,授權(quán)事宜請(qǐng)聯(lián)系 hezuo@huxiu.com
本文來自虎嗅,原文鏈接:https://www.huxiu.com/article/4484340.html?f=wyxwapp
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.