如今，生成式AI催生的應(yīng)用正在成為人工智能浪潮的主流，但對于企業(yè)來說，要實現(xiàn)生成式AI應(yīng)用的落地還面臨諸多挑戰(zhàn)，如底層算力資源短缺、缺乏合適的模型工具、缺少匹配自身業(yè)務(wù)需要的應(yīng)用等。

面對這些挑戰(zhàn)，亞馬遜云科技為了進一步降低企業(yè)落地生成式AI的門檻，已經(jīng)推出了三層生成式AI技術(shù)棧，分別是基礎(chǔ)設(shè)施層，打造以GPU和自研芯片為代表的基礎(chǔ)設(shè)施；模型工具層，提供以Amazon Bedrock為代表，可以訪問所需基礎(chǔ)模型，以及構(gòu)建和擴展生成式AI應(yīng)用程序的工具；應(yīng)用層，提供可以構(gòu)建開箱即用的生成式AI應(yīng)用程序。

其中，模型工具層對于大部分企業(yè)來說至關(guān)重要，因為企業(yè)在構(gòu)建生成式AI應(yīng)用時，通常是從選擇既有基礎(chǔ)模型入手，而不是直接參與構(gòu)建基礎(chǔ)模型。而發(fā)布于2023年4月的Amazon Bedrock，作為亞馬遜云科技的一項完全托管服務(wù)，就是讓用戶能夠更加安全便捷地訪問市場上全面、高性能、完全托管的基礎(chǔ)模型。

為了進一步降低企業(yè)應(yīng)用生成式AI的門檻，在日前召開的2024 re:Invent大會期間，Amazon Bedrock更是一口氣發(fā)布了21項新特性，包括模型選擇全面升級，成本、速度、準確率全面優(yōu)化，私有數(shù)據(jù)更易使用，以及安全進階新功能和多智能體協(xié)作功能等，這無疑可以讓企業(yè)能夠以更低的成本、更高的效率開發(fā)生成式AI應(yīng)用，加速生成式AI的深入應(yīng)用。

聚焦應(yīng)用痛點，Amazon Bedrock全面進階

亞馬遜云科技基于對客戶需求和生成式AI痛點的深入洞察，已經(jīng)完成了對Amazon Bedrock的全面升級。具體來說，Amazon Bedrock的21項新特性主要集中在以下五個層面：

首先，模型選擇全面升級。除Amazon Nova全家桶外，Amazon Bedrock還引入了LumaAI的Ray2、poolside的malibu和point、Stable Diffusion 3.5，并通過新推出的Amazon Bedrock Marketplace提供100+熱門、新興及專業(yè)模型的訪問權(quán)限，可以滿足更多應(yīng)用場景需要。

其次，成本、速度、準確率全面優(yōu)化。Amazon Bedrock推出了低延遲優(yōu)化推理功能、模型蒸餾、提示詞緩存、提示詞智能路由等功能，能夠有效降低模型推理成本。比如，提示詞緩存功能最高可將成本降低90%，并將延遲最多縮短85%；提示詞智能路由功能將成本降低多達30%；模型蒸餾可實現(xiàn)提速500%，運行成本降低75%。

第三，Amazon Bedrock知識庫新增對結(jié)構(gòu)化數(shù)據(jù)和GraphRAG的支持，并能夠?qū)⒎墙Y(jié)構(gòu)化多模態(tài)數(shù)據(jù)轉(zhuǎn)換為結(jié)構(gòu)化數(shù)據(jù)，從而能夠更方便地利用私有數(shù)據(jù)來定制生成式AI。

第四，Amazon Bedrock推出自動推理檢查功能，能夠防止模型幻覺導(dǎo)致的事實性錯誤。正如亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建所說：“以前大模型缺乏可證明事實的邏輯，導(dǎo)致出現(xiàn)幻覺時難以糾正；但有了自動推理技術(shù)，我們能夠通過數(shù)學驗證方式嚴密證明事實性錯誤是否會發(fā)生，從而有效改善幻覺問題?！?/p>

第五，Amazon Bedrock智能體功能可以讓客戶輕松構(gòu)建智能體，并使其能夠跨公司系統(tǒng)和數(shù)據(jù)源工作；同時支持多智能體協(xié)作，使客戶能夠輕松地構(gòu)建和協(xié)調(diào)專業(yè)智能體來執(zhí)行復(fù)雜的工作流程。

進一步降低生成式AI門檻，釋放AI技術(shù)生產(chǎn)力

對于生成式AI的應(yīng)用，在陳曉建看來，2024年，許多客戶已經(jīng)從思考階段進入實踐階段，并進行了大量場景試驗；進入2025年，客戶將從原型驗證階段邁向生產(chǎn)階段，而亞馬遜云科技開發(fā)Amazon Bedrock的目的不僅是提供模型，更重要的是提供能讓模型推理運行時所需的各種生產(chǎn)力工具和生產(chǎn)環(huán)境工具，這才是Amazon Bedrock的真正價值所在。

亞馬遜云科技CEO Matt Garman表示：“如今，每天都有數(shù)以萬計的客戶在生產(chǎn)應(yīng)用中使用Amazon Bedrock，僅去年其使用量就增長了近5倍。”包括SAP、寶馬、Zendesk、穆迪等多家企業(yè)都正在借助Amazon Bedrock的應(yīng)用，實現(xiàn)人工智能在企業(yè)業(yè)務(wù)場景的落地，并取得了顯著成效。

SAP正在將Amazon Nova模型集成到SAP AI Core生成式AI中心支持的大語言模型（LLMs）家族中，從而使開發(fā)者能夠為SAP的AI助手Joule創(chuàng)建新技能，并利用SAP數(shù)據(jù)中完整的業(yè)務(wù)上下文，安全地構(gòu)建AI驅(qū)動的解決方案，實現(xiàn)自動化、個性化以及供應(yīng)鏈規(guī)劃等高級功能。

寶馬集團將為旗下的My AI Assistant（MAIA）實施GraphRAG，借助由Amazon Neptune支持的GraphRAG自動化圖形建模功能，寶馬集團能夠依據(jù)數(shù)據(jù)使用情況，持續(xù)更新MAIA所需的知識圖譜，從其數(shù)據(jù)資產(chǎn)中提供更具相關(guān)且全面的洞察，進而持續(xù)為數(shù)百萬車主打造優(yōu)質(zhì)體驗。

Zendesk作為一家全球服務(wù)軟件公司，正在借助Amazon Bedrock中用于翻譯的Widn.AI等專用模型，通過電子郵件、聊天、電話以及社交媒體對客戶服務(wù)請求進行個性化和本地化處理，從而讓客服人員能夠更好地理解客戶母語表達中的情緒或意圖等，最終提升客戶服務(wù)體驗。

穆迪公司正在利用Amazon Bedrock創(chuàng)建智能體，為每個智能體分配特定的任務(wù)，并允許其訪問量身定制的數(shù)據(jù)集，以履行其職責。同時，借助Amazon Bedrock多智能體協(xié)作功能來增強公司風險分析工作流程，使公司能夠提供更快、更準確的風險評估，鞏固其作為金融決策領(lǐng)域值得信賴的權(quán)威機構(gòu)的聲譽。

隨著生成式AI逐漸深入應(yīng)用到越來越多的企業(yè)業(yè)務(wù)場景中，Amazon Bedrock憑借廣泛而領(lǐng)先的模型選擇、可輕松基于自身數(shù)據(jù)進行定制的工具、內(nèi)置的負責任的AI功能以及開發(fā)復(fù)雜智能體的能力，正在成為越來越多客戶的選擇。尤其是Amazon Bedrock此次一系列新功能的發(fā)布，可以讓開發(fā)人員輕松地構(gòu)建和擴展生成式AI應(yīng)用程序，并幫助企業(yè)規(guī)避生成式AI應(yīng)用推向核心業(yè)務(wù)時面臨的諸多挑戰(zhàn)，從而進一步降低生成式AI應(yīng)用的門檻，充分釋放生成式AI的潛力。