生成式AI時代，云計算廠商的價值正在被重新定義。從云上AI基礎設施提供方，逐步升級為企業一站式AI生產力賦能平臺。

2024 re:Invent大會期間，亞馬遜云科技推出全新升級的Amazon Bedrock。作為全托管的生成式AI服務，Amazon Bedrock一舉發布21項新特性，成為涵蓋模型選擇、生產環境、訓練和推理工具、創建智能體的一站式AI平臺。

亞馬遜云科技將生成式AI分為三層技術棧體系：基礎設施層、模型工具層、應用層，Amazon Bedrock是其中最重要的模型工具層。Amazon Bedrock承載了全球100+主流模型，并通過成本、速度、準確率全面優化，不斷降低企業應用生成式AI的門檻。

通過五個方面的升級，Amazon Bedrock為云廠商如何在AI時代重塑競爭力探索了方向。

一個平臺，一站式接入100+主流基礎模型

Amazon Bedrock在模型接入的豐富程度上處在業界領先水平。這背后的底層邏輯是，亞馬遜云科技致力于讓企業有更多自由選擇空間，可以根據不同場景選擇更匹配的基礎模型。

2024 re:Invent，Amazon Bedrock新加入了亞馬遜自研的六款Amazon Nova系列模型，以及Stability AI的Stable Diffusion 3.5 Large、視頻生成模型Luma AI的Ray 2、軟件工程模型poolside的malibu和point等模型。

亞馬遜云科技還推出了Amazon Bedrock Marketplace，可接入上百個受歡迎的新興模型和專業模型。包括Mistral AI的Mistral NeMo Instruct 2407、Technology Innovation Institute的Falcon RW 1B以及NVIDIA NIM微服務等熱門模型。此外，還有眾多專業模型，如用于金融行業的Writer的Palmyra-Fin、用于翻譯的Upstage的Solar Pro、Camb.ai的文本轉音頻MARS6以及用于生物學的EvolutionaryScale的ESM3生成模型等。

“如今，每天都有數以萬計的客戶在生產應用中使用Amazon Bedrock，僅去年其使用量就增長了近5倍。”亞馬遜云科技CEO Matt Garman表示。

全球領先的軟件企業SAP將Amazon Nova模型集成到自身大語言模型（LLMs）家族中，方便開發者為SAP的AI助手Joule創建新技能，實現自動化、個性化以及供應鏈規劃等高級功能。

成本、速度、性能全面優化，降低企業AI應用門檻

成本、速度、性能是企業選擇模型的三大要素。企業在應用生成式AI技術過程中，都希望找到一個能平衡性能、成本和延遲的最佳組合。

Amazon Bedrock推出提示詞緩存、提示詞智能路由、模型蒸餾三項新功能，極大降低企業使用成本。

提示詞緩存功能最高可將成本降低90%，并將延遲最多縮短85%。借助Amazon Bedrock上的提示詞緩存功能，Adobe的Acrobat AI助手實現了將響應時間縮短72%。

提示詞智能路由功能，使客戶能夠配置 Amazon Bedrock 自動把提示詞分配至同一模型系列里的不同基礎模型，以優化響應質量和成本。

模型蒸餾能把大模型的知識轉移到小模型上，同時保留小模型的性價比。借助Amazon Bedrock模型蒸餾功能，任何客戶都可以蒸餾出自己的模型，與原始模型相比，被蒸餾模型的速度可以提高500%，運行成本降低75%，在檢索增強生成（RAG）等用例中，準確性損失低于2%。

此外，Amazon Bedrock還推出了低延遲優化推理功能，用戶指定推理請求優先級后，平臺就可以自動處理，為支持的指定模型提供優化的性能。

“我們開發Amazon Bedrock的目的不僅是提供模型，更重要的是提供能讓模型推理運行時所需的各種生產力工具和生產環境工具，這才是Amazon Bedrock的真正價值所在。”亞馬遜云科技大中華區產品部總經理陳曉建表示。

結構化數據檢索和GraphRAG，提升模型性能

多模態數據處理和圖數據庫是企業構建生成式AI必不可少的能力。

Amazon Bedrock知識庫新增的結構化數據檢索功能使客戶能夠直接查詢其生成式AI應用程序中結構化數據的存儲位置。借助這項新功能，提示詞信息會轉換為SQL查詢，用于檢索數據結果。

Amazon Bedrock知識庫還新加入的對GraphRAG的支持功能，可生成更具相關性的響應，讓客戶無需具備圖數據庫專業知識，即可使用Amazon Neptune圖數據庫服務自動生成圖譜。這大大簡化了構建RAG應用的步驟,能夠更便捷地生成更準確、更相關的響應，借助知識圖譜識別相關聯系，并查看源信息以了解模型如何得出特定響應。

寶馬集團借助由Amazon Neptune支持的GraphRAG自動化圖形建模功能，持續更新其人工智能助手MAIA所需的知識圖譜，從其數據資產中提供更具相關且全面的洞察，為數百萬車主打造優質體驗。

自動推理檢查，降低模型幻覺

即使是能力最強的模型也會產生幻覺，提供不正確或誤導性的響應?；糜X仍然是大模型落地的一個根本挑戰，限制了企業對生成式AI的信任。

Amazon Bedrock Guardrails新推出自動推理檢查功能，該功能可讓Amazon Bedrock驗證事實響應的準確性，生成可審計的輸出，并向客戶清晰展示模型得出結果的原因。

“有了自動推理技術，我們能夠通過數學驗證方式嚴密證明事實性錯誤是否會發生，從而有效改善幻覺問題?！标悤越ū硎尽?/p>

多智體協作，讓生成式AI駕馭復雜任務

隨著生成式AI的加速落地，更多復雜的任務和場景需要，需要大量各具專長的智能體高效協作。然而，很多企業并不具備創建協調多個智能體系統的專業能力。

Amazon Bedrock多智能體協作功能，讓企業可以通過為項目的特定步驟創建和分配專用智能體，從而獲得更準確的結果，并通過編排多個并行工作的智能體來加速任務。

穆迪公司是信用評級和金融洞察領域的全球領導者，已選擇Amazon Bedrock多智能體協作功能來增強其風險分析工作流程。

可以看出，Amazon Bedrock升級的五大方面都是切中當下企業應用生成式AI的痛點。在推動生成式AI在各行業的廣泛應用方面，Amazon Bedrock引領云廠商從傳統的基礎設施提供者向一站式AI賦能平臺升級，探索了云廠商在AI浪潮中重塑競爭力的全新路徑。