AI Factory 的經驗證設計將加速基礎設施與軟件(包括全新 NVIDIA NIM 微服務和經擴展的 NVIDIA Blueprint)相結合,為各國和企業簡化了全棧式 AI 開發的流程。
歐盟正在投入超過 2000 億美元發展 AI,但若要最大限度獲取投資回報,其開發者必須應對三個關鍵制約因素:計算資源可用性受限、數據隱私需求和安全優先考量。
在 VivaTech 上的 NVIDIA GTC 巴黎主題演講中公布的一套全新 NVIDIA 技術,使開發者在 AI 開發和部署周期的每個階段都能更容易地應對這些挑戰。企業可以使用這些工具在本地或云端構建可擴展的 AI 工廠,快速創建安全、優化的主權 AI 智能體。
擴展的 NVIDIA Enterprise AI Factory 的經驗證設計將 NVIDIA Blackwell 加速的基礎設施與新一代軟件堆棧相結合,為主權 AI 提供了一站式解決方案。
其核心是全新的 NIM,讓企業能夠為各種開放的大語言模型 (LLM) 架構快速部署極速推理,計劃支持 Hugging Face 上托管的超過 10 萬個開放、私有和專業領域的模型。
最上層是全新的 NVIDIA AI Blueprint 和開發者示例。這些內容指導開發者如何在確保強大的安全性、更高程度的隱私保護,并且能夠持續改進的前提下,簡化創建并引入 AI 智能體的過程。
借助這些新工具,包括 AI-Q NVIDIA Blueprint 和用于數據飛輪的 NVIDIA Blueprint,以及基于 NVIDIA NeMo 用于 AI 安全的藍圖,歐洲的機構可以在不影響性能、控制或合規性的前提下大規模構建、部署和運行 AI 工廠。
歐洲大陸的主要企業已經在為近乎所有行業構建 NVIDIA 加速的 AI 工廠。該地區最大的金融公司,包括法國巴黎銀行 (BNP Paribas) 和 Finanz Informatik,正在擴展 AI 工廠來運行金融服務 AI 智能體,以協助員工和客戶。由歐萊雅支持的初創公司 Noli.com 正與埃森哲協作使用其 AI Refinery 開發 AI 美容配對器 (AI Beauty Matchmaker)。IQVIA 正在構建 AI 智能體以支持醫療健康服務。
在電信行業,英國電信集團 (BT Group) 正在使用 ServiceNow 優化客戶服務并解決其網絡中的異常。挪威電信 (Telenor) 正使用其 AI 工廠運行 NVIDIA AI Blueprint,以實現自主網絡配置。
通過企業級 AI 工廠促進 AI 智能體開發
創建主權 AI 智能體的第一步是模型開發,通常使用針對特定用例的區域或企業特定數據。為了訓練、管理和擴展這些模型,主權 AI 開發者需要 AI 工廠的支持。
本地部署的主權 AI 基礎設施在政府、金融和醫療健康等受監管行業中尤其有價值。NVIDIA Enterprise AI Factory 的經驗證設計通過本地部署 AI 工廠(其中每個硬件和軟件層都經過優化),幫助這些行業快速擴展 AI 應用支持能力。
其涵蓋 NVIDIA Blackwell 加速計算(包括 NVIDIA RTX PRO 服務器版)、NVIDIA 網絡和 NVIDIA AI Enterprise 軟件,用于加速生成式和代理式 AI 應用。
多家區域軟件提供商,包括 Adaptive ML、ClearML、Dataloop、Deepchecks、deepset、Domino Data Labs、EnterpriseDB、Iguazio、Quantiphi、Teradata、Weaviate 和 Wiz,正在整合這一經驗證設計,幫助開發者大規模構建和部署企業 AI 智能體。
NVIDIA Enterprise AI Factory 還可以與來自區域合作伙伴的軟件一起使用,包括 aiOla、DeepL、Elastic、Photoroom、PolyAI、Qodo、Sana Labs、Tabnine 和 ThinkDeep 等。
NIM 在 NVIDIA 基礎設施上加速 LLM 部署
準備好部署 AI 模型和智能體后,開發者可以利用 NVIDIA NIM 微服務,在不斷擴展的全球 LLM 中實現加速企業級推理,包括針對特定語言和領域定制的模型。
NIM 微服務即將支持 Hugging Face 上的海量 LLM。NIM 可通過如 NVIDIA TensorRT-LLM、SGLang 或 vLLM 等理想的推理引擎自動優化模型,使用戶只需幾個簡單命令,就能在任意 NVIDIA 加速基礎設施上快速部署他們偏好的 LLM 進行高性能 AI 推理。
Hugging Face 產品副總裁 Jeff Boudier 表示:“NIM 使得在 NVIDIA GPU 上部署 Hugging Face 的各種 LLM 變得容易。通過支持 Hugging Face Hub 上托管的超過 10 萬個開放和私有 LLM,NIM 使開放模型的性能和多樣性助力企業 AI 智能體?!?/p>
企業模型構建商和軟件開發工具創建者 AI21 Labs、Dream Security、IBM 和 JetBrains,以及歐洲研究和創新機構巴塞羅那超級計算中心 (Barcelona Supercomputing Center)、Bielik.AI 和 UTTER,正在以 NIM 微服務形式提供專業的 LLM。
這些經優化的模型支持 35 種區域語言,包括阿拉伯語、捷克語、荷蘭語、德語、希伯來語、法語、波蘭語、葡萄牙語和西班牙語,為開發者構建具有本地語言和文化理解能力的 AI 智能體提供了更多選擇。
NVIDIA 還與歐洲的多個模型構建商和 AI 聯盟協作,使用 NVIDIA Nemotron 技術優化本地模型。
用于更智能、更安全的 AI 智能體藍圖
為助力開發者構建和部署強大、安全的 AI 模型和智能體,NVIDIA 提供了易于遵循的藍圖和開發者示例。這些參考設計使歐洲開發者能夠將模型和智能體連接到專有數據、實施安全策略并持續更新優化,從而根據區域需求進行定制。
AI-Q NVIDIA Blueprint 提供了一份開發代理式系統的指南,該系統具備快速多模態數據提取和強大信息檢索的能力。該藍圖包括 NVIDIA NeMo Agent 工具包,這是一個用于評估和優化 AI 智能體的開源軟件庫。
NVIDIA NeMo Agent 工具包帶來智能的代理式 AI 工作流,并與開放標準兼容,包括模型上下文協議 (MCP),這是一個用于連接 AI 智能體與工具的開源框架。這種集成使其能夠與 MCP 服務器提供的工具實現互操作。NeMo Agent 工具包還與智能體框架集成,包括 CrewAI、LangChain、LlamaIndex、Microsoft Semantic Kernel 和 Weights & Biases。
AI-Q NVIDIA Blueprint 為企業提供了構建領域專用 AI 智能體的基礎,這些智能體可以使用各種企業數據源,根據組織特定需求生成情境化的洞察。NVIDIA 合作伙伴包括 DDN、戴爾科技、慧與、Hitachi Vantara、IBM、NetApp、Nutanix、Pure Storage、VAST Data 和 WEKA 使用 AI-Q NVIDIA Blueprint 將他們的數據平臺連接到 AI 智能體。
用于構建數據飛輪的 NVIDIA AI Blueprint 使企業能夠不斷優化其 AI 智能體,包括用于將推理數據轉化為新的訓練和評估數據集的工具,以及保持高準確性的同時自動篩選優化模型的工具。
基于 NVIDIA AI Enterprise 構建的藍圖整合了生產環境流量和用戶反饋,并觸發重新訓練和重新部署管線,創建了一個持續反饋循環以增強模型性能。由模塊化 NVIDIA NeMo 微服務提供支持,它提供靈活的部署選項,可在本地或是云端的任何加速計算基礎設施上運行。
該藍圖可評估現有和新的候選模型,幫助開發者識別和部署更小、更快的模型,其精度不亞于大型模型。借助此工具,企業可以選擇提高計算效率并降低總擁有成本的模型,獲取更精簡、更具成本效益的 AI。
NVIDIA 合作伙伴 VAST Data、Weights & Biases 和 Iguazio(由麥肯錫旗下 AI 公司 QuantumBlack 收購的 AI 平臺公司),正在基于用于數據飛輪的 NVIDIA AI Blueprint 進行構建,以整合基于其軟件平臺的額外功能,如高階監控能力。
為了幫助企業安全采用開源模型,用于代理式 AI 安全的藍圖提供了一個用于評估和增強模型安全性的框架,涵蓋內容安全、系統安全和隱私保護。
它指導開發者使用 NVIDIA 精選數據集和標準化評估工具,通過后訓練為模型投入使用做好準備。該方案還提供可操作的安全和漏洞指標,涵蓋破解、提示注入和有害內容,使企業能夠加速部署,同時不影響合規性或信任。
企業已準備集成新的 NVIDIA 軟件
包括 ActiveFence、Amdocs、思科、Cloudera、CrowdStrike、IBM、IQVIA、SAP、ServiceNow 和趨勢科技 (Trend Micro) 在內的全球企業正在采用 NVIDIA NIM 微服務和藍圖,加速網絡安全、金融服務、醫療健康、電信等領域的 AI 工作流。
Amdocs 是針對通信和媒體提供商的領先軟件和服務提供商,將 NVIDIA AI Enterprise(包括 NVIDIA NeMo 和 NVIDIA NIM 微服務)用于 Amdocs' amAIz AI 產品和服務套件中。該公司通過 NVIDIA AI Blueprint 在 LLMOps 管線中構建數據飛輪,以實現高效的 LLM 微調。
Amdocs 計劃整合更多 NIM 微服務,以支持用于內容創建、翻譯、網絡自動化和客戶服務的 AI 智能體。
Capgemini、埃森哲、德勤、安永、Infosys、Tata 咨詢服務和 Wipro 等全球系統集成商正在借助 NVIDIA 全棧軟件幫助企業構建其 AI 工廠。
查閱相關軟件產品信息說明:
https://www.nvidia.cn/about-nvidia/terms-of-service/
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.