5月26日消息,近日,紅帽公司宣布推出紅帽企業Linux 10以及啟動全新開源項目llm-d,以滿足生成式AI(gen AI)未來最關鍵的需求:大規模推理。
據介紹,紅帽企業Linux 10,這是全球領先的企業Linux平臺的演進版本,旨在滿足混合云環境的動態需求,充分發揮AI的變革性力量。
紅帽企業Linux 10的主要新增功能包括以下能力和創新:為混合云做好準備,使用AWS、Google Cloud和Microsoft Azure上,經過預調優、完全支持且可直接運行的紅帽企業Linux鏡像;擴展IT工具包,通過紅帽企業Linux擴展存儲庫,以更安全、更便捷的方式獲取社區支持的軟件;更好地創新;探索新架構以及微調安全策略。
與此同時,紅帽還啟動了全新開源項目llm-d。llm-d采用原生Kubernetes架構、基于vLLM的分布式推理和智能AI感知網絡路由,利用大規模生成式AI推理技術,讓大語言模型推理云能夠滿足最苛刻的生產服務級目標(SLO)。
據悉,該全新開源項目已經獲得了由生成式AI模型提供商、AI加速器先驅和主要AI云平臺組成的強大聯盟的支持。
紅帽總裁兼首席執行官 Matt Hicks表示,紅帽的使命是為客戶提供真正的選擇和靈活性。我們交付的每一層——無論是 Linux、容器還是自動化——都保持開放且值得信賴,讓用戶能放心運行、調整并持續創新。正是這種開放性,催生了 vLLM、Kubernetes、OpenShift 等項目中那種大規模協作與共享標準的生態:社區治理是默認模式,而非例外。
“開源只是一個許可證,除非有社區在背后支持。” 紅帽高級副總裁兼首席產品官Ashesh Badani提到,“我們與 Google、AMD、NVIDIA 以及眾多伙伴共同宣布這一項目。只有在共同創建并持續維護的前提下,開放才真正有意義。”
據紅帽高級副總裁兼首席營收官Andrew Brown透露,客戶非常認可紅帽的這一做法,他們認為紅帽支持任何云、任何連接器、任何模型,沒有鎖定,他們可以快速遷移并擴展。而且一切都建立在開源之上,這進一步加深了客戶的信任。
紅帽合作伙伴生態系統成功高級副總裁Stefanie Chiras表示,生態合作已經寫在了紅帽的基因里,AI時代的到來,讓這種合作變得更加緊密。
AI的未來應當充滿無限機遇,而不應受到基礎設施孤島的限制。紅帽認為,未來,企業可以在任意云環境中的任意加速器上部署任意模型,提供卓越且更加一致的用戶體驗,而無需高昂的成本。為了釋放生成式AI投資的真正潛力,企業需要一個通用推理平臺——一個用以推動當下以及未來數年中,更加無縫、更高性能AI創新的標準。(崔玉賢)