當前，AI 和云原生技術已經成為推動企業創新與發展的兩大核心力量。隨著 AI 模型的復雜度不斷增大，企業正面臨前所未有的技術挑戰。一方面，AI 模型對計算資源的需求彈性極大，傳統的資源管理方式難以滿足其動態變化的需求；另一方面，大規模集群的調度性能和質量問題、云原生系統的可觀測性不足，以及大模型應對突發流量的挑戰等問題，也給工程師們帶來了巨大的壓力。

5 月 17 日，字節跳動云原生技術沙龍將在字節上海辦公區正式啟動。本次沙龍匯聚了多位來自字節跳動、嗶哩嗶哩、螞蟻集團的技術大咖，共同探討 AI 時代下的云原生技術，有哪些前沿解決方案與實踐經驗。

立即報名

時間：2025 年 5 月 17 日（周六）14:00-17:00

地點：字節跳動上海工區（上海市楊浦區民府路 678 號新江灣廣場 T2A 號樓 F1-01）

精彩議題搶先看

議題一：AIBrix：專為 vLLM 打造的可擴展、高性價比控制面

• 時間：14:00-14:30

• 嘉賓：謝立廣 Director of Engineering, ByteDance；徐樂 Researcher, ByteDance

2025 年 2 月 21 日，vLLM 通過官方博客宣布，由字節跳動開發的 AIBrix 大模型推理系統開源，為 vLLM 推理引擎提供可擴展且高性價比的控制面。AIBrix 基于“系統與推理引擎協同設計”的理念，核心目標是以云原生方式在 Kubernetes 上構建可擴展的推理系統。

本次演講將分享 AIBrix 推理系統的技術架構與創新點，展示 AIBrix 是如何幫助企業更加輕量、彈性地構建面向生產的 LLM 推理服務的。

議題二：嗶哩嗶哩在離線容器調度系統實踐

• 時間：14:30-15:00

• 嘉賓：戴一帆 嗶哩嗶哩資深開發工程師

隨著業務的快速增長，傳統的調度方式在資源利用率、任務調度效率以及多場景適配性方面逐漸面臨挑戰。為此，嗶哩嗶哩進行了深度的技術優化與架構升級。

本次演講將深入分享嗶哩嗶哩在離線容器調度系統中的實踐經驗，全面展示聯邦調度架構設計、資源感知調度優化以及混部資源調度能力建設的實戰成果，為行業提供高效調度與資源優化的參考范例。

議題三：G?del Rescheduler：適用于云原生系統的全局最優重調度框架

• 時間：15:00-15:30

• 嘉賓：宋心怡 字節跳動云原生資深工程師

在云原生調度中，一次調度往往無法解決所有問題，需要配合重調度來優化資源分配和任務擺放。為此，字節跳動研發了 G?del Rescheduler——一個基于全局最優調度策略的重調度框架。它不僅能識別集群中的異常節點和任務，還能智能推薦任務到最合適的位置，并通過圖算法生成詳細的遷移步驟，確保集群的整體穩定性，真正實現全局最優調度。

本次演講將分享 G?del Rescheduler 的設計理念與技術實現，揭示其如何通過全局最優調度策略，解決傳統調度中的資源碎片化和任務擺放不合理問題。

議題四：Karpor: 開啟 AI 時代下可靠、安全、智能的多集群洞察之旅

• 時間：15:50-16:20

• 嘉賓：陳在 螞蟻集團云原生技術專家，KusionStack 開源負責人、Maintainer

隨著云原生技術的普及和企業多云戰略的推進，Kubernetes 集群的管理面臨跨云和多集群場景的一些新挑戰。同時，AI 的快速發展為提升運維效率提供了新思路。螞蟻集團開發的 Karpor，作為 KusionStack 平臺工程技術棧的一環，致力于簡化 Kubernetes 的復雜性。以數據面作為切入點，優化多集群運維體驗，降低使用門檻，結合高效的可視化洞察手段和 AI 能力提升人效。

本次演講將分享 Karpor 的設計理念與實踐，探討如何助力企業高效擁抱云原生與 AI 的融合。

圓桌對話

在圓桌對話環節，將齊聚多位技術大咖，圍繞大規模集群的調度性能和調度質量問題、云原生可觀測性的現狀與未來、云原生基礎設置如何助力大模型應對突發流量挑戰、AI 浪潮下工程師工作方式的革新與堅守多個熱門話題展開討論。

議題一：如何平衡大規模集群的調度性能和調度質量問題

大規模集群的調度在追求高性能的同時，也面臨著調度質量的挑戰。一方面，高效的調度算法能夠快速分配資源，提升任務執行速度；另一方面，調度質量的高低直接影響系統的穩定性和資源利用率。

圍繞這一話題，嘉賓們將深入探討如何在大規模集群中平衡調度性能與調度質量，分享他們在實際應用中的經驗與策略。

議題二：云原生可觀測性的現狀與未來

云原生架構的復雜性使得可觀測性成為保障系統穩定運行的關鍵。當前，云原生可觀測性已經從基礎的日志、指標和追蹤發展到更智能化的分析和預測。展望未來，可觀測性的發展仍面臨諸多挑戰。

圍繞這一話題，嘉賓們將分享云原生可觀測性的現狀、面臨的挑戰以及未來的發展方向。

議題三：云原生基礎設置如何助力大模型應對突發流量挑戰

大模型的訓練和推理對計算資源的需求極高，尤其是面對突發流量時，云原生基礎設施的彈性伸縮能力至關重要。通過容器化和編排技術，云原生基礎設施可以快速分配資源，確保大模型的穩定運行。

圍繞這一話題，嘉賓們將探討云原生基礎設施如何支持大模型應對突發流量挑戰，分享他們在實際部署中的經驗和最佳實踐。

議題四：AI 浪潮下工程師工作方式的革新與堅守

AI 技術的快速發展正在深刻改變工程師的工作方式。一方面，自動化工具和智能助手能夠幫助工程師更高效地完成任務；另一方面，工程師需要不斷提升自身的 AI 素養，以更好地利用這些工具。

圍繞這一話題，嘉賓們將探討 AI 浪潮下工程師工作方式的革新與堅守，分享他們對于 AI 時代工程師能力的看法。

點擊【閱讀原文】報名，與技術領袖共同探索 AI 時代下的云原生技術。5 月 17 日，上海見！