在過去的一年里，關于大模型的討論已經從學術研究圈擴展到了產業界，甚至進入了政府的議程。這一趨勢也反映在各大上市公司的財報中，越來越多的企業在其年度目標中提及大模型應用。無論是在面對消費者的智能助手，還是在企業級行業應用中的全類模型，人工智能被寄予了重構工作流程的厚望。然而，一個關鍵問題愈發重要：到底是誰在為AI提供可持續且高效的基礎設施？

目前，主流大模型廠商在訓練任務中的數據處理規模已從TB級提升至PB級。在這一過程中，數據調度、訪問頻率、傳輸穩定性以及讀取延遲等因素，成為影響模型效果和商業化效率的關鍵變量。可以說，大模型的能力上限不僅取決于所使用的數據質量，還取決于數據處理的方式和效率。

為了深入探討這一話題，數據猿于6月30日策劃了一場線上直播對話，邀請了中國信通院云計算與大數據研究所高級業務主管田稼豐、華瑞指數云聯合創始人兼CTO曹羽中、傳神語聯副總裁兼研究院院長何征宇共同參與，會議由數據猿聯合創始人兼主編張艷飛主持。

這場線上圓桌對話，聚焦于大模型技術在實際應用中的數據存儲需求、基礎設施挑戰及合作等核心問題，致力于為行業提供有價值的思路與借鑒。

大模型是否過熱？

本次會議先從AI大模型現狀開始聊起。目前，全球范圍內的AI大模型引發了廣泛關注。然而，有人質疑，現階段的AI大模型是否過熱了？尤其是當人們發現，AI大模型有時會出現“幻覺”，給出不準確的答案。現在AI大模型到底能發揮多大的作用？AI大模型的熱度是否被夸大了？

在傳神語聯副總裁何征宇看來，他認同“大模型目前處于過熱狀態”這個說法。他認為，如今大模型的出現并不能立刻帶來顛覆性變革，而是更傾向于大模型是在現有的軟件、生態和數據基礎上進行優化和改造。“無論是多模態大模型還是大語言模型，它們的價值更多在于加成性，而非顛覆性。”他提到，是大模型融入各行業，而不是大模型取代各個行業，大模型應該是滲透型的，而不是顛覆型的。

中國信通院云計算與大數據研究所高級業務主管田稼豐也提到，大模型與各個行業的結合，是釋放其價值的最終形式。不同的行業在大模型的應用上有著各自的特點和挑戰。

他提到，如果將行業大致劃分為數據原生行業和非數據原生行業。數據原生行業如金融和電信，原本在數據方面的能力就很強，積累了大量高質量的數據。因此，在大模型的落地應用上，這些行業進展就會比較快。相反，一些非數據原生行業，面臨數據質量較差、數據采集成本高、多模態處理技術能力不足等問題，這些行業目前還沒有找到大模型與行業結合的成熟范式，仍處于探索階段。

“大模型過熱現象普遍存在，主要表現為高估了大模型在短期內的收益，而低估了其長期價值的傾向。若要充分釋放大模型的數據價值，需要持續優化數據質量、培訓員工能力，并在制度和流程上進行調整。”田稼豐說到，同時也強調，大模型仍處于快速上升期，尚未達到最熱階段。各個行業如農業、制造業、能源和建筑等都在積極探索和建設高質量的信息系統，并嘗試將大模型應用于行業中。“我們觀察到的，目前較為成熟的應用主要集中在營銷、運營和管理等場景，其他場景整體上還比較滯后，總體上處于能力建設階段。”

對于AI是否過熱的問題，華瑞指數云聯合創始人兼CTO曹羽中也談了他的看法：“我的觀點是，作為科技創新者，我們不妨樂觀一些。科技創新領域的過熱并不是壞事，因為它能極大地推動行業進步。歷史上，我們也經歷過一些技術的超級過熱，比如第一代互聯網和移動互聯網。雖然這些泡沫破裂了，但并沒有導致一地雞毛，反而催生了一個繁榮的信息時代。”

對于以大模型為代表的新一代AI技術，曹羽中認為它的發展之路可能比第一代互聯網和移動互聯網更長，因為它覆蓋的應用范圍涉及各行各業。正如其它兩位嘉賓所說，目前大多數行業的數據基礎還非常薄弱，遠未達到支撐AI大規模應用的程度。許多行業甚至連基礎的數字化都尚未完成，仍處于信息化的早期階段。這意味著未來還有巨大的拓展和發展空間，進步的潛力非常大。路還很長，但前景廣闊。

AI大模型商用，對數據存儲提出了哪些“新剛需”與挑戰？

如今，AI大模型的商用化進程正如火如荼推進。大規模的人工智能應用，在各行各業中展示出巨大的潛力，但同時也對數據存儲提出了全新的“剛需”和挑戰。

曹羽中指出，AI訓練需要高性能存儲支持，包括高IOPS、低時延、高并行讀帶寬和高并行寫帶寬，以提升GPU的利用率。如果這些需求得不到滿足，AI訓練的效率和GPU利用率將大大降低，導致資源浪費。在未來的AI應用落地過程中，如何構建AI基礎設施和數字基礎設施仍有許多未知和待探討的領域。

何征宇也認同這一觀點，進入AI和大模型時代后，數據存儲面臨的最大挑戰是帶寬問題。然而，他進一步強調，如何高效利用數據，尤其是在推理環節中，也構成了一大挑戰，“每個行業真正有價值數據，可能并沒有暴露到互聯網上和公開的環境來。”此外，還有另外一個問題，即數據存儲形式，何征宇提到，向量化存儲可能是一種趨勢，但更重要的是發展新的數據庫形式，這些數據庫可以直接與大模型交互。例如，神經網絡本質上也是一種數據庫，將數據存儲在神經網絡中，或者設計成神經網絡數據庫，可以更自然地檢索和存儲數據。

在談到傳統存儲方式時，曹羽中表示，傳統存儲是為信息化時代設計的，包括塊存儲、文件存儲和對象存儲，但這些并不能完全滿足未來AI技術設施的需求。他呼吁針對AI特定業務場景，設計新型的數據接口和存儲能力。他提到基于神經網絡的知識存儲和檢索尚在研究中，但已有良好前景，尤其在推理發展上，探索多級、全局共享的存儲模式將顯著降低算力消耗。

與之呼應，田稼豐從數據量及存儲擴展性角度出發，指出以Meta的Llama 3為例，其在參數數量和訓練數據量上雖然不及OpenAI的GPT-3.5，但在公開基準測試中表現更佳，這凸顯了訓練數據集的重要性。他強調，AI系統的首要需求是具備海量數據的存儲能力和良好的擴展性。

在數據帶寬和訪問效率方面，田稼豐與曹羽中、何征宇不謀而合，認為這對AI集群的可用性至關重要，尤其在推理階段更為明顯。此外，田稼豐還提到存儲服務的穩定性在GPU訓練過程中極為重要，頻繁的檢查點操作要求存儲服務能夠有效保障數據安全。

最后，田稼豐提到成本問題和安全性問題。在大模型訓練中，存儲成本占整體訓練成本的10%至20%，因此優化存儲策略以平衡技術與成本是必要的。“最后一個，我想補充的就是安全問題，其實國家出了這個三法，對于安全有些非常明確的一些要求。一方面可能在大模型訓練過程中可能會有一些數據竊取，會面臨一些相關風險。另一方面，可能有一些新的數據攻擊，比如說像數據里加入一些噪音，給你一些加入一些扭曲意識形態的內容，導致這個模型的質量下降，出現幻覺，最終干擾模型最終訓練的結果。所以我覺得，數據存儲安全性也是一個很重要的考量點。”

數據安全、隱私保護，

如何在模型與存儲協同中落地？

在數據驅動時代，數據安全和隱私保護成為AI大模型與數據存儲協同落地過程中不可忽視的重要議題。隨著大模型在各行業的深入應用，如何在服務客戶的過程中確保數據的機密性和完整性，成為企業面臨的重大挑戰。

一、存儲系統的連續性、可靠性與安全性

曹羽中指出，存儲系統的連續性和可靠性至關重要。在傳統存儲領域，企業關鍵業務和核心業務的數據，如OLTP交易型數據，必須保證極高的可靠性和一致性。但在大數據時代，新興的存儲方案為了滿足大數據的需求，可能在連續性保障上有所欠缺，因為它們處理的是離線數據，實時性要求較低。此外，安全性問題也變得更加復雜。在大模型生態圈中，如何保證企業級數據不被未經授權的人通過大模型訓練或查詢獲取，是一個尚未完全解決的問題。曹羽中分享到：“我們的一些實踐經驗表明，企業內部的重要數據不應全部用于AI訓練，即使模型部署在企業內部。關鍵數據需要脫敏處理，不能直接作為訓練集的一部分。”他還提到，在與客戶合作時，會將權限管理機制內置到AI代理和MCP（Multi-Cloud Platform）中。通過這樣的設計，即使通過代理查詢外部數據，也能遵循原有的權限管理，確保數據安全，而不是依賴模型內部的權限管理，這樣更為合理。

何征宇補充道，大模型和AI的出現帶來了新的安全性挑戰。即使進行了脫敏和隱私處理，也很難完全清潔數據，因為目前沒有統一的標準。真正企業的核心數據不會被拿去外部進行訓練。此外，大模型本身無法有效管理權限，因為數據訪問權限經常變化。因此，依賴MCP或其他機制，通過不同接口訪問不同數據，定義明確的權限，是行之有效的方法之一。另一種方法是將不同數據存儲在不同區域，為大模型設置權限網格，確保數據安全。何征宇還指出，訓練過程中的安全控制是最容易出問題的方面。目前，整個行業對數據獲取和數據價值保護的重視程度日益提高，數據保護的措施也越來越嚴格。然而，這種趨勢也帶來了負面影響，即高質量數據在公開網絡上的可獲得性將會減少。

二、模型參數問題與技術路徑

曹羽中進一步闡述了大模型的參數問題。他認為，當前大模型的參數量之所以如此龐大，部分原因是它實際上壓縮了互聯網上的知識。盡管這些知識經過壓縮，但大模型依然能回答許多與互聯網相關的問題。然而，這種壓縮是有損的。因此，在企業內部應用大模型時，未必需要將整個互聯網的知識都壓縮成模型參數。未來企業的應用仍然需要依賴外部數據源，通過結合代理和MCP等方式，將內部和外部數據源串聯起來，利用大模型的能力對數據進行解析和決策。從這個角度來看，模型可以更加精煉，而不必依賴龐大的參數。曹羽中指出，從存儲的角度來看，大模型的參數量并不需要過于龐大。實際上，小參數與高質量的數據同樣能夠滿足訓練需求。曹羽中解釋道：“我們更關注大模型與代理（Agent）的結合。這兩者如何有效地組合，以實現企業內部數據的讀寫、解析和決策，是我們研究的重點。”

當然，也存在另一種觀點，認為隨著模型參數的增加，智能會出現涌現現象。有些人認為，參數量的增加會顯著提升AI的智能，甚至有可能使通用人工智能逐漸實現。目前，對通用人工智能的期待仍然寄托在模型參數的擴大上。如果這一方向依然有效，行業將繼續朝這個方向努力。這是兩個維度的考慮。

何征宇表示：“未來更科學的方式可能是通過小參數模型與企業本地數據結合，既能保證安全性，又能提高實用性。”他還提到，嘗試實現數據和推理分離，將客戶數據訓練到專門的神經網絡中，這樣可以在確保安全的同時提高實用性。

田稼豐補充道，雖然大模型在賦能業務方面具有巨大潛力，但在一些特定的專業場景中，傳統的小模型依然表現出色。例如，在通信行業的反詐應用中，基于傳統機器學習和大數據分析的小模型體系已經非常成熟，并且在判斷潛在詐騙電話方面效果顯著。相比之下，將大模型應用到這些場景中，其效果未必比傳統的小模型更好。田稼豐還指出，目前企業在大模型開發和智能應用開發過程中，正走向兩條不同的道路。一方面，像OpenAI、阿里和騰訊等公司，依舊追求更大參數量和更多數據量的傳統路徑，希望將更多知識存儲到大模型中。另一方面，隨著DeepSeek等新技術的出現，越來越多的企業開始打破高算力和高投入是發展人工智能唯一方式的認知，轉而基于開源基模開發自己的L1甚至L2大模型。

這些企業傾向于使用相對較小的數據量和蒸餾模型，再結合自身的知識庫進行開發。田稼豐總結道：“我們觀察到，很多企業并不需要龐大的參數和數據量，只需結合專業化的知識庫和更適合自身AI集群的小模型，便能實現高效且低成本的發展。”

三、企業數據處理變革與數據存儲優化

在傳統的信息化時代，企業處理數據的過程非常復雜，需要大量的代碼和懂業務的人員與程序員共同開發信息系統，以完成數據的增、刪、改、查以及生成報表等任務。然而，隨著大模型與代理的結合，企業數據處理領域迎來了全新的變革。未來，模型與代理將能夠直接訪問統一的數據底座，這個底座可能包含數據庫和大規模的非結構化數據。通過模型交易的方式，企業能夠直接解析并檢索這些數據，實現智能決策。這一過程將跳過中間繁瑣的步驟，不再需要大量程序員和業務人員共同努力來理解全業務流程并進行復雜編程，從而完成數據處理。

這種轉變意味著數據存儲廠商需要在更大程度上優化數據通道和管理效率，使得模型和代理能夠以最高效的方式直接訪問數據，進行解析和決策。

共建“模型+數據”協同生態，

廠商如何形成可持續合作機制？

如今，高質量數據與安全隱私之間的平衡似乎很難把握，尤其是隱私計算和密態計算的推進。在交流中，有嘉賓也提到，目前的階段可能還沒有達到計算層面。大家現在的重點更多是構建自身的高質量數據集，主要供自身模型使用。據了解來看，涉及高質量數據對外開放的案例非常少。這主要是由于數據本身的敏感性，整體機制仍需完善。

田稼豐認為，國家在政策方面的推動至關重要。目前，許多企業不愿意開放自身數據的核心原因在于潛在的風險。政府或國有企業擁有大量定義明確的公共數據，但開放這些數據往往得不到批準。因此，需要在體制和機制上進行創新，讓企業愿意開放和利用自己的數據。同時，國家也在持續推動高質量數據的建設，這對各行業的數據智能應用和Agent的開發至關重要。

曹羽中指出，作為AI數據平臺的重要基礎組件，為了實現大規模應用，需要與AI信息領域的其他組件進行廣泛的生態合作。這包括與GPU、AI推理框架、算力調度平臺等進行兼容性互認證、平臺對接和接口互通。例如，與英偉達的GPU生態進行對接，通過GDS實現框架來訪問外部存儲的數據。曹羽中還強調，積極參與開源生態，與主流的開源框架進行對接，將數據存儲平臺嫁接到這些生態中，是實現合作的重要途徑。

何征宇則從數據體系的技術生態和物理生態角度出發，強調數據安全和隱私問題需要從最基礎的存儲層面解決。他認為，技術體系的自主可控是保障數據安全的關鍵，并提出通過推動原創聯盟來促進國產自研技術的發展。此外，何征宇還提到，隨著大模型的發展，數據共享方式將變得更加豐富，大模型可以作為數據共享的中介，以更保密和隔離的方式實現數據價值提取。

總之，要共建“模型+數據”協同生態，關鍵在于政策推動、體制機制創新、高質量數據建設、廣泛的生態合作以及技術體系的自主可控。通過這些措施，大模型廠商與數據基礎設施廠商可以建立起可持續的合作機制。

Agent是否過熱？

今年，除了大模型之外，另一個備受關注的熱點就是AI Agent。無論是數據Agent、BI Agent，還是各種客服類Agent，AI Agent的熱度都超出了許多人的預期。

一方面，AI Agent的熱度確實非常高，但另一方面，這也可能僅僅是其發展的初期階段。因此，關于AI Agent的定義和理解存在多種觀點。到底什么才是真正的AI Agent？它與傳統軟件甚至IP之間有何不同？

田稼豐認為，AI Agent是一種相對新的形式。“我們對AI Agent的定義是，將大模型的語言理解、內容生成、分析和推理等能力具體化，形成具備感知、記憶、決策和交互能力的智能系統，從而實現流程的自動化和決策的智能化。”田稼豐補充，信息系統的普世化一直是一個永恒的主題。我們希望能讓更多用戶使用新的系統，比如過去的大數據系統使數據開發人員能夠更輕松地進行數據開發。同樣，AI Agent的出現可以讓更多一線業務人員使用智能系統。例如，在通信領域，網格業務經理可以通過AI Agent進行智能數據分析和決策。這種技術的普及能顯著提升工作效率。“雖然目前AI Agent的關注度很高，但也合理。正如曹總所說，科技工作者應該對技術保持樂觀的態度。這是我們對AI Agent的整體看法。”

何征宇認為，現在的Agent還處于覺醒階段，遠未達到過熱的程度。相對于大模型來說，Agent的應用還顯得不夠熱。事實上，Agent的概念早已被提出，當時的設想非常理想化，與大模型出現后的期望基本一致。“Agent本身被稱為智能體，它不僅是完成某項功能的工具，更是具備一定智能，能夠主動規劃和組合資源來完成任務。理想情況下，比如我計劃去廣州出差，Agent可以自動查天氣、訂票、叫車，甚至安排早餐。這些功能通過大模型是可以實現的，只需明確每個動作和參數。然而，當前的Agent未能充分發揮其潛力，主要原因在于缺乏完善的基礎設施和友好的接口。”

他提到，MCP是一個很好的開端，但許多服務尚未開放相應接口。只有這些接口開放后，Agent的價值才能真正顯現。通過Agent，大模型不僅能處理數據和聊天，還能發揮更大的實用價值。未來，Agent有望成為大模型的主要應用場景，智能地處理各種任務。MCP作為Agent的基礎設施，相當于為Agent提供了手腳，而Agent則將大腦與手腳連接起來，實現全面的智能服務。

呼吁和建議

在AI大模型加速落地的背景下，數據安全、隱私保護與存儲架構正面臨前所未有的挑戰。圍繞這些關鍵議題，三位來自產業一線的專家在會議上進行了深入探討，并提出了面向未來的呼吁。

中國信通院的田稼豐強調，高質量數據建設是當前最緊迫的任務。雖然國家政策持續推動相關工作，但許多企業在理解目標和落地路徑上仍顯迷茫。他指出，數據資產的構建不能只停留在概念層面，更需明晰標準、制定機制，并推動企業間交流與協作。

傳神語聯的何征宇則聚焦數據價值的開放。他認為，當前企業對數據的重視程度不斷提高，真正有價值的數據，應該在保障歸屬權和使用權的前提下，通過多樣化手段實現“價值開放”，從而激活整個數據生態。

華瑞指數云的曹羽中則系統梳理了AI時代下企業數據基礎設施的三層升級需求：

1)構建高性能、可擴展的存儲底座，以滿足訓練和推理的帶寬與延遲要求；

2)打通全流程數據管道，避免因數據在多個系統間反復遷移而降低效率；

3)建立新型數據結構，支持AI對生產數據和分析數據的融合使用，實現實時共享和向量化檢索。

他指出，企業當前在AI應用上的短板，并非算力不足，而是數據基礎設施未跟上AI發展的節奏。隨著GPU替代CPU成為核心計算資源，傳統的存儲架構也亟需變革。

三位專家共同呼吁，AI能否落地，不僅取決于算法和模型，更取決于數據的質量、流通機制和底層設施的協同演進。這不僅是一場技術升級，更是一次組織結構與數據治理能力的深層變革。

綜上，AI走到了一個臨界點，模型仍在進化，但基礎設施開始拖后腿。算力已不稀缺，數據成了瓶頸。它不僅決定了模型能看到什么，也決定了它理解到哪里、落地到多深。過去，數據是存儲的內容；現在，它是訓練的燃料、決策的依據、系統的接口。

真正的挑戰不是“有沒有數據”，而是“數據能不能被調動起來”。這需要新的結構，新的制度，和新的合作方式。模型之外，另一個戰場正在打開。