近年來,隨著人工智能技術的飛速發展,大模型在金融行業的應用正逐步走向深化,成為推動金融業務智能化轉型的關鍵力量。從智能投顧、風險控制到客戶服務,大模型技術憑借其強大的數據處理能力和深度學習能力,正在重塑金融行業的服務模式和業務流程。特別是在2025年,隨著國產大模型技術的不斷突破,金融大模型的應用前景更加廣闊,為行業帶來了前所未有的發展機遇。
長江證券信息技術部大模型算法負責人吳克乾
日前,2025金融大模型應用與智能體建設研討會在京隆重召開,會議匯聚了金融行業與人工智能領域的眾多專家學者,共同探討大模型技術在金融行業的應用現狀與未來趨勢。長江證券信息技術部大模型算法負責人吳克乾在會上發表了精彩演講,詳細分享了長江證券在基于大模型的智能應用平臺建設方面的探索與實踐,為與會者提供了寶貴的經驗與深刻的啟示。
一、大模型技術崛起:金融行業的智能化轉型引擎
1.大模型技術的快速發展與迭代
吳克乾首先回顧了大模型技術的崛起歷程。自2022年GPT系列模型發布以來,大模型技術快速迭代,國產大模型(如DeepSeek、千問)在自然語言處理、計算機視覺等領域實現性能突破,并逐步應用于金融業務場景。國產大模型如DeepSeek、千問等在模型訓練上取得了顯著進展,不僅在自然語言處理、計算機視覺等領域表現出色,還在金融行業特有的業務場景中展現出強大的應用潛力。
2.金融行業對大模型技術的迫切需求
隨著金融行業的數字化轉型加速,傳統業務模式面臨諸多挑戰,如數據處理效率低、客戶服務個性化不足、風險控制能力有限等。大模型技術憑借其強大的數據處理能力和深度學習能力,能夠有效解決這些問題,提升業務處理效率,降低運營成本,提高服務質量。因此,金融企業需通過大模型技術解決數據處理效率低、客戶服務個性化不足等痛點,以提升風險控制能力與市場競爭力。
二、長江證券“長江靈曦”平臺:構建金融大模型的智能應用生態
1.平臺構建背景與戰略意義
面對大模型技術的快速發展和金融行業的迫切需求,長江證券決定構建基于大模型的智能應用平臺——“長江靈曦”。吳克乾介紹,平臺的建設旨在解決大模型應用中的成本高、模型多、業務繁等問題,通過統一算力納管、模型評測與選擇、低代碼開發等創新手段,提升業務處理效率,推動金融業務的智能化轉型。平臺的成功構建不僅為長江證券內部業務提供了強有力的支持,也為金融行業的大模型應用提供了可借鑒的范例。
2.平臺架構設計與技術實現
①算力調度層:混合算力的統一管理
在算力調度層,“長江靈曦”平臺兼容了華為、寒武紀等主流GPU,通過構建混合算力資源池,實現了對多個異構算力資源的統一管理和靈活調度。平臺引入PD分離分布式推理技術,使千問14B模型推理時延下降48%,高端GPU與終端GPU分工優化后,復雜計算任務處理效率提升近一倍。據吳克乾介紹,該技術使得千問14B模型的推理時延下降了48%,顯著提高了業務處理效率。
②模型層:多模型評測與選擇機制
針對市場上通用大模型和金融垂類大模型數量眾多、迭代快速的問題,“長江靈曦”平臺構建了大模型評測平臺。平臺構建大模型評測體系,利用專屬業務數據集(含清洗標注的公司特有數據)評估模型性能,結合業務子場景標簽與推薦算法,動態匹配最優模型。
③應用開發層:低代碼開發與智能體搭建
在應用開發層,“長江靈曦”平臺封裝了常用模型能力和業務系統組件,通過可視化編排方式實現低代碼開發。吳克乾提到,平臺提供了智能體開發框架,集成了搜索、文檔解析、音頻轉換等通用AI能力組件,并結合內部數據查詢系統和業務接口,使得員工能夠輕松完成智能體的開發和部署。目前,已有超過400名員工參與智能體開發,完成了1300多個智能體的開發,覆蓋了多個業務部門。
三、“長江靈曦”平臺在金融業務中的深度應用與成效
1.辦公場景:智能會議紀要與PPT生成
在辦公場景中,“長江靈曦”平臺推出了智能會議紀要系統“E閃記”和WPS插件“ai-to-ppt”?!癊閃記”能夠通過多輪對話完成會議預定、音頻轉寫、紀要撰寫和共識提煉,并打通員工任務平臺,自動提取待辦事項并推送給相關責任人。而“ai-to-ppt”插件則能根據用戶輸入的主題和要求,自動生成符合公司模板風格的PPT文件,極大提高了PPT制作效率。
2.營銷場景:AI營銷服務與精準推薦
在營銷場景中,“長江靈曦”平臺為銷售人員提供了AI營銷服務系統。該系統根據客戶畫像、自選偏好和投資行為等特征,結合金融產品特征,為客戶推薦合適的產品。同時,系統還提供聊天輔助功能,提升服務質量。據統計,該系統覆蓋長江證券超1000名一線銷售人員,節省營銷人員60%的時間。
3.知識檢索場景:結構化知識管理與高效檢索
針對知識庫構建和信息檢索的需求,“長江靈曦”平臺開發了大模型知識管理底座。該底座通過文檔解析技術對各種來源的信息進行結構化拆解,結合多模態大模型抽取圖表信息,形成結構化知識和實體關系,并存儲在圖譜數據庫中。在檢索階段,結合語義檢索、圖譜檢索和推理模型,提高檢索的準確率和完整性。據吳克乾介紹,該底座在運營業務中實現了企業知識庫的升級,提高了知識積累速度和回答準確率。
4.投研場景:智寫研報與高效分析
在投研場景中,“長江靈曦”平臺的“智寫研報”功能顯著提升了研報撰寫效率。系統對研報、公眾號文章、圖表等進行關系分析,抽取重點事件、政策和有效圖片。
研究員輸入主題信息后,系統能夠自動檢索素材并生成報告初稿。平臺基于內部研報、公開市場數據及第三方資訊,結構化整理4000余份核心素材,抽取6000余個重點事件(如政策變動、行業趨勢)與24000余張圖表,使研究員素材檢索時間縮短70%。
四、未來展望:多智能體協同與通用智能的探索
1.多智能體協同策略:構建智能策略團隊
吳克乾對未來金融大模型應用的發展進行了展望。他提到,目前人工智能技術正處于從認知階段向自主智能過渡的時期,單智能體模式在面對復雜或動態變化環境時難以靈活調整策略。因此,多智能體協同策略成為未來發展的重要方向。通過分工合作,各智能體能夠完成各自任務,系統生成大量因子或策略,并根據回測表現不斷優化效果。這相當于擁有了一個不間斷工作的策略團隊,為金融業務提供持續的支持。
2.通用智能的探索:一鍵生成報告系統的設想
吳克乾還提到了通用智能的探索,例如一鍵生成報告系統,實現素材自動抓取、數據分析與圖表生成。該系統能夠自動在線搜集素材、調用業務數據庫生成報告,并進行數據分析和圖表繪制。
雖然目前這些設想仍處于探索階段,但他對未來通用智能在金融業務中的應用充滿期待。他認為,隨著技術的不斷進步和應用的深化,通用智能將在金融業務中發揮越來越重要的作用。
五、結語:長江證券的探索與實踐為金融行業樹立標桿
長江證券通過‘長江靈曦’平臺驗證了大模型在金融業務中的降本增效能力,其混合算力調度、低代碼開發等實踐為行業提供了可復制的技術框架。通過構建“長江靈曦”平臺,有效解決了大模型應用中的成本高、模型多、業務繁等問題,提升了業務處理效率和服務質量。
未來,隨著多智能體協同和通用智能技術的不斷發展,金融大模型應用將迎來更加廣闊的發展前景。長江證券將繼續深化探索與實踐,推動金融業務的智能化轉型,為金融行業樹立標桿,引領行業邁向更加智能化的未來。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.