文/中國銀行原行長李禮輝

可信任的數字金融應具備模型可信、解釋性強、安全防護能力高等特性，同時需要明確金融智能體的法律地位、行為邊界和責任關系。金融業應采用行業級垂直模型與企業級垂直模型融合發展的技術路線，支持科技企業與金融機構深度合作，共建數字金融生態圈。

中國大模型發展的新突破

前面四位主講嘉賓來自于中國最大、最好的金融機構和科技大廠，他們的演講非常有示范意義和指導意義。這里我就可信任的數字金融說一說自己粗淺的認知。

最近幾個月，大家特別關注的還是中國深度求索發布的開源的DeepSeek-V3。全球大模型評比榜單、AI集成平臺等不同機構給予DeepSeek-V3很高的評價，認為與GPT-4o性能不分伯仲，很多方面的表現位列全球前幾名。中國其它的大模型也做得特別好，例如阿里巴巴的通義。

輿論更多關注的是財務因素。據財聯社消息，DeepSeek-V3訓練成本不到600萬美元，而GPT-4o訓練成本高達1億美元。專業人士更加關注的是算法的創新，DeepSeek的算法優化包括MLA多頭潛在注意力機制、MoE混合專家架構等。算法創新應該是我國未來人工智能發展的非常重要的、具有中國特有競爭力的領域，對金融機構來說意義重大。

國內市場特別關注高端芯片的自主化，我觀察到的是去年11月華為批量出貨的昇騰910B，其半精度（FP16）的算力、整數精度（INT8）的算力都比英偉達的A100略高一點，重要的是910B采用的是自主架構，能效比高于A100 25%左右。

前一個月我參加了另外一場研討會，會上一位專家認為，DeepSeek是工程范式的升級，為AI推理開辟了“小數據+精算法”的高效路徑，顛覆了大模型必須依賴巨額投入的傳統認知，對于我國AI發展具有戰略意義。另一位專家認為，DeepSeek并沒有否定尺度定律關于大模型規模與性能正相關的核心邏輯，通過效率革命拓展應用邊界。

我個人認為，中國主導的算法創新和高端芯片突破應該是我國獨立自主、節約高效的人工智能發展道路上的里程碑。國內的芯片企業、云平臺、電信運營商、國家超算互聯網平臺都在迅速進行適配，形成了模型即服務、側端部署等應用模式，并用于優化垂直模型。

AI技術的陷阱與挑戰

雖然看到了這些進步，但我們還要特別關注，生成式AI和推理式AI的技術陷阱依然存在。歸納下來主要是幾個方面。

首先，存在比較突出的安全風險。例如，國家網絡安全通報中心3月初通報了大模型工具Ollama在本地部署DeepSeek等大模型時的安全風險：（1）無鑒權機制，未授權用戶能隨意訪問模型，調用服務，獲取信息；（2）數據竊取，攻擊者通過特定接口可獲取模型的license等敏感數據；（3）惡意攻擊，攻擊者可利用Ollama框架歷史漏洞實施數據投毒、參數竊取、惡意文件上傳和關鍵組件刪除等操作，影響模型服務的核心數據、算法完整性和運行穩定性。

其次，并沒有消除模型幻覺。測試發現，Grok-3、GPT-4、DeepSeek-V3都存在一定程度的幻覺率。

第三，到現在為止還未能證實可以擺脫模型歧視、算法共振、隱私泄露等技術陷阱。

第四，引起更加復雜的解釋性難題。解釋性有助于增強AI信任，減少對數據黑箱的擔憂，有助于發現模型偏差，管控決策風險。金融機構對于這一問題會非常關注。AI模型的算法創新，當然提高了模型的能力，同時也增加了模型的非線性、隨機性和不確定性，很難找到一種通用的特別是監管機構認可的解釋方法。

第五，最新發現的疑似AI智能體的網絡攻擊。前幾天哈爾濱公安部門公布亞冬會賽事信息系統遭到境外網絡攻擊的事件，確認有美國國家安全局的特工參加，技術上是第一次使用AI智能體發起網絡攻擊，從攻擊代碼來看，這次攻擊采用智能體技術進行漏洞探尋、流量監測，部分代碼明顯是AI書寫，可在攻擊過程中自動、快速編寫動態代碼進行實時攻擊。這意味著數字黑客已成為網絡攻擊工具，對國家安全防御體系構成新的挑戰。

數字金融創新的挑戰與目標

我在銀行工作了幾十年，金融是安全性和可信度要求近乎苛刻的行業，需要保證金融資產和金融數據的安全，保證金融交易和金融服務的可靠性，保證賬戶處理和賬務記錄的準確性。三十年前，我們開始的以大中心、集中化為特征的科技金融，已經經過了實踐的檢驗；近十年興起的以分布式、智能化為特征的數字金融創新還在發展。在信創的過程中，我個人認為數字金融的創新必須統籌安全和效率，實現從可用到好用，從替代到領先的跨越。

基于現階段的實踐，我認為數字金融的創新，并不要求金融類的垂直模型自身具備解決數學、編程、創意等復雜問題的高超能力，智能化數字金融創新的基本點是可信任，能夠主動防范并跨越AI陷阱，實現算法創新中的模型可信，達到金融模型解釋性的基本要求，讓客戶信得過，讓市場信得過，也讓政府監管機構信得過。

可信任數字金融的構建路徑

第一，高可靠性。金融機構部署AI模型，必須配置防火墻規則，啟用先進的密鑰管理工具，采用零信任架構，禁用危險操作接口，及時更新安全版本修復安全漏洞，既能抵抗惡意攻擊，又能避免偶發性安全隱患。

金融模型的性能應該達到安全可信的基本要求，這里提出幾個“特別注意”：用于市場分析和預測，要特別注意克制模型幻覺；用于客戶篩選和分層，要特別注意避免模型歧視；用于量化交易和投資顧問，要特別注意防止算法共振；用于身份識別和驗證，要特別注意抵抗AI虛假；用于線上線下客戶服務，要特別注意消解機器冰冷；用于憑證識別和賬務處理，要特別注意達成零誤差，實現非結構化數據處理百分之一百的正確率。

第二，可解釋性。具備可解釋性，能夠展現完整的推理路徑和邏輯，實現從結果正確向過程可解釋的跨越，是金融領域AI模型應用的關鍵要求。應該將模型行為轉化為可理解的規則，應用可視化工具以圖形方式展示模型的技術特征和生成過程，同時應用注意力機制標識關鍵輸入和關注重點。

第三，合法性。金融智能體(Financial-Agent)適用于市場分析、風險評估、投資顧問、財富管理、量化交易、產品定制、內部審計等專業領域，技術上通過提供行業最佳流程、最佳標準的數據支持，可以培育具有自主感知、學習、行動和決策能力的金融智能體，確保在復雜場景中達到可信任的專業水準。制度上需要確立金融智能體的法律地位，明確金融智能體的行為邊界，明確金融機構管理者的決策責任，明確金融智能體與金融客戶的法理關系。

第四，經濟性。金融業涵蓋商業銀行、保險、證券投資、財富管理等不同領域，同一領域的金融產品、金融服務、金融管理的需求大同小異。用海量數據預訓練行業級金融模型并持續調優，再根據不同需求調適差異化應用，定制企業級金融模型，可以有效降低金融模型開發的邊際成本，擴展金融模型的應用范圍。

應支持有實力的科技企業和金融機構深度合作，領軍開發行業級金融模型和應用軟件，為中小金融機構提供企業級金融模型服務和軟件服務，共建數字金融生態圈，實現高效率、低投入、個性化的數字金融創新。

來源 | 中國金融四十人論壇

編輯丨周茗一

責編丨蘭銀帆

Review of Past Articles -

01

02