2025 年 7 月 18 日， 北京農(nóng)村商業(yè)銀行股份有限公司 發(fā)布《大模型平臺(tái)建設(shè)項(xiàng)目》供應(yīng)商征集公告。

（一）業(yè)務(wù)目標(biāo)：

1、具備面向全行提供大模型 API 接口服務(wù)的能力，支持全行各系統(tǒng)調(diào)用大模型 API 的需求。

2、具備面向全行提供知識(shí)管理（RAG）API 接口的能力，支持全行各系統(tǒng)調(diào)用知識(shí)管理能力的需求。

3、具備通用報(bào)告編寫能力，可以支持多種類型的報(bào)告編寫。

后續(xù)，基于本項(xiàng)目建設(shè)的基礎(chǔ)能力，還將繼續(xù)拓展其他業(yè)務(wù)領(lǐng)域的應(yīng)用。

（二）技術(shù)目標(biāo)：

1、建設(shè)大模型管理平臺(tái)，兼容主流大模型和計(jì)算資源，支持模型部署、模型調(diào)用等統(tǒng)一管理等功能，具備后續(xù)進(jìn)一步擴(kuò)展的能力。

2、建設(shè)智能體開發(fā)平臺(tái)，支撐各類智能應(yīng)用的開發(fā)及運(yùn)行。

3、建設(shè)企業(yè)級(jí)大模型知識(shí)管理底座（包括 RAG、向量庫及向量模型等）、通用報(bào)告編寫功能，支撐各類知識(shí)管理及報(bào)告編寫。

（三）業(yè)務(wù)功能：

1、建設(shè)通用報(bào)告編寫能力，支持多種類型的報(bào)告編寫。

2、建設(shè)大模型知識(shí)管理底座，支持全行相關(guān)系統(tǒng)知識(shí)管理業(yè)務(wù)場景。

3、模型層：

（1）發(fā)送消息前即可實(shí)時(shí)預(yù)估輸入 token 消耗，發(fā)送后可查看首 token 時(shí)長、平均 token 速度，總耗時(shí)，共調(diào)用 token 數(shù)等。

（2）平臺(tái)支持深度思考模型的思考過程及對(duì)話過程。

（3）平臺(tái)提供多模型體驗(yàn)對(duì)比功能，讓用戶能夠在同一平臺(tái)上對(duì)多個(gè)模型進(jìn)行深入的分析和比較。

（4）會(huì)話中加入新模型后，可選擇模型同步上線，自動(dòng)批量將歷史信息作為上下文發(fā)送新模型，進(jìn)行對(duì)比。

（5）用戶可通過本地部署模型。

（6）支持單機(jī)和分布式部署，支持服務(wù)限流。

（7）支持動(dòng)態(tài)量化，模型服務(wù)部署時(shí)可配置量化策略。支持設(shè)置優(yōu)雅關(guān)停時(shí)間。

（8）提供本地模型服務(wù)資源的使用量和使用率信息。

（9）本地模型服務(wù)提供常見語言的模型調(diào)用代碼示例。

（10）可接入外部公有云模型 SaaS 服務(wù)，并可在應(yīng)用使用統(tǒng)一的 API key 對(duì)本地部署及外部模型進(jìn)行權(quán)限管理和調(diào)用，支持體驗(yàn)外部模型功能。

4、平臺(tái)層：

（1）具備完善的智能體構(gòu)建、管理、部署等功能。支持智能體限流，有效控制大模型消耗。

（2）支持主流模型，支持模型參數(shù)暴露和調(diào)優(yōu)。

（3）支持長期記憶能力。

（4）支持多版本發(fā)布管理、配置還原、發(fā)布和審批。

（5）用戶可以通過拖拽組件的方式，快速構(gòu)建工作流程，具有豐富的節(jié)點(diǎn)類型。

（6）RAG 知識(shí)庫支持常見數(shù)據(jù)類型、切分方式和檢索模式。支持在線下載文檔，在線文檔支持自動(dòng)更新。支持對(duì)接外部非結(jié)構(gòu)化知識(shí)庫，支持對(duì)接外部向量庫。

（7）具備完善的用戶和權(quán)限管理功能，支持租戶隔離。

（8）具備完善的 MCP 開發(fā)、管理功能。

（9）支持在后臺(tái)展示智能體相關(guān)統(tǒng)計(jì)數(shù)據(jù)。

（10）支持安全性評(píng)測、監(jiān)控和管理。如：違規(guī)內(nèi)容、隱私泄露、偏見歧視、倫理道德等。

（四）系統(tǒng)非功能需求：

支持全棧信創(chuàng)服務(wù)器和客戶端環(huán)境，比如：統(tǒng)信或麒麟操作系統(tǒng)、寶蘭德或東方通中間件、OceanBase 數(shù)據(jù)庫、寶蘭德緩存 Bcs、信創(chuàng)計(jì)算機(jī)終端、信創(chuàng)瀏覽器等；系統(tǒng)支持 IPV6。