行業(yè)首創(chuàng)領(lǐng)域自約束訓(xùn)練方案

12月23日，百川智能發(fā)布全鏈路領(lǐng)域增強(qiáng)大模型Baichuan4-Finance。在高質(zhì)量金融數(shù)據(jù)的基礎(chǔ)上，通過(guò)行業(yè)首創(chuàng)的領(lǐng)域自約束訓(xùn)練方案，Baichuan4-Finance實(shí)現(xiàn)了金融能力和通用能力同步提升的效果，極大提高了金融場(chǎng)景的整體可用性。其金融專業(yè)能力和場(chǎng)景應(yīng)用能力大幅領(lǐng)先GPT-4o，在中國(guó)人民大學(xué)財(cái)政金融學(xué)院新近發(fā)布的評(píng)測(cè)體系FLAME以及國(guó)內(nèi)主流開(kāi)源金融評(píng)測(cè)基準(zhǔn)FinancelQ上均登上榜首。

Baichuan4-Finance API現(xiàn)已在百川智能官網(wǎng)正式上線，網(wǎng)址：https://platform.baichuan-ai.com/finPage

整體準(zhǔn)確率領(lǐng)先GPT-4o近20%，多個(gè)金融評(píng)測(cè)榜單第一

FLAME（Financial Large-Language Model Assessment and Metrics Evaluation）是中國(guó)人民大學(xué)財(cái)政金融學(xué)院12月17日發(fā)布的金融評(píng)測(cè)體系（github地址：https://github.com/FLAME-ruc/FLAME/tree/main）。

作為金融領(lǐng)域最新的評(píng)測(cè)體系，F(xiàn)LAME兼顧專業(yè)性和實(shí)用性，由兩個(gè)方向的評(píng)測(cè)基準(zhǔn)組成。其中，F(xiàn)LAME-Cer主要面向模型的專業(yè)金融能力評(píng)測(cè)，覆蓋了CPA、CFA、FRM等14類權(quán)威金融資格認(rèn)證；FLAME-Sce則側(cè)重模型的場(chǎng)景應(yīng)用能力，包含10個(gè)一級(jí)核心金融業(yè)務(wù)場(chǎng)景，21個(gè)二級(jí)細(xì)分金融業(yè)務(wù)場(chǎng)景，近百個(gè)三級(jí)金融應(yīng)用任務(wù)。

FLAME-Cer評(píng)測(cè)結(jié)果顯示，Baichuan4-Finance在銀行、保險(xiǎn)、基金、證券等多個(gè)資格認(rèn)證領(lǐng)域的準(zhǔn)確率均突破了95%，整體準(zhǔn)確率93.62%，大幅領(lǐng)先GPT-4o和XuanYuan3-70B-Chat，超出GPT-4o近20%。GPT-4o是金融領(lǐng)域公認(rèn)的綜合實(shí)力最強(qiáng)的通用模型之一，而XuanYuan3-70B-Chat則是國(guó)內(nèi)首個(gè)開(kāi)源中文金融大模型。

在FLAME-Sce評(píng)測(cè)中，Baichuan4-Finance一級(jí)核心金融業(yè)務(wù)場(chǎng)景的整體可用率達(dá)84.15%，其金融數(shù)據(jù)計(jì)算、金融知識(shí)理論等場(chǎng)景的可用率更是超過(guò)90%，實(shí)際應(yīng)用場(chǎng)景中的表現(xiàn)非常優(yōu)秀。

不僅如此，在國(guó)內(nèi)主流開(kāi)源金融評(píng)測(cè)基準(zhǔn)FinanceIQ上Baichuan4-Finance同樣超越了GPT-4o和XuanYuan3-70B，整體準(zhǔn)確率達(dá)到79.23%，領(lǐng)先GPT-4o近13%。

行業(yè)首創(chuàng)領(lǐng)域自約束訓(xùn)練方案，模型金融專項(xiàng)能力和通用能力同步提升

如何讓模型在提升專業(yè)能力的同時(shí)不損失通用能力，是當(dāng)下大模型落地具體場(chǎng)景最大的阻礙。為解決這一問(wèn)題，百川智能打造了一套全鏈路領(lǐng)域增強(qiáng)方案，該方案覆蓋了高質(zhì)量數(shù)據(jù)集構(gòu)建、模型預(yù)訓(xùn)練、微調(diào)、強(qiáng)化學(xué)習(xí)等從模型研發(fā)到場(chǎng)景應(yīng)用的全流程。

在模型訓(xùn)練階段，通過(guò)行業(yè)首創(chuàng)的領(lǐng)域自約束訓(xùn)練技術(shù)，百川智能實(shí)現(xiàn)了模型專項(xiàng)能力和通用能力同步提升的效果，極大提升了模型多元場(chǎng)景的可用性。而B(niǎo)aichuan4-Finance正是這一方案的最新成果，全鏈路金融領(lǐng)域增強(qiáng)讓其既掌握了扎實(shí)的金融理論基礎(chǔ)，又具備了豐富的多場(chǎng)景實(shí)踐應(yīng)用能力。

具體而言，Baichuan4-Finance的高質(zhì)量金融數(shù)據(jù)集全面且嚴(yán)謹(jǐn)，既包含金融專業(yè)教材與學(xué)術(shù)著作、頂級(jí)金融期刊論文、監(jiān)管機(jī)構(gòu)政策文件、金融法律法規(guī)等核心專業(yè)金融知識(shí)數(shù)據(jù)，也覆蓋了金融專業(yè)問(wèn)答集、企業(yè)財(cái)報(bào)與年度報(bào)告、金融類研究分析報(bào)告等實(shí)踐應(yīng)用類數(shù)據(jù)，為提升模型金融能力提供了良好的底層支撐。

在此基礎(chǔ)上，Baichuan4-Finance還在領(lǐng)域自約束訓(xùn)練過(guò)程中引入了更高精的通用數(shù)據(jù)，與高質(zhì)量金融數(shù)據(jù)一起進(jìn)行混合訓(xùn)練，最終實(shí)現(xiàn)了模型通用能力不下降，金融能力穩(wěn)定增長(zhǎng)的效果。

此外，百川智能在后訓(xùn)練環(huán)節(jié)也做了大量增強(qiáng)工作，如：通過(guò)合成數(shù)據(jù)、指令數(shù)據(jù)對(duì)模型進(jìn)行有監(jiān)督的微調(diào)；在強(qiáng)化學(xué)習(xí)策略中，針對(duì)數(shù)學(xué)計(jì)算等金融領(lǐng)域特別關(guān)注的場(chǎng)景進(jìn)行樣本增強(qiáng)等，進(jìn)一步提升了模型性能。

值得一提的是，為了更好地助力金融企業(yè)將大模型應(yīng)用到各種真實(shí)場(chǎng)景，百川智能還在官網(wǎng)發(fā)布了Baichuan4-Finance全鏈路領(lǐng)域增強(qiáng)的技術(shù)報(bào)告，詳細(xì)闡述了包括“領(lǐng)域自約束訓(xùn)練”在內(nèi)的各項(xiàng)技術(shù)細(xì)節(jié)。此舉不僅將極大增強(qiáng)金融行業(yè)對(duì)大模型的認(rèn)知，還將有效提升金融企業(yè)部署大模型的能力與意愿。

全方位助力金融機(jī)構(gòu)智能化升級(jí)和業(yè)務(wù)創(chuàng)新

攻克了專項(xiàng)能力和泛化能力平衡問(wèn)題這一模型落地應(yīng)用的最大阻礙后，Baichuan4-Finance能夠在效率提升、風(fēng)控合規(guī)、客服、決策支持等諸多層面為金融行業(yè)帶來(lái)全方位的價(jià)值提升。例如，它能夠幫助金融從業(yè)者處理文檔審核、客戶咨詢、產(chǎn)品營(yíng)銷等大量日常工作，還能依托深厚的金融專業(yè)知識(shí)和法律法規(guī)理解能力，為機(jī)構(gòu)提供精準(zhǔn)的風(fēng)險(xiǎn)識(shí)別和合規(guī)保障。此外，還可以憑借強(qiáng)大的數(shù)據(jù)分析能力為管理層提供專業(yè)的市場(chǎng)洞察和決策建議。

用友表示，Baichuan4-Finance憑借其海量的金融專業(yè)知識(shí)儲(chǔ)備，在財(cái)稅知識(shí)問(wèn)答場(chǎng)景中，準(zhǔn)確率較Baichuan4-Turbo提升了20%，較GPT-4o提升了10%，表現(xiàn)尤為亮眼。

軟通動(dòng)力表示，我們的客戶在實(shí)際應(yīng)用中既要求大模型具備通用能力，又希望其在金融場(chǎng)景中有所專長(zhǎng)。經(jīng)過(guò)對(duì)比測(cè)試，我們發(fā)現(xiàn)Baichuan4-Finance完美契合這一需求，不僅通用能力出色，金融專業(yè)能力也得到了增強(qiáng)。自部署B(yǎng)aichuan4-Finance以來(lái)，我們的客戶滿意度提升了20%。

目前百川智能已經(jīng)服務(wù)了數(shù)千家客戶，包括北電數(shù)智、完美世界游戲、愛(ài)奇藝、360集團(tuán)、生學(xué)教育、愛(ài)學(xué)堂等各行業(yè)的領(lǐng)軍企業(yè)，并且與信雅達(dá)、用友、軟通動(dòng)力、新致軟件、達(dá)觀數(shù)據(jù)、華勝天成等多家行業(yè)生態(tài)伙伴，以及華為、中科曙光等硬件廠商，中國(guó)移動(dòng)、中國(guó)電信、中國(guó)聯(lián)通等運(yùn)營(yíng)商達(dá)成合作，攜手構(gòu)建百川大模型生態(tài)。