作者 | 柴旭晨
編輯 | 黃昱
“大模型在金融業(yè)的應(yīng)用正逐漸從探索期邁向?qū)嵺`期,從可選項(xiàng)變成必選項(xiàng)。”
6月19日,螞蟻數(shù)科副總裁余濱向華爾街見聞?wù)f道,“前兩年,很多金融機(jī)構(gòu)還將大模型視為輔助技術(shù)工具,現(xiàn)在大模型已經(jīng)融入到金融機(jī)構(gòu)的核心業(yè)務(wù)流程和復(fù)雜業(yè)務(wù)場景中。”
年初DeepSeek的火爆,開啟了AI落地產(chǎn)業(yè)熱。
近年來,螞蟻集團(tuán)提出AI優(yōu)先戰(zhàn)略,對(duì)外推出了支小寶生活助理,螞小財(cái)?shù)呢?cái)富助理,以及AI健康管家,在一些嚴(yán)肅專業(yè)的場景為老百姓提供人工智能服務(wù)。而螞蟻數(shù)科板塊的核心就是將螞蟻集團(tuán)的科技產(chǎn)業(yè)化面向全行業(yè)輸出,首當(dāng)其沖的就是金融。
在余濱看來,現(xiàn)在AI的進(jìn)展已經(jīng)到達(dá)了重要的拐點(diǎn)時(shí)期,“如果金融機(jī)構(gòu)抓住了,很可能給自己帶來彎道超車的優(yōu)勢。反之很可能虛耗掉過去十年來在數(shù)字化建設(shè)時(shí)期打下的先機(jī)”。
從趨勢來看,去年金融AI應(yīng)用場景多在C端客服,今年已進(jìn)入核心業(yè)務(wù)領(lǐng)域:如何做好理財(cái)業(yè)務(wù)、保險(xiǎn)理賠更高效。余濱向華爾街見聞透露,整個(gè)建設(shè)的節(jié)奏從原先關(guān)注基礎(chǔ)平臺(tái)的建設(shè),到現(xiàn)在變成業(yè)務(wù)的升級(jí),甚至一些總裁已經(jīng)在考慮,基于AI重構(gòu)業(yè)務(wù)甚至是未來3-5年的戰(zhàn)略。
“今年是Agent元年”,螞蟻數(shù)科AI原生產(chǎn)品總經(jīng)理王磊認(rèn)為,今年可以親眼見證整個(gè)智能體從數(shù)字助手到數(shù)字員工,背后意味著大模型帶來的知識(shí)涌現(xiàn)的過程到價(jià)值落地的“最后一公里”正在被突破。
然而,在大模型時(shí)代下,企業(yè)會(huì)碰到很多大模型落地的相關(guān)問題,尤其在高復(fù)雜度的金融行業(yè)里出現(xiàn)明顯瓶頸。
業(yè)內(nèi)人士指出,金融機(jī)構(gòu)有幾個(gè)方面的困惑,市面上的大模型并不懂金融,還只是“實(shí)習(xí)生”水平;金融是嚴(yán)謹(jǐn)?shù)男袠I(yè),如果理不清楚數(shù)據(jù)跟AI是什么關(guān)系,包括大模型的安全、合規(guī)情況是不敢用的;如果做大模型訓(xùn)練投入非常大,擔(dān)心ROI是否能符合預(yù)期,因此遲遲不敢行動(dòng)。
這么多困惑,怎么解決?余濱認(rèn)為金融智能體的金融AI落地成功有幾個(gè)關(guān)鍵因素。
首先必須要有個(gè)非常智能的大腦——構(gòu)建一個(gè)機(jī)構(gòu)專屬的金融大模型,而非找通用模型移植;有了這個(gè)大腦,還需要它能時(shí)刻感知接收整個(gè)金融市場的起伏,構(gòu)建金融機(jī)構(gòu)自己的知識(shí)庫。第三,AI要促成業(yè)務(wù)做分析、做決策。
結(jié)合這三者之后就有了“智能體”,但后續(xù)非常重要的是確保金融大模型和金融智能體具備足夠的安全合規(guī)、嚴(yán)謹(jǐn)和專業(yè)性。只有具備這樣的條件才有可能構(gòu)造出來一個(gè)金融級(jí)別的智能體。
在經(jīng)過1-3年實(shí)踐之后,螞蟻數(shù)科在基礎(chǔ)建設(shè)、AI手機(jī)銀行、業(yè)務(wù)場景、全行級(jí)分階段建設(shè)蹚出了四套路徑。
第一類,從技術(shù)基礎(chǔ)設(shè)施構(gòu)建大模型中臺(tái)賦能應(yīng)用,如螞蟻數(shù)科支持大地保險(xiǎn)打造的大模型AI中臺(tái),支撐內(nèi)部超過70+智能應(yīng)用創(chuàng)作探索;第二類,以手機(jī)銀行為載體,構(gòu)建AI原生的移動(dòng)金融服務(wù)體系,從系統(tǒng)架構(gòu)到用戶交互界面全面徹底擁抱AI。
第三類,在實(shí)際業(yè)務(wù)場景,如風(fēng)控、理財(cái)、營銷等環(huán)節(jié)應(yīng)用大模型提升效率與體驗(yàn);第四類,將大模型作為全行1號(hào)工程進(jìn)行重點(diǎn)部署,以大模型全面重構(gòu)業(yè)務(wù)流程,打造智能體集群。
余濱介紹,針對(duì)上述四種落地路徑,螞蟻數(shù)科在服務(wù)金融機(jī)構(gòu)過程中已經(jīng)深度實(shí)踐并形成成熟解決方案對(duì)外輸出。在商業(yè)模式方面,目前螞蟻數(shù)科的金融智能體服務(wù)模式既可以支持私有化部署、SaaS訂閱服務(wù),以及基于效果計(jì)費(fèi)等多種模式,金融機(jī)構(gòu)可以按需選擇。
“螞蟻數(shù)科對(duì)于金融AI領(lǐng)域已經(jīng)具備了全棧的產(chǎn)品以及工程化的能力,既可以給機(jī)構(gòu)做前期的咨詢,也可共同設(shè)計(jì)整個(gè)建設(shè)路線圖”。余濱直言,螞蟻數(shù)科是科技商業(yè)化的公司,需要充分考慮商業(yè)模式是否具備足夠的靈活性,具備足夠的商業(yè)模式的可行性。
在金融展期間,螞蟻數(shù)科宣布聯(lián)合金融業(yè)伙伴進(jìn)行創(chuàng)新,將推出百余金融場景智能體解決方案,覆蓋銀行、證券、保險(xiǎn)、通用等四大領(lǐng)域,包括銀行財(cái)富管理、營銷增長、AI原生手機(jī)銀行和安全風(fēng)控等多個(gè)螞蟻數(shù)科已經(jīng)在金融機(jī)構(gòu)實(shí)際場景中深度落地的智能體解決方案。
“在大模型時(shí)代,我們值得用AI去重塑全部的業(yè)務(wù)流程”。王磊向華爾街見聞表示,“金融機(jī)構(gòu)落地AI大模型,不是簡簡單單做了一次IT采購,買一個(gè)新的軟件而已,而是做業(yè)務(wù)戰(zhàn)略的重塑,借著這個(gè)機(jī)會(huì)去看看整個(gè)業(yè)務(wù),去驅(qū)動(dòng)整個(gè)組織上的升級(jí)”。
以下是華爾街見聞與螞蟻數(shù)科副總裁余濱、AI技術(shù)負(fù)責(zé)人章鵬、AI原生產(chǎn)品總經(jīng)理王磊、產(chǎn)品解決方案總經(jīng)理曹詩洋的對(duì)話實(shí)錄:
問:螞蟻的這套Agent對(duì)人工替代的程度多少?
王磊:如果現(xiàn)在談取代哪些人,我覺得過于殘忍。在智能客服領(lǐng)域確實(shí)能取代掉一些人,但到相對(duì)比較深入的領(lǐng)域,我覺得不是替代邏輯,更多是極大擴(kuò)展每個(gè)人的能力邊界。
像理財(cái)師原來能夠服務(wù)的只有100人、200人是高凈值客戶,但我只有三五萬塊錢,誰服務(wù)我呢?這時(shí)候,智能體的價(jià)值就可以放大。螞蟻集團(tuán)原來叫小微金融服務(wù)集團(tuán),它有一個(gè)特別強(qiáng)的屬性,是為小微經(jīng)營者提供普惠的金融服務(wù)。
問:不同金融機(jī)構(gòu)如何根據(jù)不同需求來匹配合作路徑?
余濱:頭部國有銀行有非常強(qiáng)的研發(fā)實(shí)力,基本以自建智能體、開發(fā)平臺(tái)、算力。跟我們主要在技術(shù)層面上做溝通,來查漏補(bǔ)缺,這個(gè)是現(xiàn)在最現(xiàn)實(shí)的一種模式。
對(duì)于股份制銀行以及頭部城商行,他們已經(jīng)投入了資金成本,有從IT的角度來做,有從具體的業(yè)務(wù)場景或者營銷開始做,有些是全行級(jí)別來做。
對(duì)于規(guī)模再稍微小一些的區(qū)域性銀行,我們目前合作的更多是3.0商業(yè)模式,他會(huì)基于收益的情況,通過分類分層等各種方式跟我們進(jìn)行合作,它的前期投入成本會(huì)非常低。
問:上個(gè)月有監(jiān)管領(lǐng)導(dǎo)說AI落地必須是一把手工程,如果是CTO牽頭可能實(shí)際的落地效果并沒有那么好,你們?cè)趺纯创@個(gè)問題?
余濱:AI的本質(zhì)真的不僅是一和技術(shù),初衷是在重塑業(yè)務(wù),否則最多就是做基礎(chǔ)建設(shè)層面。我們現(xiàn)在能看到很多AI的項(xiàng)目有些確實(shí)是一把手工程,這才有可能在全行級(jí)別構(gòu)建最全的有知識(shí)集和數(shù)據(jù)集的大模型,真正對(duì)業(yè)務(wù)流程進(jìn)行端到端的重構(gòu),這是最理想的模式。
我們目前跟一些城商行合作,它的特點(diǎn)是一號(hào)工程高舉高打,集中銀行資源成立專項(xiàng)工作組,全力進(jìn)行推進(jìn)。但能看到一號(hào)位工程在具體實(shí)操的領(lǐng)域,不是所有銀行都適合,有時(shí)候會(huì)找一些切片的方式來做,好處是容易啟動(dòng)一些,但大模型的維度也比較窄一些,帶來的效果也比較局部。
章鵬:真正的大模型落地產(chǎn)生價(jià)值,它一定是從場景側(cè)、業(yè)務(wù)側(cè)發(fā)起的,而這時(shí)候它最適合,因?yàn)樗欢〞?huì)動(dòng)一些人的蛋糕,也一定會(huì)遇到各種各樣的阻力,所以它更適合的是從業(yè)務(wù)側(cè)一號(hào)位工程開始的。
問:金融大模型什么時(shí)候會(huì)達(dá)到一個(gè)高可用的節(jié)點(diǎn)?
余濱:我們認(rèn)為做AI做到成功,實(shí)際上立體的幾個(gè)維度都要做,比如知識(shí)工程、金融工具集,它都是長期的過程,沒有辦法一蹴而就。因?yàn)檫@個(gè)過程是持續(xù)迭代的,沒有辦法一上來就做非常完美的大模型,把智能體在上面構(gòu)建出來,一定是隨著知識(shí)工程的迭代,金融工具集越來越豐富,把原來這些年構(gòu)建的信息系統(tǒng)逐步迭代升級(jí)。
我們經(jīng)常跟行長說,做AI是長期的賽跑,前面有些跑得早一些,并不一定代表著過了一兩年之后他還是第一,過程中必須要不斷地迭代,讓整個(gè)大模型和智能體越來越智能,越來越高效。
問:金融模型在現(xiàn)階段還有哪些不足,例如幻覺問題?
章鵬:金融大模型在落地的時(shí)候,不光有幻覺問題,有合規(guī)安全問題。
幻覺問題。幻覺問題可能有兩種,第一種依然是輸入信息過多或矛盾時(shí),模型可能產(chǎn)生邏輯混亂。當(dāng)它發(fā)現(xiàn)論據(jù)之間有g(shù)ap時(shí)會(huì)聯(lián)想出一段話來彌補(bǔ)這里面的邏輯;還有安全合規(guī)。比如在金融場景中不能薦股和承諾收益,通用模型并不知道。那怎么解決?
首先,合規(guī)問題沒有辦法直接把知識(shí)刻錄進(jìn)去,一般是后訓(xùn)練SFT。對(duì)于長指令以及幻覺,要在提示詞上做優(yōu)化。如果你能夠供給它3條知識(shí)就能回答的時(shí)候,你就不要供給10條,顯然給它塞得東西越多,對(duì)它來說是越困難的,這個(gè)功夫是在大模型之外的。對(duì)于表達(dá)風(fēng)格以及幻覺,目前是用強(qiáng)化學(xué)習(xí),你只能構(gòu)造更多的數(shù)據(jù),讓它慢慢明白這個(gè)情況下是要遵循的。
問:螞蟻智能體的基礎(chǔ)模型是什么,今年開始智能體開始往B端方向落地,你們覺得現(xiàn)在B端的智能體達(dá)到什么階段呢?
章鵬:我們目前有好幾個(gè)版本的基座模型,比如基于通義2.5的,無論是14B、32B、72B都有,同樣也有基于千問3的,另外也有基于螞蟻?zhàn)约毫愕拇竽P停煌膱鼍翱梢允褂貌煌幕P停匾氖窃趺窗呀鹑诖诡惔竽P陀?xùn)練出來,這背后有一些核心的技術(shù)。
王磊:我認(rèn)為螞蟻的智能體在行業(yè)內(nèi)是在前列的,我們不僅金融大模型不錯(cuò),還有知識(shí)能力去灌入,同時(shí)還有一套金融工具集,讓智能體干不只是停留在能說會(huì)道,還能真的干一些事。
曹詩洋:大模型在B端有兩類大的場景,一類是服務(wù)C端像理財(cái)管家、營銷管家,還有一類是面向ToP(面向內(nèi)部)內(nèi)部輔助于理財(cái)經(jīng)理、信貸管家,這是在比較全面的業(yè)務(wù)場景的copilot。
今天我們是要體現(xiàn)業(yè)務(wù)價(jià)值的智能體是什么,無論我們?cè)谧鰻I銷管家、信貸管家還是做財(cái)富助手,在這個(gè)領(lǐng)域大部分是輔助的角色。
今天我們依然會(huì)有一些在做所謂的autopilot,像自動(dòng)駕駛。autopilot是智能體演進(jìn)的終極目標(biāo)。我們的營銷智能體有一部分已經(jīng)能做到所謂的智能托管,完全不需要人工干預(yù)。
現(xiàn)在ToP監(jiān)管沒有太多去限制的,面向C端的大模型監(jiān)管涉及兩個(gè)部門,一個(gè)是網(wǎng)信辦,一個(gè)是金融監(jiān)管總局。ToC的很多政策也會(huì)慢慢釋放出來,主要是面向公眾這塊,我們最近也會(huì)幫助金融機(jī)構(gòu)完成備案。
問:前不久,螞蟻數(shù)科也支持MCP的協(xié)議,協(xié)議解決了協(xié)同但可能遇到精度下降的情況。對(duì)金融行業(yè)來講影響不小,你們覺得現(xiàn)在B端的智能體還有哪些核心的問題需要解決?
王磊:正是在金融領(lǐng)域,我們希望能夠達(dá)到比較高的水準(zhǔn)。在這個(gè)過程中,第一是沉淀了方法論,第二是背后依賴的工具集我們會(huì)進(jìn)行精度篩選,把機(jī)構(gòu)內(nèi)部原有的API能力變成一個(gè)工具能力去供給給智能體可以被調(diào)用。
問:關(guān)于數(shù)據(jù)安全,金融機(jī)構(gòu)希望把他們的數(shù)據(jù)存在本地,可能有一些大模型需要調(diào)用API之類的,我們?cè)趺礃咏鉀Q這種矛盾?
章鵬:在技術(shù)上,第一種方式是脫敏替代;另外可以將模型拆成兩部分,一部分放在云端,一部分放在本地,你所有的問題都會(huì)以編碼的形式傳遞,這叫拆分學(xué)習(xí);第三種解法是政策解法,比如行業(yè)云,我們這個(gè)行業(yè)有一個(gè)大家公認(rèn)、公信的云,你把服務(wù)布在那個(gè)云上,大家可以共享。
問:螞蟻有提供很多工作流的Agent,它們?cè)跀?shù)據(jù)打通的過程中有沒有難點(diǎn)?
王磊:這背后的知識(shí)非常多也有碎片化,還涉及到跨部門的問題。之前構(gòu)建數(shù)據(jù)中臺(tái)的時(shí)候,很多金融機(jī)構(gòu)已經(jīng)遇到了。
在AI時(shí)代已經(jīng)不是數(shù)據(jù)問題,是一個(gè)知識(shí)問題。在數(shù)據(jù)基礎(chǔ)設(shè)施都沒有統(tǒng)一的情況下,構(gòu)建一個(gè)知識(shí)湖是完全不可能的,我覺得要有統(tǒng)一的數(shù)據(jù)中臺(tái)。
為什么金融知識(shí)庫那么重要?很多金融知識(shí),其實(shí)不同機(jī)構(gòu)理解都不一樣。那到底以誰為準(zhǔn)?我們對(duì)整個(gè)金融資產(chǎn)板塊現(xiàn)在劃分了七大板塊,包括A股、港股、國債、大宗資產(chǎn)、黃金等,第二步是基于對(duì)知識(shí)本質(zhì)深刻的理解、專業(yè)性的理解,對(duì)于知識(shí)進(jìn)行一定程度的治理和梳理性的工作,它才能真正變成智能體可以消費(fèi)的知識(shí),才能精準(zhǔn)地被召回。
問:螞蟻有未來有沒有推出獨(dú)立金融大模型的可能?
余濱:螞蟻數(shù)科會(huì)有這方面的產(chǎn)品。我們充分感覺到金融機(jī)構(gòu)在使用通用模型時(shí)候,中間還是有一定的鴻溝,所以會(huì)有這樣的產(chǎn)品出現(xiàn),至少會(huì)降低金融機(jī)構(gòu)在做金融AI建設(shè)中的難度。
問:螞蟻如何思考金融模型和金融云之間的生態(tài)合作?
余濱:在去年外灘大會(huì)的時(shí)候,當(dāng)時(shí)還說我們A+、B+、C+,當(dāng)時(shí)云和AI兩個(gè)板塊是分開的邏輯,就是因?yàn)槲覀兏杏X到隨著現(xiàn)在形勢的發(fā)展,云端+AI方面的協(xié)同是非常重要的一件事,特別是在很多基礎(chǔ)的技術(shù)上產(chǎn)品的能力方面是要共通的。
今年數(shù)科決定把原先的AI板塊和C(云板塊)進(jìn)行合并,希望這兩個(gè)板塊繼續(xù)合力在產(chǎn)品上互通。從“云原生”渡到“AI原生”概念,幫客戶建設(shè)智能化的升級(jí)。
把這方面的業(yè)務(wù)和研發(fā)力量進(jìn)行了組合,可以結(jié)合過去在金融云領(lǐng)域積累下來大量和機(jī)構(gòu)合作的基礎(chǔ)和產(chǎn)品技術(shù)的基礎(chǔ),再加上螞蟻內(nèi)部過去幾年來在AI方面積累的技術(shù)和豐富經(jīng)驗(yàn),打磨出來一套端到端比較全面的AI產(chǎn)品體系。
我們不是純粹在一個(gè)技術(shù)的角度來談?wù)揂I,既要考慮技術(shù)又考慮業(yè)務(wù)上面具體落地,以及在業(yè)務(wù)上具體碰到的困難,把解決問題的方法內(nèi)涵到現(xiàn)在的產(chǎn)品里和大模型里面,所以我們還是一個(gè)比較有特色的AI解決方案提供商。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.