AI大模型Deepseek的面世，正悄然影響銀行的金融大模型研發(fā)應(yīng)用策略。
一位股份行IT部門(mén)人士向記者透露，2月5日，他們內(nèi)部已著手對(duì)Deepseek進(jìn)行初步測(cè)試，觀察它在智能客服、內(nèi)部辦公等業(yè)務(wù)場(chǎng)景，相比其他大模型是否產(chǎn)生更強(qiáng)的降本增效作用。
“圍繞大模型在金融場(chǎng)景中的應(yīng)用，我們做過(guò)不少?lài)L試，包括購(gòu)買(mǎi)GPU卡自研金融大模型，以及在其他通用大模型的基礎(chǔ)上研發(fā)金融小模型，但這兩種方式都花費(fèi)不少。”他告訴記者。如今Deepseek在數(shù)據(jù)訓(xùn)練方面的較低操作成本，讓他們看到金融大模型研發(fā)應(yīng)用方面的投入產(chǎn)出比有望進(jìn)一步上升。
一位城商行銀行IT部門(mén)人士向記者透露，春節(jié)期間，他們IT團(tuán)隊(duì)已討論在Deepseek開(kāi)源大模型基礎(chǔ)上研發(fā)自己的金融大模型。
他透露，由于中小銀行在金融大模型研發(fā)方面的投入不高，數(shù)據(jù)訓(xùn)練成本相對(duì)更低的Deepseek反而是中小銀行自研金融大模型的新突破口，一旦Deepseek在數(shù)據(jù)訓(xùn)練成本、生成式內(nèi)容準(zhǔn)確性、投入產(chǎn)出比等方面具有更好效果，他們將重點(diǎn)圍繞Deepseek研發(fā)自己的金融大模型。
在這位城商行銀行IT部門(mén)人士看來(lái)，Deepseek的面世，有望縮小眾多中小銀行與少數(shù)大型銀行在金融大模型研發(fā)應(yīng)用方面的“鴻溝”。
上海交通大學(xué)上海高級(jí)金融學(xué)院副院長(zhǎng)李峰此前接受記者采訪時(shí)表示，隨著AI大模型在金融業(yè)務(wù)場(chǎng)景的應(yīng)用日益廣泛，它能否真正推動(dòng)金融行業(yè)高質(zhì)量發(fā)展，關(guān)鍵在于它能否給金融機(jī)構(gòu)帶來(lái)實(shí)質(zhì)的降本增效。
前述股份行IT部門(mén)人士向記者透露，為了自研金融大模型，前些年銀行花費(fèi)不少資金購(gòu)買(mǎi)GPU卡搭建較高算力，導(dǎo)致金融大模型研發(fā)的實(shí)際投入成本較高。若Deepseek應(yīng)用能令銀行在金融大模型研發(fā)過(guò)程的算力投入明顯減少，他們也樂(lè)意圍繞Deepseek研發(fā)金融大模型。
“尤其是AI Agent（智能體）正日益在更多金融場(chǎng)景得到應(yīng)用，銀行正面臨更大的算力瓶頸，Deepseek對(duì)算力消耗的較低要求，無(wú)形間解決了銀行在AI Agent研發(fā)應(yīng)用過(guò)程中的算力問(wèn)題。”他告訴記者。這無(wú)形間將加快銀行推進(jìn)AI Agent的研發(fā)應(yīng)用。
投入產(chǎn)出比“提升” 中小銀行有底氣自研金融大模型
近年，AI大模型技術(shù)在銀行業(yè)務(wù)場(chǎng)景的應(yīng)用日益廣泛。無(wú)論是普惠金融、風(fēng)控、客戶(hù)營(yíng)銷(xiāo)、支付，還是函證、跨境金融、票據(jù)融資、供應(yīng)鏈金融等場(chǎng)景，都能看到AI大模型的身影。
在客服環(huán)節(jié)，AI大模型正幫助眾多銀行提升坐席人員工作效率——通過(guò)AI大模型的賦能，坐席人員能更精準(zhǔn)地了解用戶(hù)意圖，迅速響應(yīng)用戶(hù)的各種金融服務(wù)需求。
在信貸風(fēng)控環(huán)節(jié)，AI大模型正推動(dòng)銀行更高效精準(zhǔn)地開(kāi)展大數(shù)據(jù)分析，持續(xù)優(yōu)化信貸風(fēng)控引擎，快速給出更科學(xué)的信貸決策。尤其是在AI大模型支持下，部分中小銀行有底氣在客戶(hù)數(shù)據(jù)相對(duì)較少的情況下啟動(dòng)新信貸業(yè)務(wù)，有效抵御黑灰產(chǎn)組織的攻擊。
在財(cái)富管理環(huán)節(jié)，AI大模型協(xié)助銀行客戶(hù)經(jīng)理全面分析用戶(hù)以往的資產(chǎn)配置狀況，并結(jié)合用戶(hù)最新需求，給予更科學(xué)的財(cái)富管理解決方案，進(jìn)一步提升財(cái)富管理的用戶(hù)滿(mǎn)意度。
為了進(jìn)一步提升AI大模型應(yīng)用成效與擴(kuò)大應(yīng)用場(chǎng)景，越來(lái)越多銀行紛紛根據(jù)自身業(yè)務(wù)特色自研金融大模型，進(jìn)一步提升各項(xiàng)業(yè)務(wù)操作效率。
與此同時(shí)，銀行一面積極擁抱金融大模型，一面也面臨投入產(chǎn)出比的挑戰(zhàn)。
李峰向記者透露，AI大模型的研發(fā)成本相當(dāng)高，進(jìn)行一次數(shù)據(jù)訓(xùn)練的費(fèi)用或達(dá)到千萬(wàn)美元。因此，相比大型金融機(jī)構(gòu)擁有足夠財(cái)力支撐金融大模型自研應(yīng)用，眾多中小金融機(jī)構(gòu)往往會(huì)選擇成本更低的金融大模型研發(fā)路徑。
他透露，基于成本控制考慮，中小金融機(jī)構(gòu)研發(fā)金融大模型主要采取三種路徑，一是與外部大模型服務(wù)商合作，借助后者的大模型技術(shù)，再結(jié)合自身的私域數(shù)據(jù)進(jìn)行微調(diào)，形成適合自己業(yè)務(wù)場(chǎng)景的AI小模型，二是采取抱團(tuán)取暖策略，即多家中小金融機(jī)構(gòu)合作研發(fā)金融大模型，但數(shù)據(jù)的跨公司交流面臨較大的合規(guī)風(fēng)險(xiǎn)；三是通過(guò)行業(yè)性的公共平臺(tái)布局研發(fā)AI大模型技術(shù)。
上述股份制銀行IT部門(mén)人士告訴記者，這些年銀行自研金融大模型的投入不菲——除了花費(fèi)不菲資金采購(gòu)GPU卡，還需重金聘請(qǐng)熟諳大模型研發(fā)的專(zhuān)業(yè)人才。此外，即便金融大模型的數(shù)據(jù)訓(xùn)練規(guī)模參數(shù)小于通用大模型，但每次數(shù)據(jù)訓(xùn)練的實(shí)際耗費(fèi)也超過(guò)百萬(wàn)元。
“前些年大模型比較看重?cái)?shù)據(jù)規(guī)模參數(shù)大小期間，我們額外增加了預(yù)算購(gòu)買(mǎi)GPU卡，為了滿(mǎn)足百億級(jí)數(shù)據(jù)參數(shù)的金融大模型數(shù)據(jù)訓(xùn)練。”他告訴記者，如此高的投入，也令銀行內(nèi)部一直在討論金融大模型自研的投入產(chǎn)出比。畢竟，金融大模型在不同業(yè)務(wù)場(chǎng)景的使用成效不一，比如在智能客服、內(nèi)部辦公等方面的應(yīng)用效果相對(duì)較好，但在普惠金融、信貸風(fēng)控、跨境業(yè)務(wù)等場(chǎng)景，由于涉及客戶(hù)數(shù)據(jù)信息保護(hù)等合規(guī)操作要求，其只能作為業(yè)務(wù)操作輔助工具，大量工作仍需人工完成。
在他看來(lái)，若Deepseek較低的算力投入要求與數(shù)據(jù)訓(xùn)練成本能顯著降低銀行研發(fā)金融大模型的投入，并產(chǎn)生與其他大模型技術(shù)相當(dāng)?shù)腁I生成式內(nèi)容效果，它將對(duì)銀行大模型應(yīng)用產(chǎn)生三大影響，一是Deepseek將成為中小銀行使用較低成本自研金融大模型的新突破口，令大型銀行與中小銀行在大模型應(yīng)用的“差距”明顯縮小；二是越來(lái)越多銀行將傾向自研金融大模型，以往依托外部通用大模型進(jìn)行私域數(shù)據(jù)微調(diào)研發(fā)金融小模型的做法或明顯減少；三是基于Deepseek大模型的開(kāi)源特點(diǎn)，部分銀行大模型研發(fā)團(tuán)隊(duì)有望結(jié)合自身的業(yè)務(wù)特點(diǎn)與業(yè)務(wù)創(chuàng)新需要，自研更契合銀行自身業(yè)務(wù)需求的專(zhuān)屬金融大模型。
清華大學(xué)金融科技研究院副院長(zhǎng)薛正華此前表示，隨著大模型在銀行等金融場(chǎng)景的應(yīng)用日益廣泛，金融機(jī)構(gòu)對(duì)大模型能力的要求日益增加，具體表現(xiàn)在金融信息分類(lèi)、抽取、計(jì)算、邏輯推理、圖文生成以及編程等能力，尤其是銀行在一些大模型高階領(lǐng)域，比如多輪分析推理、業(yè)務(wù)領(lǐng)域思維鏈、業(yè)務(wù)預(yù)測(cè)推演準(zhǔn)確度、效率、投產(chǎn)比等方面的要求也在持續(xù)提升。
在他看來(lái)，針對(duì)嚴(yán)苛的金融業(yè)務(wù)合規(guī)操作要求，采用MoE混合專(zhuān)家模型或許是一條比較有效的金融大模型發(fā)展路徑，每個(gè)子領(lǐng)域或場(chǎng)景都有專(zhuān)業(yè)的Expert，負(fù)責(zé)做細(xì)、做深、做精、做準(zhǔn)，達(dá)到或超過(guò)人類(lèi)專(zhuān)家水平。對(duì)于綜合性問(wèn)題，發(fā)揮MoE多專(zhuān)家協(xié)同的方式解決，效果往往更好。例如針對(duì)具體場(chǎng)景的客服、客戶(hù)營(yíng)銷(xiāo)等，AI生成結(jié)果的顆粒度越細(xì)、越快、越專(zhuān)業(yè)、越精準(zhǔn)，效果越好；針對(duì)綜合貸款方案設(shè)計(jì)、綜合理財(cái)方案等多場(chǎng)景融合業(yè)務(wù)，多模型協(xié)同往往帶來(lái)更好效果。
這位股份制銀行IT部門(mén)人士告訴記者，Deepseek的一項(xiàng)特點(diǎn)，是它通過(guò)算法優(yōu)化，在使用很低的算力計(jì)算資源情況下充分調(diào)動(dòng)混合專(zhuān)家MoE模型架構(gòu)與AI深度學(xué)習(xí)能力，給出精準(zhǔn)專(zhuān)業(yè)的AI生成式內(nèi)容。這同樣契合銀行研發(fā)金融大模型的發(fā)展方向。
“目前，我們內(nèi)部發(fā)起了一個(gè)工作組，復(fù)刻Deepseek開(kāi)源大模型并進(jìn)行數(shù)據(jù)訓(xùn)練與金融場(chǎng)景應(yīng)用測(cè)試，檢測(cè)其AI生成式內(nèi)容效果是否與其他大模型相當(dāng)，以及數(shù)據(jù)訓(xùn)練成本是否明顯降低。”他告訴記者，若Deepseek的降本增效作用明顯增強(qiáng)，不排除他們會(huì)更多使用Deepseek研發(fā)自己的金融大模型，并應(yīng)用在更多業(yè)務(wù)場(chǎng)景。
李峰表示，即便是大型金融機(jī)構(gòu)自研大模型，由于AI大模型技術(shù)迭代需要耗費(fèi)大量GPU卡，因此大型金融機(jī)構(gòu)一面需注意GPU卡的較大損耗成本，一面要關(guān)注大模型技術(shù)的創(chuàng)新發(fā)展趨勢(shì)，通過(guò)“與時(shí)俱進(jìn)”部署前沿AI科技，確保自身的金融大模型技術(shù)處于領(lǐng)跑地位。
算力瓶頸“解決” 銀行加快推進(jìn)AI Agent研發(fā)應(yīng)用
隨著AI大模型技術(shù)快速迭代升級(jí)，如今AI Agent(智能體)在銀行業(yè)務(wù)場(chǎng)景的應(yīng)用日益增多。
相比傳統(tǒng)AI大模型，AI Agent能自主感知環(huán)境，并開(kāi)展自主決策、執(zhí)行動(dòng)作、反饋效果與迭代優(yōu)化，令金融機(jī)構(gòu)的運(yùn)營(yíng)效率與業(yè)務(wù)風(fēng)險(xiǎn)識(shí)別防范能力“更上一層樓”。
目前，部分歐美大型銀行機(jī)構(gòu)已嘗試使用AI Agent，自主回復(fù)用戶(hù)的各種金融業(yè)務(wù)疑問(wèn)，進(jìn)一步提升智能客服響應(yīng)效率與降低坐席人工成本。
奇富科技CEO吳海生此前接受記者專(zhuān)訪時(shí)表示，已有金融機(jī)構(gòu)嘗試在某些金融業(yè)務(wù)場(chǎng)景使用AI Agent。但它仍需具備三大條件：首先，金融機(jī)構(gòu)的AI Agent底層技術(shù)需發(fā)展得足夠好；其次，金融機(jī)構(gòu)需要找到適合AI Agent的業(yè)務(wù)場(chǎng)景，并形成相應(yīng)的產(chǎn)品服務(wù)；第三，這項(xiàng)基于AI Agent的金融服務(wù)體驗(yàn)是否足夠無(wú)感與優(yōu)雅，讓用戶(hù)喜歡這個(gè)“小助手”。
上述城商行IT部門(mén)人士向記者透露，此前他們?cè)鴩L試引入AI Agent技術(shù)應(yīng)用在客服、內(nèi)部辦公、客戶(hù)營(yíng)銷(xiāo)等場(chǎng)景，但他們很快發(fā)現(xiàn)，算力瓶頸是制約國(guó)內(nèi)中小銀行布局AI Agent技術(shù)的一大挑戰(zhàn)。相比AI大模型，由于AI Agent強(qiáng)調(diào)自主感知與自主決策，需要更多算力開(kāi)展數(shù)據(jù)訓(xùn)練與算法優(yōu)化，從而確保AI Agent在用戶(hù)個(gè)性化金融服務(wù)需求面前做出準(zhǔn)確專(zhuān)業(yè)的決策。這意味著銀行需要購(gòu)買(mǎi)更多GPU卡以支持AI Agent研發(fā)應(yīng)用。
“鑒于Deepseek的算力消耗要求與數(shù)據(jù)訓(xùn)練成本較低，我們正考慮能否通過(guò)Deepseek訓(xùn)練AI Agent。”他告訴記者。
記者多方了解到，盡管Deepseek有助于降低銀行研發(fā)AI Agent的算力束縛，但AI Agent能否快速應(yīng)用在銀行部分業(yè)務(wù)場(chǎng)景，仍存在一定變數(shù)。究其原因，是相比開(kāi)源的LLM大語(yǔ)言模型技術(shù)既可以在本地環(huán)境進(jìn)行部署且能更好控制與管理數(shù)據(jù)以滿(mǎn)足監(jiān)管要求，AI Agent技術(shù)尚未完全成熟，銀行如何做好數(shù)據(jù)隱私保護(hù)、數(shù)據(jù)加密和訪問(wèn)控制等合規(guī)操作要求，仍需相關(guān)部門(mén)出臺(tái)具體細(xì)則。因此AI Agent主要在銀行內(nèi)部某些基礎(chǔ)、簡(jiǎn)單、通用、不涉及用戶(hù)數(shù)據(jù)外泄風(fēng)險(xiǎn)的業(yè)務(wù)場(chǎng)景使用。
李峰此前接受記者專(zhuān)訪時(shí)透露，盡管AI Agent發(fā)展速度相當(dāng)快，但由于金融機(jī)構(gòu)屬于強(qiáng)監(jiān)管行業(yè)，相關(guān)部門(mén)是否允許AI大模型自主開(kāi)展金融業(yè)務(wù)決策，仍是未知數(shù)。金融機(jī)構(gòu)在使用AI Agent時(shí)，仍需高度關(guān)注合規(guī)操作風(fēng)險(xiǎn)。
上述股份制銀行IT部門(mén)人士告訴記者，隨著AI Agent技術(shù)日益成熟，加之?dāng)?shù)據(jù)加密調(diào)取技術(shù)持續(xù)進(jìn)步、金融機(jī)構(gòu)嘗試將AI Agent應(yīng)用在部分金融業(yè)務(wù)場(chǎng)景，將是一種趨勢(shì)。畢竟，AI Agent能發(fā)揮更強(qiáng)的智能化服務(wù)與降本增效作用。但這項(xiàng)趨勢(shì)能否落地的一大前提，是銀行能否有效解決AI Agent等前沿大模型技術(shù)自身存在的風(fēng)險(xiǎn)，比如技術(shù)風(fēng)險(xiǎn)、運(yùn)營(yíng)風(fēng)險(xiǎn)、道德風(fēng)險(xiǎn)，以及對(duì)客戶(hù)隱私數(shù)據(jù)的保護(hù)風(fēng)險(xiǎn)等。
【免責(zé)聲明】本文僅代表作者本人觀點(diǎn)，與和訊網(wǎng)無(wú)關(guān)。和訊網(wǎng)站對(duì)文中陳述、觀點(diǎn)判斷保持中立，不對(duì)所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請(qǐng)讀者僅作參考，并請(qǐng)自行承擔(dān)全部責(zé)任。郵箱：news_center@staff.hexun.com
最新評(píng)論