訂閱
糾錯(cuò)
加入自媒體

金融和大模型的“兩層皮”問(wèn)題

2023-09-20 09:04
腦極體
關(guān)注

幾年前,我采訪一位產(chǎn)業(yè)專家,他提到了一個(gè)高科技到產(chǎn)業(yè)落地的主要困惑:兩層皮。

一些特別牛的技術(shù)成果在論文上發(fā)表了,這是一層皮。企業(yè)的技術(shù)人員,將這些成果產(chǎn)品化、商品化的時(shí)候,可能出于工程化的原因,會(huì)做一些簡(jiǎn)化,這是另一層皮。

兩層皮之間,是有g(shù)ap的,就像賣家秀和買家秀一樣,并不是融合且一致的。

而往往是那些有技術(shù)人才、研發(fā)能力、轉(zhuǎn)化意愿的企業(yè),會(huì)先碰到“兩層皮”的問(wèn)題,產(chǎn)生對(duì)技術(shù)有效性、ROI回報(bào)率不明確的疑慮。

在沖入大模型熱潮的各路人馬中,金融機(jī)構(gòu)可能是率先遭遇“兩層皮”挑戰(zhàn)的。

我們知道,金融產(chǎn)業(yè)一貫是新技術(shù)的早期采用者,在AI方面的嘗試很早就開(kāi)始了,可以說(shuō)是產(chǎn)業(yè)AI化的“優(yōu)等生”,更是有著良好的信息化、數(shù)字化基礎(chǔ)。金融機(jī)構(gòu)的前中后臺(tái)各個(gè)場(chǎng)景中,都有被大模型降本增效的空間。因此,金融也被認(rèn)為是大模型落地的首選場(chǎng)景。

作為大模型落地的先行者,金融領(lǐng)域如果解決不了“兩層皮”的問(wèn)題,意味著大模型在實(shí)際應(yīng)用中還是存在賣家秀和買家秀的差距。

本文希望說(shuō)清楚,究竟是哪些問(wèn)題拉開(kāi)了金融和大模型之間的gap?

問(wèn)題一:以誰(shuí)為主?

既然是做大模型,當(dāng)然是由OpenAI/BAT這樣的科技企業(yè)和技術(shù)公司為主導(dǎo)了,而這也是金融機(jī)構(gòu)不想看到的事。

有個(gè)金融領(lǐng)域的專家告訴我們,這波大模型的熱度起來(lái)之后,金融機(jī)構(gòu)都特別焦慮,有一種FOMO(Fear of Missing Out害怕錯(cuò)過(guò))情緒。

因?yàn)樯弦徊夹g(shù)浪潮,智能手機(jī)和移動(dòng)互聯(lián)網(wǎng)崛起,導(dǎo)致傳統(tǒng)銀行、券商的很多業(yè)務(wù),被互聯(lián)網(wǎng)金融公司分走了。在業(yè)內(nèi)人看來(lái),這種“史詩(shī)級(jí)的悲劇”絕不能重演。

在技術(shù)焦慮的驅(qū)動(dòng)下,金融機(jī)構(gòu)非常積極想跟上大模型的風(fēng)口,幾乎不需要科技廠商做太多市場(chǎng)教育,整個(gè)行業(yè)在接納大模型這件事上表現(xiàn)極其良好。

同時(shí),金融機(jī)構(gòu)也非常重視將金融大模型的“核心籌碼”牢牢掌握自己手里,強(qiáng)調(diào)“以我為主”。有銀行業(yè)人士提出:只有適應(yīng)銀行的大模型,才是真正可以深度應(yīng)用到場(chǎng)景里、業(yè)務(wù)流程中的大模型。具體怎么做呢?

一類是硬籌碼。

對(duì)金融機(jī)構(gòu)來(lái)說(shuō),數(shù)據(jù)安全隱私合規(guī),是沒(méi)有妥協(xié)的硬指標(biāo),有非常嚴(yán)格的要求。這也就導(dǎo)致,大模型落地金融更加需要本地化的搭建和私有化部署、運(yùn)行。

本地部署的要求,對(duì)大模型廠商來(lái)說(shuō)有利有弊。有利的地方是,相比其他行業(yè)直接調(diào)用API接口的MaaS模式,本地部署的客單價(jià)高、利潤(rùn)大,商業(yè)價(jià)值更高。不利的地方在于,私有部署需要在云化方案、數(shù)據(jù)處理、存儲(chǔ)、模型訓(xùn)練、提示工程、運(yùn)維服務(wù)等多方面,形成一套完整的解決方案,競(jìng)爭(zhēng)焦點(diǎn)不僅是基座模型本身,這就增加了技術(shù)服務(wù)商的成本和難度。

另一類是軟籌碼。

金融大模型要表現(xiàn)良好,需要專有數(shù)據(jù)的精調(diào)、領(lǐng)域知識(shí)的引入、基于場(chǎng)景的反饋,而銀行業(yè)本身的數(shù)字化基礎(chǔ)非常好,數(shù)據(jù)積累深厚,這便成了掌握在手中的軟籌碼。

摩根斯坦利公司在研發(fā)生成式AI產(chǎn)品中,就結(jié)合超過(guò)10萬(wàn)份財(cái)務(wù)報(bào)告、內(nèi)部資料和金融文獻(xiàn)等,對(duì)OpenAI的基礎(chǔ)模型進(jìn)行微調(diào)。據(jù)透露,我國(guó)農(nóng)業(yè)銀行業(yè)也沉淀了2.6TB的高質(zhì)量訓(xùn)練數(shù)據(jù),用于大模型的訓(xùn)練。此外,基礎(chǔ)大模型雖然通識(shí)能力很強(qiáng),但“專業(yè)課”能力不足,缺少金融專業(yè)知識(shí),加上金融場(chǎng)景業(yè)務(wù)復(fù)雜,初出茅廬的大模型,要形成高質(zhì)量的服務(wù)能力,成為優(yōu)秀的“AI副駕駛”,并不容易。

這就要求,大模型廠商和技術(shù)公司,改變“技術(shù)為中心”“我是來(lái)賦能/顛覆你的”的慣有思路,增強(qiáng)服務(wù)意識(shí),與金融客戶合作,以金融客戶為主。

大模型落地金融絕不是,也不能是又一次“技術(shù)顛覆行業(yè)”。無(wú)論是通用大模型廠商還是ISV服務(wù)商集成商,都要在“客戶為主”這條baseline(基線)上跳舞。

問(wèn)題二:融合為什么難?

以金融機(jī)構(gòu)為主,那科技公司豈不是成了“大模型施工隊(duì)”,只能收點(diǎn)辛苦費(fèi),發(fā)揮不了技術(shù)創(chuàng)新性了?

大no特no。

一來(lái),金融AI不是新事物。

金融機(jī)構(gòu),并不是大家想的那樣,面對(duì)AI一竅不通。事實(shí)上,在所有行業(yè)里,金融領(lǐng)域的“含AI量”絕對(duì)是排名前列的。幾年前我采訪國(guó)內(nèi)某985高校人工智能學(xué)院的院長(zhǎng),對(duì)方直言,AI方向的學(xué)生畢業(yè)后不去BAT、不去創(chuàng)業(yè)公司,去的是招商銀行這類金融機(jī)構(gòu)下面的信息中心/技術(shù)中心,搞金融的人工智能。

所以,金融AI的趨勢(shì)其實(shí)早在幾年前,就已經(jīng)大幅開(kāi)展了,這也是為什么今年大模型熱度剛起,國(guó)內(nèi)工行、平安、農(nóng)行、招商銀行、中信銀行等一大波銀行,能很快組建了自己的GPT大模型專項(xiàng)研究團(tuán)隊(duì)。銀行能及時(shí)行動(dòng),靠的就是幾年來(lái)投入AI的積累。所以,以金融機(jī)構(gòu)為主,也做得好金融大模型。

二來(lái),大模型是個(gè)新事物。

大模型究竟比這些“傳統(tǒng)AI”強(qiáng)在哪里,能干什么?這是一個(gè)完全空白的新問(wèn)題。

理論上講,大模型可以貫穿銀行全產(chǎn)業(yè)鏈的各個(gè)環(huán)節(jié),每條業(yè)務(wù)線、每個(gè)智能都能找到LLM的應(yīng)用場(chǎng)景。但現(xiàn)實(shí)中,全環(huán)節(jié)全面上馬大模型,怎么跟業(yè)務(wù)結(jié)合都不清楚,意味著會(huì)有大量探索是失敗的、浪費(fèi)的。

要加速探索、減少成本、降低風(fēng)險(xiǎn)就必須金融機(jī)構(gòu)和科技公司一起,讓金融專家、算法科學(xué)家、工程師、測(cè)試員等坐在一起,一點(diǎn)一點(diǎn)地共同探索,深入洞察場(chǎng)景,對(duì)需求“去偽存真”。

有金融機(jī)構(gòu)的負(fù)責(zé)人直言,今天金融業(yè)能夠獲取的智能化應(yīng)用非常豐富,翻開(kāi)AI企業(yè)的金融產(chǎn)品推介手冊(cè),可以看到上百個(gè)細(xì)分能力,但如何選取最合適的整合到自家機(jī)構(gòu)的業(yè)務(wù)中,這個(gè)過(guò)程中會(huì)有大量的試錯(cuò)。

目前來(lái)看,業(yè)內(nèi)基本已經(jīng)達(dá)成共識(shí),金融大模型,必須優(yōu)選場(chǎng)景。有幾個(gè)關(guān)鍵詞:

1.高頻次。在一些重點(diǎn)場(chǎng)景、重點(diǎn)應(yīng)用上,盡快讓大模型可以上崗解決問(wèn)題,降低應(yīng)用的門檻。比如智能客服、智能投顧等原本的勞動(dòng)密集型崗位,可以很快帶來(lái)顯著的降本增效成果。

2.高價(jià)值。對(duì)于一些有社會(huì)價(jià)值、商業(yè)價(jià)值的領(lǐng)域,率先開(kāi)始探索。比如普惠金融,就是目前從政府到民間都非?粗械慕鹑诜⻊(wù),需要精準(zhǔn)的數(shù)據(jù)洞察、更低成本、高可及性的服務(wù)能力,去綜合降低中小微企業(yè)/商家的金融成本。其中,大模型的多模態(tài)表達(dá)能力、強(qiáng)大的理解分析能力都可以發(fā)揮很好的作用。

3.易部署。不少金融從業(yè)者,聽(tīng)到大模型的第一反應(yīng)是,這事兒小模型能干嗎?大模型對(duì)硬件基礎(chǔ)設(shè)施的算力、穩(wěn)定性等都提出了更高的要求,金融機(jī)構(gòu)又在加速推進(jìn)國(guó)產(chǎn)化硬件,各個(gè)業(yè)務(wù)線都部署大模型,帶來(lái)的性能壓力、成本壓力、部署壓力都是非常大的。所以,大模型壓縮優(yōu)化后或者同樣效果的小模型,可以落地的業(yè)務(wù)場(chǎng)景,比如大模型生成銀行理財(cái)產(chǎn)品推薦建議,大模型作為券商機(jī)構(gòu)的研究助理,對(duì)這些已經(jīng)在應(yīng)用的傳統(tǒng)AI,用大模型進(jìn)行升級(jí),不會(huì)增加過(guò)高的算力成本和工程量,是更易落地的漸進(jìn)式場(chǎng)景。

正因?yàn)榇竽P褪且粚悠,?shí)際應(yīng)用是另一層皮,兩層皮怎么融合,在哪些場(chǎng)景優(yōu)先融合,是一條無(wú)人走過(guò)的路。金融機(jī)構(gòu)和科技企業(yè),都不能獨(dú)行,唯有緊密配合,才能尋找到金融場(chǎng)景與大模型之間的最佳融合之路。

問(wèn)題三:鐐銬怎么這么多?

是不是找到場(chǎng)景,重點(diǎn)攻克,然后規(guī);瘡(fù)制,金融大模型就能突飛猛進(jìn)了?

我們說(shuō)金融機(jī)構(gòu)“人多、錢多、技術(shù)多”,只是相對(duì)其他行業(yè)而言,F(xiàn)實(shí)中,金融機(jī)構(gòu)也不可能拿出無(wú)限的預(yù)算、投入無(wú)限的人力、開(kāi)放無(wú)限的場(chǎng)景,供大模型隨意大顯身手。而且,金融領(lǐng)域還存在大量的中小銀行、券商,能負(fù)擔(dān)的技術(shù)創(chuàng)新成本也是有限的。

一位銀行從業(yè)者提到AIGC就說(shuō):競(jìng)爭(zhēng)是加劇的,人員是有限的,人才是缺乏的,費(fèi)用是緊張的。

可以說(shuō),帶著鐐銬跳舞,正是金融和大模型“兩層皮”“賣家秀和買家秀”的關(guān)鍵原因。

比如算力的問(wèn)題。國(guó)產(chǎn)化替代進(jìn)程中,金融大模型要打破訓(xùn)練昂貴、算力成本高的桎梏,對(duì)模型廠商的硬件基礎(chǔ)、自研能力、生態(tài)兼容能力、軟件協(xié)同優(yōu)化,提出了綜合的考驗(yàn)。

目前,頭部云廠商都下大力氣在自研硬件上,比如百度的昆侖、阿里的倚天、華為的昇騰,以及配套的軟件、生態(tài),沒(méi)有這些很難真正拿下金融大模型。

還有技術(shù)本身的限制。坦率來(lái)說(shuō),大模型技術(shù)本身還存在不少問(wèn)題,尤其是在金融領(lǐng)域落地,必須解決幻覺(jué)問(wèn)題,胡說(shuō)八道對(duì)嚴(yán)謹(jǐn)?shù)慕鹑跇I(yè)務(wù)是不可接受的。模型黑箱性會(huì)導(dǎo)致AI智能決策不可信、不敢信,無(wú)法真正用于金融投顧、市場(chǎng)分析決策。

另外,金融機(jī)構(gòu)也會(huì)衡量ROI投入產(chǎn)出比。但因?yàn)榻鹑趫?chǎng)景中,已經(jīng)沉淀了大量的傳統(tǒng)AI,比如智能客服,大家可能都接過(guò)機(jī)器人打來(lái)的產(chǎn)品推銷電話、賬單催收電話。

所以引入大模型后,究竟能給客戶帶來(lái)多少收益,回報(bào)產(chǎn)出比ROI怎么評(píng)估,哪些是大模型帶來(lái)的提升,這些目前還沒(méi)有一個(gè)明確的衡量標(biāo)準(zhǔn)。

無(wú)法量化大模型給業(yè)務(wù)帶來(lái)的貢獻(xiàn),顯然會(huì)導(dǎo)致大模型廠商的無(wú)序競(jìng)爭(zhēng),或者比拼客戶關(guān)系,這也成為金融大模型效果不彰的一個(gè)隱憂。

消除產(chǎn)業(yè)和大模型之間的gap,將會(huì)是接下來(lái),大模型賽道的標(biāo)準(zhǔn)動(dòng)作。

這個(gè)過(guò)程中,最早遇到“兩層皮”問(wèn)題的金融大模型,或許會(huì)提供大量有益的參考和實(shí)踐,而金融機(jī)構(gòu)也會(huì)成為更早挖掘到金礦的第一批大模型淘金者。

       原文標(biāo)題 : 金融和大模型的“兩層皮”問(wèn)題

聲明: 本文由入駐維科號(hào)的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場(chǎng)。如有侵權(quán)或其他問(wèn)題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過(guò)于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號(hào)
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯(cuò)
x
*文字標(biāo)題:
*糾錯(cuò)內(nèi)容:
聯(lián)系郵箱:
*驗(yàn) 證 碼:

粵公網(wǎng)安備 44030502002758號(hào)