21世紀(jì)經(jīng)濟(jì)報(bào)道 記者李愿 北京報(bào)道
在以ChatGPT等為代表的人工智能大模型應(yīng)用快速發(fā)展背景下,今年3月,中國(guó)農(nóng)業(yè)銀行在同業(yè)中率先推出類ChatGPT的AI大模型應(yīng)用ChatABC(中文名:小數(shù)),并在該行科技問(wèn)答場(chǎng)景進(jìn)行了內(nèi)部試點(diǎn)。目前,ChatABC試點(diǎn)情況如何,未來(lái)還有哪些規(guī)劃?如何看待大模型對(duì)銀行業(yè)數(shù)字化轉(zhuǎn)型的影響,以及對(duì)未來(lái)發(fā)展有何展望,《21世紀(jì)經(jīng)濟(jì)報(bào)道》記者近日對(duì)中國(guó)農(nóng)業(yè)銀行研發(fā)中心副總經(jīng)理趙煥芳進(jìn)行了專訪。
趙煥芳對(duì)記者表示,大模型的出現(xiàn)會(huì)加速銀行數(shù)字化轉(zhuǎn)型的效率和質(zhì)量,是各個(gè)銀行必須重視的發(fā)展方向。但大模型在金融領(lǐng)域的應(yīng)用,目前還處于探索試點(diǎn)的初級(jí)階段,主要是面臨算力需求大、數(shù)據(jù)要求高、模型定制難、場(chǎng)景深入難、生態(tài)構(gòu)建難、人才培養(yǎng)難六個(gè)方面的挑戰(zhàn)。
“國(guó)內(nèi)金融機(jī)構(gòu)優(yōu)先在智能客服、知識(shí)問(wèn)答、輔助編程、智能辦公等領(lǐng)域開展探索嘗試。”談及具體應(yīng)用時(shí),趙煥芳告訴記者,ChatABC目前在智能問(wèn)答、智能客服、輔助編程、智能辦公、智能風(fēng)控等多個(gè)領(lǐng)域同步進(jìn)行試點(diǎn),今年下半年還進(jìn)一步提出“大模型+”的建設(shè)理念,規(guī)劃了智能客服、智能研發(fā)、智慧三農(nóng)等9大領(lǐng)域,30余個(gè)場(chǎng)景,逐步培育“大模型+”生態(tài),賦能數(shù)字化轉(zhuǎn)型提質(zhì)增效。
趙煥芳認(rèn)為,大模型未來(lái)可期,為了更好推進(jìn)大模型在銀行業(yè)的應(yīng)用,希望行業(yè)一起,能夠構(gòu)建更大范圍的大模型應(yīng)用生態(tài)體系,提供大模型快速落地、快速見(jiàn)效的探索實(shí)踐案例,加強(qiáng)人才培養(yǎng)和技術(shù)交流,共享時(shí)代賦予的AI大模型技術(shù)發(fā)展紅利。
趙煥芳,受訪者供圖
大模型為銀行業(yè)數(shù)字化轉(zhuǎn)型提供更強(qiáng)有力支撐
《21世紀(jì)》:你怎么看大模型對(duì)金融機(jī)構(gòu)尤其是銀行業(yè)業(yè)務(wù)的影響,是否會(huì)對(duì)銀行數(shù)字化轉(zhuǎn)型邏輯帶來(lái)改變?
趙煥芳:大模型讓人工智能走向了通用人工智能,業(yè)界普遍認(rèn)為點(diǎn)燃了AI革命的“瀏覽器時(shí)刻”和 “iPhone時(shí)刻”。以ChatGPT(GPT-4)為代表的大模型在邏輯推理、對(duì)話、多模態(tài)信息理解與生成等方面,展現(xiàn)了巨大的應(yīng)用潛力。
大模型極大提升了AI應(yīng)用的效率。拿武俠做個(gè)類比,傳統(tǒng)AI模型像是學(xué)會(huì)了八卦刀、梯云縱的武林人士,每一門武功都需要專門學(xué)習(xí),且學(xué)習(xí)時(shí)間很長(zhǎng)。大模型就像學(xué)會(huì)了九陰真經(jīng),打通了任督二脈,不管是少林長(zhǎng)拳,還是武當(dāng)太極拳,都能很快學(xué)會(huì),而且威力巨大。大模型相對(duì)于傳統(tǒng)AI模型,就體現(xiàn)為通用智能的能力更強(qiáng),適用場(chǎng)景更廣泛,應(yīng)用效率更高。
大模型之所以能夠具備一定程度的通用智能,來(lái)源于大模型特有的兩個(gè)特點(diǎn),一個(gè)叫“頓悟”,一個(gè)叫“涌現(xiàn)”?!邦D悟”是指模型學(xué)習(xí)了大量的樣本之后,忽然對(duì)于未知的樣本有了很好的預(yù)測(cè)能力,例如:學(xué)習(xí)了大量的1+1=2,2+2=4的案例后,頓悟了四則運(yùn)算的規(guī)律,就是所謂的“書讀百遍,其義自見(jiàn)”;“涌現(xiàn)”是指,當(dāng)模型參數(shù)量大到一定量級(jí)之后,出現(xiàn)一個(gè)非線性的智能能力的跳變,涌現(xiàn)出非常強(qiáng)的邏輯推理能力和思維能力,就是所謂的“忽如一夜春風(fēng)來(lái),千樹萬(wàn)樹梨花開”。
銀行的數(shù)字化轉(zhuǎn)型的本質(zhì)是用數(shù)據(jù)+算法的手段,以數(shù)字能力建設(shè)為核心,利用數(shù)字技術(shù)對(duì)業(yè)務(wù)流程、服務(wù)模式、運(yùn)營(yíng)方式等進(jìn)行數(shù)字化重塑和改造,提高經(jīng)營(yíng)效率、提升服務(wù)水平等。銀行的數(shù)字化轉(zhuǎn)型,“用數(shù)”是關(guān)鍵。而以大模型為代表的人工智能,則是“用數(shù)”的高級(jí)階段,應(yīng)用大模型預(yù)計(jì)未來(lái)會(huì)降低“用數(shù)”的門檻、提升“用數(shù)”的效能,數(shù)字技術(shù)可以更深入地賦能營(yíng)銷、風(fēng)控、運(yùn)營(yíng)、決策等銀行業(yè)務(wù),為銀行業(yè)數(shù)字化轉(zhuǎn)型提供更強(qiáng)有力的支撐。
總結(jié)來(lái)說(shuō),大模型的出現(xiàn)會(huì)加速銀行數(shù)字化轉(zhuǎn)型的效率和質(zhì)量,是各個(gè)銀行必須重視的發(fā)展方向。
《21世紀(jì)》:大模型發(fā)展較好的國(guó)家,銀行業(yè)在哪些場(chǎng)景上有大模型的應(yīng)用,這對(duì)我國(guó)銀行業(yè)有何啟示?
趙煥芳:當(dāng)前,國(guó)內(nèi)外一些金融機(jī)構(gòu),都在積極探索大模型。例如:彭博在今年3月30日發(fā)布了BloombergGPT,該模型支持在輿論分析、量化交易、風(fēng)險(xiǎn)控制等多個(gè)方面賦能金融企業(yè),與之類似的還有開源的FinGPT;摩根斯坦利則集成了OpenAI的服務(wù)作為財(cái)務(wù)顧問(wèn)工具;摩根大通則利用大模型分析電子郵件的潛在風(fēng)險(xiǎn)。
當(dāng)然,國(guó)外金融業(yè)在大模型的應(yīng)用上也存在截然不同的態(tài)度。諸如美國(guó)銀行、花旗銀行、德意志銀行、高盛和富國(guó)銀行等,認(rèn)為大模型存在數(shù)據(jù)安全和隱私保護(hù)等方面的問(wèn)題,因此限制員工和交易過(guò)程中使用ChatGPT等服務(wù)。
對(duì)大模型應(yīng)用的兩種態(tài)度,一定程度上反映了目前大模型的創(chuàng)新突破和應(yīng)用局限。如何既發(fā)揮大模型的優(yōu)勢(shì),同時(shí)避免帶來(lái)安全隱患,給我們的啟示有如下三點(diǎn):
一是安全為基:金融機(jī)構(gòu)的數(shù)據(jù)是高度敏感,涉及客戶隱私和金融安全,必須在安全可控的環(huán)境下訓(xùn)練、微調(diào)和使用大模型,嚴(yán)格按照《生成式人工智能服務(wù)管理暫行辦法》等監(jiān)管要求開展相關(guān)工作,保持底線思維,穩(wěn)步推進(jìn),切實(shí)維護(hù)國(guó)家金融安全和客戶公共利益。
二是可控為要:金融機(jī)構(gòu)使用大模型必須采用私有化部署方式,預(yù)訓(xùn)練的數(shù)據(jù)要確保合法性、合規(guī)性和準(zhǔn)確性,避免模型出現(xiàn)價(jià)值觀、倫理道德、知識(shí)混淆等方面的問(wèn)題。在通用大模型的基礎(chǔ)上需要進(jìn)一步微調(diào)形成熟悉本領(lǐng)域、本單位的專用大模型,更好地支持行內(nèi)的場(chǎng)景應(yīng)用。
三是應(yīng)用為王:大模型是高投入的領(lǐng)域,面臨算力、數(shù)據(jù)、人才等多方面的挑戰(zhàn),金融機(jī)構(gòu)要堅(jiān)持“邊用邊建”的指導(dǎo)思想,找準(zhǔn)應(yīng)用場(chǎng)景的切入口,優(yōu)先在知識(shí)檢索、客服輔助、編碼生成等方面積累經(jīng)驗(yàn),并逐步向風(fēng)控、決策、投研等核心業(yè)務(wù)領(lǐng)域深入探索,分步驟完成體系建設(shè),積極穩(wěn)妥地持續(xù)釋放業(yè)務(wù)價(jià)值。
大模型金融領(lǐng)域應(yīng)用處于探索試點(diǎn)初級(jí)階段
《21世紀(jì)》:我國(guó)?模型如果要將大規(guī)模應(yīng)用到銀行業(yè)的具體場(chǎng)景上,可能面臨哪些障礙或者短板?
趙煥芳:大模型在金融領(lǐng)域的應(yīng)用,目前還處于探索試點(diǎn)的初級(jí)階段,仍然面臨以下幾個(gè)方面的挑戰(zhàn):
第一,算力需求大。大模型需要大算力,英偉達(dá)GPU算力受限。國(guó)內(nèi)頭部廠商的芯片需要加快發(fā)展,尤其是生態(tài)建設(shè)要盡快培育。同時(shí)算力資源的高效調(diào)度、異構(gòu)融合和提質(zhì)挖潛,也是突破算力限制的重要方向。
第二,數(shù)據(jù)要求高。大模型訓(xùn)練依賴有組織的、高質(zhì)量的數(shù)據(jù),銀行要建立完整的大數(shù)據(jù)體系,持續(xù)推進(jìn)數(shù)據(jù)治理和質(zhì)量提升,進(jìn)一步完善數(shù)據(jù)清洗、標(biāo)注工作平臺(tái)和流程;要有更完善的數(shù)據(jù)安全、數(shù)據(jù)隱私保護(hù)的機(jī)制,確保模型訓(xùn)練、應(yīng)用的全流程閉環(huán)的管理。
第三,模型定制難。現(xiàn)在通用的大模型多,但是行業(yè)大模型、垂直領(lǐng)域大模型少,真正懂銀行的大模型更是只能自主定制。定制模型投入高、周期長(zhǎng)、難度大,需要銀行具備算力、人才等各方面的儲(chǔ)備。訓(xùn)練和使用中還要解決模型遺忘、模型對(duì)齊等難題。
第四,場(chǎng)景深入難。目前大模型的概念很熱,各種應(yīng)用效果宣傳的也很多,但是要和真實(shí)業(yè)務(wù)結(jié)合,卻往往是“有想法、沒(méi)辦法”,歸根結(jié)底是大模型存在“幻覺(jué)”的局限性。如何揚(yáng)長(zhǎng)避短,把大模型應(yīng)用到更核心、更嚴(yán)謹(jǐn)?shù)臉I(yè)務(wù)場(chǎng)景中是擴(kuò)大應(yīng)用的重中之重。
第五,生態(tài)構(gòu)建難。大模型的快速、深入應(yīng)用依賴于完整的生態(tài)支撐。大模型相關(guān)技術(shù)快速發(fā)展,很難由一家企業(yè)機(jī)構(gòu)全部包辦。如何構(gòu)建產(chǎn)學(xué)研各界協(xié)同創(chuàng)新的生態(tài)系統(tǒng)是大模型走向產(chǎn)業(yè)深度應(yīng)用的挑戰(zhàn)。
第六,人才培養(yǎng)難。懂大模型、懂金融、懂?dāng)?shù)據(jù)的復(fù)合型人才是一將難求。傳統(tǒng)AI人才面對(duì)大模型,也在算力資源調(diào)度、模型訓(xùn)練穩(wěn)定性、模型性能調(diào)優(yōu)等方面需要補(bǔ)課。尤其是金融機(jī)構(gòu)如何進(jìn)行大模型人才的培養(yǎng)、如何把AI人才持續(xù)盤活,是亟需解決的難題。
國(guó)家網(wǎng)信辦聯(lián)合發(fā)改委、教育部等部門發(fā)布了《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》。該辦法在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,維護(hù)國(guó)家安全和公民利益方面給出了根本遵循。既是促進(jìn)生成式人工智能健康發(fā)展的重要要求,也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的現(xiàn)實(shí)需要。一定程度上采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,同時(shí)實(shí)行包容審慎和分類分級(jí)監(jiān)管。我們也會(huì)持續(xù)保持對(duì)于法律法規(guī)、監(jiān)管政策的跟蹤和落實(shí),審慎應(yīng)用,守住數(shù)據(jù)安全和金融安全的底線。
《21世紀(jì)》:算?是我國(guó)?模型?質(zhì)量發(fā)展的短板之?,你認(rèn)為銀?業(yè)可以采取哪些?式來(lái)應(yīng)對(duì),農(nóng)業(yè)銀?是如何做的?
趙煥芳:算力是阻礙金融行業(yè)大模型發(fā)展的障礙之一。眾所周知,目前先進(jìn)的GPU芯片受到限制。金融機(jī)構(gòu)要加快布局多元化的AI芯片,共同培育軟硬一體化的生態(tài)體系。有條件的金融機(jī)構(gòu)建議建立全面自主的算力環(huán)境,但是考慮到算力的建設(shè)成本高、周期長(zhǎng),需要機(jī)房、網(wǎng)絡(luò)、供電等配套的同步升級(jí),不具備條件的銀行也可以租用公有云算力快速滿足需求。
面對(duì)GPU算力短缺的問(wèn)題,農(nóng)業(yè)銀行的策略是“開源節(jié)流”:
開源,穩(wěn)步擴(kuò)展多元化算力支持能力:布局多元化算力體系,構(gòu)建云原生的AI算力基礎(chǔ);聯(lián)合國(guó)內(nèi)頭部AI算力廠商持續(xù)推進(jìn)大模型與基礎(chǔ)設(shè)施的適配,積極推進(jìn)國(guó)內(nèi)頭部算力芯片試點(diǎn)驗(yàn)證,同時(shí)推動(dòng)多元化芯片與原有GPU算力集群的異構(gòu)融合,保持對(duì)算力資源的整體高效利用。
節(jié)流,高效利用現(xiàn)有算力資源:主要是對(duì)現(xiàn)有算力資源進(jìn)行挖潛。一方面持續(xù)進(jìn)行AI框架優(yōu)化,通過(guò)應(yīng)用加速框架、量化壓縮等方法,持續(xù)探索降低訓(xùn)練側(cè)、推理側(cè)的算力資源占用。另一方面推進(jìn)動(dòng)態(tài)算力調(diào)度。結(jié)合算力上云與算力編排,實(shí)現(xiàn)計(jì)算任務(wù)的細(xì)粒度動(dòng)態(tài)調(diào)度,支持計(jì)算資源的動(dòng)態(tài)均衡分配,提升AI算力的利用效率。
農(nóng)業(yè)銀行正逐步培育“大模型+”生態(tài)
《21世紀(jì)》:目前銀行機(jī)構(gòu)在積極探索大模型在銀行應(yīng)用場(chǎng)景的落地,主要聚焦在哪些方面,不同類型的銀行有何不同?農(nóng)業(yè)銀行在哪些領(lǐng)域作了嘗試,效果如何?
趙煥芳:國(guó)內(nèi)金融機(jī)構(gòu)優(yōu)先在智能客服、知識(shí)問(wèn)答、輔助編程、智能辦公等領(lǐng)域開展探索嘗試,一方面是大模型在這些場(chǎng)景上有更好的表現(xiàn),另一方面是這些場(chǎng)景相對(duì)來(lái)說(shuō)對(duì)大模型的“幻覺(jué)”容忍度更高。
具體應(yīng)用的時(shí)候,金融機(jī)構(gòu)綜合資源投入、技術(shù)積累等方面的考量,采用不同的策略。大型銀行更傾向于“深度定制、建用結(jié)合”的自建模式,注重大模型能力體系建設(shè),包括算力、AI平臺(tái)、模型訓(xùn)練能力等;會(huì)結(jié)合自身數(shù)據(jù)優(yōu)勢(shì)訓(xùn)練定制化的大模型,會(huì)更加聚焦于自身大模型能力的沉淀,打造平臺(tái)化的支撐模式。中小型銀行可能會(huì)采取“直接引入、輕量快速”的引用策略,會(huì)更關(guān)注行業(yè)大模型、通用大模型的直接引入,通過(guò)API調(diào)用等形式,快速輕量對(duì)接場(chǎng)景應(yīng)用。
農(nóng)業(yè)銀行始終堅(jiān)持對(duì)前沿技術(shù)的敏感和熱情,構(gòu)建了算力、數(shù)據(jù)、模型、工具和應(yīng)用五位一體的人工智能創(chuàng)新體系。在今年3月份創(chuàng)新推出大模型小數(shù)(ChatABC),該模型擁有百億級(jí)參數(shù),具備問(wèn)答、翻譯、編碼等功能。目前在智能問(wèn)答、智能客服、輔助編程、智能辦公、智能風(fēng)控等多個(gè)領(lǐng)域同步進(jìn)行試點(diǎn)。其中智能問(wèn)答場(chǎng)景已提供超過(guò)200萬(wàn)次問(wèn)答服務(wù);輔助編碼場(chǎng)景支持代碼生成、單測(cè)生成、代碼翻譯等功能,已超過(guò)8萬(wàn)行代碼投入生產(chǎn)應(yīng)用。
今年下半年,我們進(jìn)一步提出“大模型+”的建設(shè)理念,按照模型即服務(wù)(MAAS)方式,快速融入業(yè)務(wù)場(chǎng)景,規(guī)劃了智能客服、智能研發(fā)、智慧三農(nóng)等9大領(lǐng)域,30余個(gè)場(chǎng)景,逐步培育“大模型+”生態(tài),賦能數(shù)字化轉(zhuǎn)型提質(zhì)增效。
《21世紀(jì)》:你對(duì)?模型在銀?業(yè)的未來(lái)發(fā)展有何展望,同時(shí)在各??的政策上有何意見(jiàn)建議?
趙煥芳:隨著大模型在探索中前進(jìn),在嘗試中創(chuàng)新,未來(lái)以大模型為創(chuàng)新引擎,可能為銀行業(yè)帶來(lái)三個(gè)新的趨勢(shì):
新生態(tài)。從各自為戰(zhàn)的獨(dú)立應(yīng)用到共享的大模型生態(tài)。當(dāng)前國(guó)產(chǎn)大模型快速迭代升級(jí),行業(yè)應(yīng)用積極布局,進(jìn)入了互相促進(jìn)、相互牽引的良好局面。未來(lái)一定會(huì)從通用大模型到行業(yè)垂直大模型、企業(yè)私有大模型等多種模型共存,形成產(chǎn)業(yè)化、規(guī)?;瘧?yīng)用生態(tài)體系。
新應(yīng)用。從輔助支持型應(yīng)用到經(jīng)營(yíng)決策的核心流程應(yīng)用。受限于大模型幻覺(jué)、數(shù)據(jù)隱私保護(hù)等問(wèn)題,當(dāng)前大模型主要以輔助支持類為主,例如輔助編程、輔助問(wèn)答等。未來(lái)隨著大模型能力的提升,以及知識(shí)圖譜、知識(shí)庫(kù)等技術(shù)能力的加持,大模型會(huì)進(jìn)一步應(yīng)用到核心業(yè)務(wù)流程,如風(fēng)險(xiǎn)防控、智能投研等場(chǎng)景。
新產(chǎn)品。從原有流程優(yōu)化到大模型驅(qū)動(dòng)模式創(chuàng)新。當(dāng)前大模型的應(yīng)用多是在現(xiàn)有流程中的嵌入和優(yōu)化,并沒(méi)有出現(xiàn)類似ChatGPT的顛覆性金融產(chǎn)品。隨著大模型能力的增強(qiáng)和應(yīng)用的深入,肯定會(huì)發(fā)展出顛覆性的金融產(chǎn)品,大模型驅(qū)動(dòng)的模式創(chuàng)新才是未來(lái)競(jìng)爭(zhēng)最大的變數(shù)。
大模型未來(lái)可期,為了更好推進(jìn)大模型在銀行業(yè)的應(yīng)用,有如下建議:
一是規(guī)范指引:建議要加快出臺(tái)大模型在金融行業(yè)應(yīng)用的標(biāo)準(zhǔn)規(guī)范,要對(duì)大模型在銀行業(yè)的應(yīng)用給予適當(dāng)?shù)陌荻龋趫?jiān)守安全底線的基礎(chǔ)上,適當(dāng)鼓勵(lì)行業(yè)和企業(yè)進(jìn)行主動(dòng)創(chuàng)新。
二是協(xié)同創(chuàng)新:希望產(chǎn)學(xué)研各界聯(lián)合發(fā)力,面向業(yè)務(wù)賦能的最終目標(biāo),持續(xù)提升大模型能力。在算力、模型、平臺(tái)和人才培養(yǎng)等方面加強(qiáng)經(jīng)驗(yàn)交流,協(xié)同推進(jìn)孵化重點(diǎn)場(chǎng)景應(yīng)用試點(diǎn)。
三是穩(wěn)妥推進(jìn):大模型還在快速發(fā)展過(guò)程中,其中會(huì)有技術(shù)、數(shù)據(jù)和法規(guī)各方面的風(fēng)險(xiǎn)和挑戰(zhàn),尚未形成行業(yè)統(tǒng)一的解決方案。金融業(yè)在應(yīng)用大模型過(guò)程中要堅(jiān)持安全為第一考量,積極探索,穩(wěn)妥推進(jìn),及時(shí)與監(jiān)管部門同步相關(guān)進(jìn)展,確保過(guò)程安全可控。
希望行業(yè)一起,能夠構(gòu)建更大范圍的大模型應(yīng)用生態(tài)體系,提供大模型快速落地、快速見(jiàn)效的探索實(shí)踐案例,加強(qiáng)人才培養(yǎng)和技術(shù)交流,共享時(shí)代賦予的AI大模型技術(shù)發(fā)展紅利。