作者：毛宇 來源：IT時報

大模型時代會產(chǎn)生很多新物種。ChatGPT可能是通用大模型的第一個原生應(yīng)用，已成為史上實現(xiàn)1億月活用戶用時最短的App。隨著金融大模型的落地，行業(yè)也在呼喚新一代原生應(yīng)用的誕生。

10月19日，金融大模型LightGPT在2023恒生金融技術(shù)大會亮相。會上，恒生電子發(fā)布了該大模型最新的能力升級成果，以及基于LightGPT打造的多款光子系列大模型應(yīng)用產(chǎn)品，并宣布正式開放產(chǎn)品公測。

恒生電子董事長劉曙峰表示，當(dāng)前金融行業(yè)對于大模型技術(shù)的關(guān)注度和參與度很高，但在大模型實際落地過程中主要存在模型選擇難、算力供應(yīng)不足、應(yīng)用成熟度不足等問題。建議機構(gòu)可以通過選擇合適的金融大模型，采用大模型“私有化+MaaS服務(wù)”混合部署，基于場景驅(qū)動的金融垂直應(yīng)用開發(fā)和積累數(shù)據(jù)資產(chǎn)、構(gòu)建數(shù)據(jù)飛輪、提升應(yīng)用成熟度等工作，實現(xiàn)金融行業(yè)大模型更好地應(yīng)用落地。

圍繞金融專屬業(yè)務(wù)場景，LightGPT重磅升級

作為一款專為金融領(lǐng)域打造的大語言模型，LightGPT基于海量金融數(shù)據(jù)訓(xùn)練而來，對金融相關(guān)問題的理解和金融任務(wù)的處理，比通用大模型更有優(yōu)勢。

發(fā)布會上，恒生電子首席科學(xué)家、大模型產(chǎn)品總監(jiān)白碩公布了LightGPT自6月底發(fā)布以來的升級成果，并就安全合規(guī)、投顧服務(wù)等場景進行了現(xiàn)場演示。

白碩介紹，目前LightGPT在整體模型效果上提升15%，安全合規(guī)性上提升13%，推理速度上提升50%，并面向金融機構(gòu)實現(xiàn)LightGPT-7B的開源，推理和訓(xùn)練全面適配華為昇騰系列。

為了系統(tǒng)地評估金融大模型的能力表現(xiàn)，恒生電子與中國信通院共同編寫了金融大模型評測標(biāo)準(zhǔn)，包含“L0-L1-L2”三層能力評測，為促進金融大模型的可信發(fā)展提供了重要保障。其中，通用能力L0層包括基礎(chǔ)常識、語義理解、數(shù)學(xué)計算以及在金融領(lǐng)域尤為重要的多輪對話能力、表格處理能力和安全能力、JSON識別能力等。金融領(lǐng)域能力L1層包括金融法律法規(guī)遵循、金融百科問答和實體識別。金融場景能力L2層包含投顧、投研、運營、合規(guī)和其他五大場景80種金融專屬任務(wù)評測。

對于金融行業(yè)而言，安全合規(guī)更是重中之重。針對生成內(nèi)容的可控問題，LightGPT構(gòu)建了包括語料安全、模型安全、模型評估等在內(nèi)完善的安全機制，從八大評價維度確保大模型生成內(nèi)容的安全合規(guī)，符合中國金融市場的監(jiān)管要求。

發(fā)布會現(xiàn)場以投顧、投研兩大核心金融場景為例，闡釋了LightGPT在金融專業(yè)領(lǐng)域的能力優(yōu)勢。在投顧場景中， LightGPT通過增加1200多萬tokens專業(yè)投顧語料，減少財經(jīng)大V版權(quán)語料和日常語料以及12類任務(wù)指令微調(diào)，應(yīng)對金融術(shù)語口語眾多、知識幻覺、監(jiān)管嚴(yán)格等挑戰(zhàn)，在安撫話術(shù)生成、客戶意圖識別、實體識別、Json識別能力等方面平均超出國內(nèi)通用大模型13%。

在投研場景中，LightGPT通過使用基于位置編碼改進的transformer模型，超200億tokens的金融信息語料和8類任務(wù)指令微調(diào)，解決超長文本處理、圖表文字混合排布、投研術(shù)語眾多等問題，在研報觀點抽取、輿情事件識別和抽取、資訊摘要、表格處理、公司實體識別等方面平均超出國內(nèi)通用大模型12%。

光子賦能，智能產(chǎn)品生態(tài)全面進化

基于金融行業(yè)的大模型應(yīng)用需求，恒生電子于6月底率先推出金融智能助手光子，定位金融應(yīng)用對接大模型的“中控”部位，串聯(lián)了“通用工具鏈+金融插件工具+金融數(shù)據(jù)+金融業(yè)務(wù)場景”，旨在解決大模型和實際應(yīng)用之間的連接問題，打通金融領(lǐng)域AI應(yīng)用的“最后一公里”。

會上，白碩發(fā)布了恒生電子基于光子打造的多款大模型應(yīng)用產(chǎn)品。他表示，目前光子賦能下的智能產(chǎn)品可以分為重塑和嵌入兩種模式。重塑是指基于大模型能力重構(gòu)應(yīng)用，重塑業(yè)務(wù)流程和服務(wù)模式；嵌入是指通過光子將數(shù)據(jù)、應(yīng)用、知識庫等資源組裝成各類插件，將大模型能力無縫集成到原有程序和應(yīng)用中，為業(yè)務(wù)系統(tǒng)注入AI力量。

在重塑模式產(chǎn)品方面，本次正式發(fā)布了四款大模型應(yīng)用，分別為光子·文曲、光子·方圓、光子·善策和光子·慧營。其中，光子·文曲是面向投資顧問的一站式內(nèi)容創(chuàng)作平臺，通過豐富創(chuàng)作模版、智能文摘生成、AI問答助手、一鍵發(fā)布導(dǎo)出、圖表自動生成等功能，幫助投顧快速完成報告素材搜集、內(nèi)容生成以及審核發(fā)布。

光子·方圓聚焦金融機構(gòu)投資合規(guī)領(lǐng)域，通過法規(guī)檢索和文件標(biāo)簽化管理、智能投資合規(guī)問答、系統(tǒng)指標(biāo)邏輯解答、一鍵生成合規(guī)設(shè)置等功能為合規(guī)和業(yè)務(wù)人員提供服務(wù)，提升合規(guī)管理質(zhì)量和效率。

光子·善策聚焦投顧咨詢場景，通過會話意圖理解、智能服務(wù)匹配、智能話術(shù)生成、智能工單創(chuàng)建等功能，賦能投顧會話，為投資顧問精準(zhǔn)定位客戶標(biāo)簽，洞察客戶意圖，生成專業(yè)話術(shù)。

光子·慧營定位資管與托管產(chǎn)品運營助手，通過文檔智能分片、要素智能提取、文字內(nèi)容智能匹配、文件內(nèi)容智能審核、文件內(nèi)容溯源定位等功能，幫助運營人員提供參數(shù)提取、投監(jiān)規(guī)則匹配、審計報告內(nèi)容抽取等的智能輔助解決方案。

在嵌入模式產(chǎn)品方面，一些傳統(tǒng)應(yīng)用可以不用修改代碼，通過光子插件能力與業(yè)務(wù)系統(tǒng)交互，即可為傳統(tǒng)應(yīng)用現(xiàn)有業(yè)務(wù)流程注AI能力。目前光子可以提供金融數(shù)據(jù)插件、知識庫問答插件、Agent智能體插件、文檔問答插件等各類金融特色插件，用戶也可以根據(jù)需求自定義業(yè)務(wù)插件。完成插件集成后，用戶可以在原有系統(tǒng)界面上喚起“光子”，與光子形成自然語言交互。

如在投顧創(chuàng)作臺中，用戶可以通過光子完成投顧內(nèi)容改寫分析、詢問板塊行情、查詢研報觀點等工作；在PB系統(tǒng)中，光子可以輔助風(fēng)控管理、資金調(diào)整復(fù)核、資產(chǎn)查詢等操作；在CRM系統(tǒng)中，光子則可以幫助員工完成拜訪日報智能化填寫等工作。

白碩表示，接下來恒生電子將進一步完善光子智能生態(tài)，基于光子持續(xù)構(gòu)建智能產(chǎn)品矩陣。一方面，持續(xù)發(fā)布和公測大模型應(yīng)用新品，如面向金融業(yè)務(wù)崗前仿真培訓(xùn)的光子·問學(xué)，面向業(yè)務(wù)數(shù)據(jù)智能管理的光子·數(shù)見，面向會議語音內(nèi)容生成行動AP的光子·會悟等；另一方面，加快恒生原有業(yè)務(wù)系統(tǒng)的光子插件嵌入，讓光子成為真正的業(yè)務(wù)智能助手。