供應商網(wǎng) 商業(yè)資訊
  • 產(chǎn)品
  • 公司
  • 求購

恒生電子“量身定制”金融大模型,浪潮信息智算平臺助力

恒生電子“量身定制”金融大模型,浪潮信息智算平臺助力

北京2024年6月28日 /美通社/ -- 大模型技術(shù)的深入應用,正讓金融業(yè)務(wù)發(fā)生翻天覆地的變化。例如,“投顧助手”能夠為用戶(hù)提供投資建議,幫助客戶(hù)在瞬息萬(wàn)變的投資市場(chǎng)中把握市場(chǎng)規律,獲得更高的收益;“智能客服”能夠高效響應用戶(hù)的服務(wù)需求,并給出精準的回復……大模型高效利用海量金融數據,并切實(shí)地提升金融業(yè)務(wù)與服務(wù)的智能化水平,在實(shí)際金融場(chǎng)景中發(fā)揮出重要的價(jià)值。

借助浪潮信息AI服務(wù)器、AIStation智能業(yè)務(wù)生產(chǎn)創(chuàng )新平臺等***的智算基礎設施,***的金融科技企業(yè)恒生電子實(shí)現算力高效分發(fā)、算力資源高效管理,加速了金融行業(yè)大模型LightGPT的開(kāi)發(fā)和落地,模型訓練和精調時(shí)間周期由數周縮短至數天,應用于客服、運營(yíng)、投顧、投研等金融業(yè)務(wù)場(chǎng)景,助力金融行業(yè)智能化轉型。


“量身定制”金融大模型,高效訓練是關(guān)鍵

恒生電子是一家以“讓金融變簡(jiǎn)單”為使命的金融科技公司,致力于為證券、期貨、基金、信托、保險、銀行、交易所、私募等機構提供整體解決方案和服務(wù),連續16年入選FinTech100全球金融科技***榜單,2023年排名第22位,位列亞洲***企業(yè)***。

恒生電子高度重視大模型技術(shù)的創(chuàng )新與應用,率先發(fā)布了***的金融行業(yè)大模型LightGPT。LightGPT基于海量高質(zhì)量金融數據訓練,使用超2000億中文tokens和80多項中文金融任務(wù)指令微調,涵蓋投研、投顧、智能客服、合規風(fēng)控等多領(lǐng)域金融應用場(chǎng)景,實(shí)現金融相關(guān)任務(wù)高效、準確理解,***超越通用大模型。在測試中,LightGPT的邏輯推理、超長(cháng)文本處理、多模態(tài)交互、代碼、金融專(zhuān)業(yè)問(wèn)答等多項能力都表現突出,表現出極高的準確性和專(zhuān)業(yè)水準。同時(shí),LightGPT學(xué)習中國的金融法律法規,更符合中國金融市場(chǎng)的監管要求。


就像一個(gè)“多面手”,LightGPT綜合能力突出,單個(gè)模型即可滿(mǎn)足金融機構眾多應用場(chǎng)景的需求,為投顧、客服、運營(yíng)、合規、投研、交易等業(yè)務(wù)系統注入AI能力,加速行業(yè)升級和智能化轉型。如在信批材料審計場(chǎng)景,LightGPT可幫助審計員將文檔的審計時(shí)間從2小時(shí)縮短到5分鐘;在投顧場(chǎng)景,可幫助投資顧問(wèn)將客戶(hù)咨詢(xún)問(wèn)題的平均回答時(shí)間由十幾分鐘縮短至幾秒,大幅提升工作效率,提升客戶(hù)體驗。

面向不同金融機構的個(gè)性化需求,恒生電子需要針對具體業(yè)務(wù)“量身定制”,對LightGPT進(jìn)行強化訓練和精調,以提升模型的精度,或輸出符合要求的內容。為了更好地推動(dòng)大模型的開(kāi)發(fā)和應用,恒生電子希望在A(yíng)I基礎設施方面進(jìn)行深度改造。一方面,大模型預訓練與微調需要性能強大、高效易用的算力平臺,租用算力資源雖然可解燃眉之急,但在算力穩定性、安全保障方面存在著(zhù)隱患。另一方面,大模型的開(kāi)發(fā)運營(yíng)涉及多團隊、多業(yè)務(wù)與大量數據,需要***任務(wù)排隊和調度機制來(lái)確保資源的合理分配和高效使用。否則,將導致各團隊搶占算力資源,計算任務(wù)下發(fā)后需要長(cháng)時(shí)間等待才能得到結果,不僅會(huì )影響開(kāi)發(fā)進(jìn)度,而且會(huì )提升成本。

創(chuàng )新智算平臺,提速大模型開(kāi)發(fā)

恒生電子攜手浪潮信息,部署了大模型智算平臺,涵蓋AI服務(wù)器、AIStation智能業(yè)務(wù)生產(chǎn)創(chuàng )新平臺,大幅提升了LightGPT大模型開(kāi)發(fā)和應用效率。

在算力方面,浪潮信息為恒生電子提供了AI服務(wù)器,并通過(guò)軟硬件一體化的平臺建設模式,實(shí)現了上線(xiàn)即使用的應用目標。同時(shí)支持靈活擴展,滿(mǎn)足恒生電子業(yè)務(wù)快速增長(cháng)對算力資源的靈活需求。

浪潮信息AIStation平臺為恒生電子提供敏捷可靠的大模型開(kāi)發(fā)支持和可擴展的人工智能基礎設施管理能力。AIStation統一管理和調度算力資源,為恒生電子算法工程師提供統一的算法開(kāi)發(fā)環(huán)境,實(shí)現大模型預訓練、精調和推理測試的完整業(yè)務(wù)流程。對于千億、百億參數的模型精調,AIStation自動(dòng)創(chuàng )建分布式訓練環(huán)境,為大模型訓練提供高效、穩定的計算環(huán)境。AIStation推理服務(wù)與恒生的模型測試平臺實(shí)現對接,有效提升了模型部署和測試效率。借助AIStation平臺,恒生電子加速了面向投顧咨詢(xún)、投資合規、運營(yíng)管理、客戶(hù)服務(wù)等金融業(yè)務(wù)場(chǎng)景的大模型應用的開(kāi)發(fā)和交付。


此外,浪潮信息分享了源大模型項目的開(kāi)發(fā)經(jīng)驗,以及開(kāi)源大模型的微調方案和實(shí)踐經(jīng)驗,為恒生電子金融大模型LightGPT的預訓練、微調提供了有力的幫助。

借助大模型智算平臺,恒生電子加速了金融行業(yè)大模型LightGPT的開(kāi)發(fā)與上線(xiàn),模型訓練和精調時(shí)間周期由數周縮短至數天。目前,LightGPT已完成國家網(wǎng)信辦大模型算法備案,在客服、運營(yíng)、投顧、投研等多個(gè)金融業(yè)務(wù)場(chǎng)景落地應用,助力多家頭部金融機構實(shí)現了數智能力的進(jìn)化。此外,恒生電子已聯(lián)合20多家金融機構,共建LightGPT金融大模型以及光子系列大模型應用,并不斷提升大模型的技術(shù)能力與積淀,助力金融領(lǐng)域業(yè)務(wù)形態(tài)和邏輯范式的革新。

免責聲明
• 
本文僅代表作者個(gè)人觀(guān)點(diǎn),本站未對其內容進(jìn)行核實(shí),請讀者僅做參考,如若文中涉及有違公德、觸犯法律的內容,一經(jīng)發(fā)現,立即刪除,作者需自行承擔相應責任。涉及到版權或其他問(wèn)題,請及時(shí)聯(lián)系我們 kefu@gys.cn