股市瞬息萬變,投資難以決策?來#A股參謀部#超話聊一聊,[點擊進入]
2023中國國際服務貿易交易會-2023中國金融科技論壇于9月2日在北京舉行。騰訊云副總裁胡利明出席并演講。
胡利明指出,在金融風控方面的應用,大模型的價值非常大。“騰訊本身在過去20年和互聯(lián)網的黑產、金融黑產都較量了很長時間,構建了非常完善的反欺詐能力,也積累了很多數(shù)據(jù)。我們在這方面合作的金融機構超過接近400家,我們今年形成了金融風控大模型,這個大模型部署在金融機構自己內部,對于和金融合作的場景基于這個大模型形成一個知識庫,結合金融機構在自己風控場景中的小樣本的數(shù)據(jù)做快速的精調,形成不同場景具體模型”。
以下為演講實錄:
各位領導、各位嘉賓,大家上午好。我分享的話題是《科技自主創(chuàng)新,助力金融行業(yè)高質量發(fā)展》。首先我先簡要介紹一下對金融行業(yè)科技發(fā)展的趨勢觀察。
金融行業(yè)從2013年開始到2019年,經歷了非常多的業(yè)務場景和科技方向的創(chuàng)新,有很多創(chuàng)新積累。從2019年開始進入了一個數(shù)字化深水區(qū)階段,從2020年開始我從市場觀察來看,云計算的架構和相關技術平臺已經成為金融行業(yè)技術架構進化的自然選擇,它在科技方面的預算占比逐年提升,預計在2025年可以達到接近1/3比重。
對于云的使用形態(tài)從初期的私有云形式演進到混合云,再演進到往后的團體云、行業(yè)云的方式,對行業(yè)整體格局形成非常大的影響。
從去年底基于大語言模型ChatGPT橫空出世之后,代表人工智能大爆炸,智能新的時代開啟,今年國內在AI的投資超過2500億元,在金融行業(yè)所有的業(yè)務即將被新的智能全面重塑。我們判斷云架構和新智能會是未來金融行業(yè)發(fā)展依賴的技術架構的主旋律。
首先在云架構方面,我們騰訊在互聯(lián)網行業(yè)和金融行業(yè)深耕多年,有20多年的技術積累,形成了一套國產云架構技術產品矩陣和平臺,我們的愿景是成為國內國產云架構軟件的主力軍,為行業(yè)的數(shù)字化轉型添磚加瓦。
這里中間部分是整體的技術架構平臺,底層是我們的專有云TCE平臺,支持一云多芯,支持國產數(shù)據(jù)庫TDSQL,下面支持了非常多的國內主流的芯片以及操作系統(tǒng)廠家的生態(tài)。我們參與建設了行業(yè)權威的自主創(chuàng)新實驗室,和他們日常做非常多的創(chuàng)新合作,新的版本都會做持續(xù)的驗證,而且在非常多的大型客戶中做調優(yōu)和磨合,比如和芯片廠家在操作系統(tǒng)的使用,芯片虛擬化的調度,包括在一些網絡場景優(yōu)化等等方面應用已經非常成熟。
在上層應用層來看,我們騰訊在在線協(xié)同方面輸出自己國產多在線協(xié)同套件產品,包括企業(yè)微信、騰訊會議、騰訊文檔。在外部生態(tài)方面,我們和行業(yè)內超過50多家的軟件開發(fā)商深入合作,和他們適配超過130款主流應用,其實已經覆蓋了行業(yè)非常多的主流場景。
接下來依次介紹一下在云架構方面的一些典型實踐。首先在分布式核心建設這個領域,這里舉一個例子,我們和某國有大行合作,幫助該行做主機下移的工作,在數(shù)據(jù)庫層面整個中間件平臺還有多地多中心部署架構、災備這些層面,在數(shù)據(jù)庫方面我們的數(shù)據(jù)庫支持大行核心的交易以及用戶的數(shù)據(jù)、賬戶在這個數(shù)據(jù)庫上承載。分布式技術平臺方面,通過微服務和緩存消息隊列、中間件去屏蔽所有應用依賴的底層技術架構的復雜性,可以提供路由分發(fā)包括讀寫分離、圖庫分表以及相關分布式中間件的能力。在兩年內和該國有大行共同攻關了非常多的技術難題,例如技術分片策略、單元化策略,包括大量的跑批性能支持,以及多地多活的架構,最終實現(xiàn)了四地八中心整體多活架構,可以達到同城切換RPO為0,RTO在秒級非常高的水平。
其次,在國產數(shù)據(jù)庫方面,我們騰訊云數(shù)據(jù)庫TDSQL多年來一直深耕交易型數(shù)據(jù)庫領域,首先應用在集團內的支付、計費以及微眾銀行的核心交易系統(tǒng)。后面陸續(xù)構建了國內第一個傳統(tǒng)核心上國產分布式數(shù)據(jù)庫的案例,即張家港農商銀行的傳統(tǒng)核心數(shù)據(jù)庫遷移,以及第一個主機下移案例,即平安銀行的信用卡核心系統(tǒng)下移,后面也合作了多家國有大行,合作30多個金融核心標桿案例,在國內遙遙領先,目前在金融行業(yè)合作超過400多家的客戶。今年上半年,騰訊云數(shù)據(jù)庫TDSQL沖頂全球交易型數(shù)據(jù)庫榜單第一,創(chuàng)造新紀錄,被Gartner評定為交易型數(shù)據(jù)庫第一。
目前頭部機構以及先進機構已經演進到云原生化的階段,通過容器編排、微服務治理、服務網格化、Devops包括服務的穿透和管理,實現(xiàn)極致的調度靈活以及開發(fā)運維一體化。我們在集團內部的實踐效果是使得整個資源利用率提升3倍,資源業(yè)務從以前的CPU平均利用率12%提升到45%,每年為集團節(jié)省超過30億元。在非常多的金融機構應用中效果也是達到類似的水平。更重要的是使得我們的IT從應用視角,實現(xiàn)從應用開發(fā)測試部署到全流程的監(jiān)控以及運維整體流程一體化,也是理念上的用云的轉變。
在大數(shù)據(jù)平臺方面,我們的大數(shù)據(jù)平臺產品是TBDS,在集團內部應用單集群達到2.7萬臺服務器規(guī)模,是國內最大的集群。外部和非常多的金融機構合作,幫他們構建數(shù)據(jù)湖,比如和中行、和興業(yè)銀行的大數(shù)據(jù)合作,支撐建設了數(shù)PB數(shù)據(jù)量的數(shù)據(jù)湖。有一些關鍵業(yè)務,比如通過數(shù)據(jù)編排實現(xiàn)存算分離,包括在離線的混部等等,都可以使大數(shù)據(jù)使用效率包括運行能力是達到最佳效果。
智能化方面,金融機構使用智能化的能力正在從以前的專家模型時代,演進到現(xiàn)在的大模型加專家知識的時代,這種應用模式和人腦機制更加接近,所以使用體驗越來越好。騰訊人工智能的技術產品有四個層面,分別提供相關產品和能力,助力行業(yè)智能化創(chuàng)新。在底層提供GPU算力池和集群能力,在平臺層提供GPU趨于容器化調度能力以及機器學習平臺TI還有向量數(shù)據(jù)庫。機器學習平臺TI可以提供前期數(shù)據(jù)處理包括預訓練以及模型部署,還有現(xiàn)在大模型時代精調能力。向量數(shù)據(jù)庫其實是大模型的外腦,像一個海馬體可以給大模型注入相關記憶。在這個模型MaaS層面,我們現(xiàn)在提供混元大模型以及CV場景、NLP模型等等的大模型,在這之上又提供金融大模型,像我們的客服等相關的大模型。
下面大致展開介紹一下,在計算集群方面,我們提供高性能的計算集群,底層可以支持不同類型GPU的設備,因為這個設備更新?lián)Q代比較快,成本非常高,統(tǒng)一把它管控和調度起來是非常重要的。我們自研的高性能的高速網絡可以提供800T的集群內交換能力,同時還有高性能存儲CFS能力,提升存儲速度。整體再通過QTPU容器化調度,使得GPU的算力可以像容器一樣切得更細,在很多的任務之間切換,大大提升容器利用率。像手機銀行當中營銷場景、運營場景,包括交易反洗錢場景以及高凈值客群流失預測,在很多的業(yè)務場景都大顯身手。
在這個模型MaaS層面,我們不斷探索一些場景,對行業(yè)提供服務。像CV的場景,我們提供OCR單據(jù)的場景能力,針對新單據(jù)的定制非常花時間,而且客服處理時間也比較長,成本也比較高。我們針對OCR的場景提供特定的機器學習平臺TI-OCR平臺,在內部內置了CV大模型,而且在上面進行OCR特定訓練,再疊加金融機構少量客戶的一些樣本數(shù)據(jù)進行精調,就可以形成一些定制化的OCR單據(jù)場景。
舉個例子,我們和某頭部股份制銀行合作,快速幫該行把這個交易單據(jù)字段的識別率提升到95%,非常高的一個水平,遠超以前的80%多,每年幫該行節(jié)省300多人月的成本,每件單劇識別時間從以前10分鐘縮短到5秒鐘。
在金融風控方面的應用,大模型其實價值非常大,騰訊本身在過去20年和互聯(lián)網的黑產、金融黑產都較量了很長時間,構建了非常完善的反欺詐能力,也積累了很多數(shù)據(jù)。我們在這方面合作的金融機構超過接近400家,我們今年形成了金融風控大模型,這個大模型部署在金融機構自己內部,對于和金融合作的場景基于這個大模型形成一個知識庫,結合金融機構在自己風控場景中的小樣本的數(shù)據(jù)做快速的精調,形成不同場景具體模型。
舉個例子,我們和招商銀行合作反欺詐大腦,在該行的信用卡用戶風控場景構建了很多模型,比如在信用卡用戶貸款申請場景,通過構建不同的模型,兩天之內就可以做一個小的模型,達成對于欺詐預警提前率達到75%,預警數(shù)據(jù)準確率達到98%,處于非常優(yōu)秀的水平,在做活動的高峰期曾經避免了過億元的欺詐損失。
最后總結,我們希望通過國產自主的云架構技術以及新智能的技術,助力金融行業(yè)進入高質量發(fā)展新階段。
我的介紹到這里,謝謝大家。
新浪聲明:所有會議實錄均為現(xiàn)場速記整理,未經演講者審閱,新浪網登載此文出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其描述。
責任編輯:梁斌 SF055
VIP課程推薦
APP專享直播
熱門推薦
收起24小時滾動播報最新的財經資訊和視頻,更多粉絲福利掃描二維碼關注(sinafinance)