股市瞬息萬變,投資難以決策?來#A股參謀部#超話聊一聊,[點擊進入]
第21屆中國國際金融論壇于12月19日-20日在上海召開,主題為“金融高質量服務新質生產力發展”。阿里云智能新金融行業首席架構師兼資深總監李佳出席并演講。
以下為演講實錄:
大家早上好,我今天分享的話題是:大模型時代AI Agent驅動場景價值鏈重構。探索 AI Agent 在金融領域的革新實踐,構建開放可擴展的 AI Agent 生態系統。
首先,讓我們一同探討大模型在未來的發展趨勢。過去一年里,業界對大模型基礎模型以及算力的競爭尤為激烈。展望未來兩年,我們預測AI技術的滲透率將超過70%,這標志著AI將更加深入地融入各行各業,成為推動社會進步和經濟發展的核心動力。
2023-2024年AI應用下載次數超過 60億次,C端用戶滲透率基本達到80%以上。放眼全球市場,基于IDC報告分析,在未來3年全球生成式AI市場年復合增長率達85.7%;到 2027 年超過45% 的企業將生成式AI來作為核心技術開發數字產品和服務,從而使收入增長比競爭對手翻一番。同時,在未來3年有將近三分之二的云端應用將使用AI能力,升級為AI智能應用。審視中國市場,在大模型方面依然是蓬勃發展的趨勢。有報告預測到2028年中國AI大模型行業的市場規模將突破千億元,五年行業符合增速將超過50%。
隨著大模型應用和AI Agent智能體的快速發展,算力需求呈現出顯著的增長趨勢,這與云計算的發展形成了相輔相成的關系。首先Scaling-Law大力出奇的鐵律依然有效,GPT-4訓練使用了2.5萬張A100 GPU算力,GPT-5將使用5萬張H100 GPU卡,十萬卡集群已經出現。其次在AI服務器采購方面,2022年AI服務器采購只占整體服務器采購15%,2024年第二季度AI服務器整體采購率占30%,不到兩年的時間翻了一番。
AI Agent將會成為推動AI技術革命的關鍵力量。隨著時間的推移,大模型的一些局限性開始顯現,AI Agent作為新的研究方向,開始受到越來越多關注。什么是AI Agent?比較經典的一個定義是前OpenAI的研究主管Lilian Weng給出的定義:AI Agent包含大模型、規劃、記憶、工具使用。復旦大學的NLP團隊給出更加簡單的定義:大腦、感知、行動,AI Agent通常被翻譯成AI智能體、AI助理、AI代理,我認為更通俗理解是AI專家、數字專家,我們身邊將會有越來越多AI專家、數字專家出現在各業務場景中協助或替代人類的工作。Open AI 2024年七月內部會議中,把人工智能未來發展等級定義為5級:第1級是ChatBot 聊天機器人,在智能客戶場景已經廣泛應用;第2級是具備人類水平問題解決能力的推理者,應用場景是企業智能知識庫、細分場景的專業小助手,企業智能知識庫是大多數金融機構面向內部業務人員試點落地的第一個大模型應用。第3級是AI Agent智能體,將會在千行百業的不同場景中落地為AI投研專家、AI程序員、自動駕駛員等智能應用。能夠看到,2025年將是AI智能體元年。
2023年4月云棲大會上阿里宣布所有產品未來將接入“通義千問”大模型,進行全面改造,包括天貓、淘寶、釘釘、天貓精靈、閑魚、盒馬等產品。在今天回顧來看,這張就是針對阿里全面擁抱AI,阿里AI Agent智能體生態大圖,在圖中可以看到菜鳥中鄉村助理、站長助手等AI專家應運而生。釘釘中更多融入大模型能力,會議助理能幫我們做會議紀要總結會議重點,明確會議里提到的下一步工作計劃和待跟蹤事項等;用釘釘智能文檔畫腦圖,AI智能創作功能,可以自動完成思路節點擴展,給出更多思路建議。釘釘智能文檔里的內容,會通過大模型做訓練,生成智能問答助理,更好的拓展我們的知識邊界。
金融行業AI Agent智能體生態正在蓬勃發展,伴隨生態發展,正在驅動應用開發范式、模型范式、基礎設施架構的深刻變革。前兩年做基礎設施選型時,金融行業更多關注云平臺、CPU算力的選型,隨著AI技術的引入,基礎設施將革新升級為“云+AI”智能算力,更多關注GPU選型、GPU異構技術管理等。隨著大模型技術的引入,我們會發現在數據中臺這層變得更簡潔,數據工具鏈將圍繞著大模型的預訓練、微調、智能問數等能力演進,之前我們做數據中臺關注“采、建、管、用,盤、平、治、享”的能力,現在更關注怎么做大模型微調、怎么做prompt提示詞工程,怎么做RAG,各種新知識應運而生。隨著數據中臺被大模型改變,業務中臺也會越來越智能化,之前業務中臺圍繞價值鏈、流程組、流程、任務、步驟進行構建,這些業務服務或模塊組件,通過大模型能力將升級為多個AI Agent智能體,嵌入到業務場景中支撐場景價值鏈的重構,在AI Agent應用層我只是列舉了阿里云落地的20多個AI Agent,如:營銷多智體(由營銷活動策劃、定價政策問答、報價方案調整等Agent組成)、投研多智體、非金的文旅多智體等。在我們成功實施的眾多AI項目中,已有上百個AI Agent順利落地,并取得了顯著的業務成效。這些AI Agent不僅提升了運營效率,還為客戶創造了實實在在的價值,推動了業務的持續增長和創新。
舉個例子,AI Agent金融多智體應用,正推動著產業金融服務升級。在供應鏈金融、產業金融業務過程中,往往面臨著行業差異大、專家經驗成本高,對行業的理解高度依賴專家經驗沉淀;數據碎片化,需從海量、碎片化、成分復雜的數據中挖掘可用數據,刻畫小微經營情況;信貸業務風險把控有一定滯后性等難題。通過大模型能力,某互聯網銀行創新構建了多個Agent專家。通過領域經驗庫沉淀構建了產業鏈構建Agent,自動完成產業鏈資產算法任務。通過互聯網搜索、文檔智能、RAG技術形成行業經驗沉淀,構建了更智能的產研Agent專家。通過資產語義化、畫像評測、NL2范式、數據解讀能力,構建了畫像Agent,提升企業客戶畫像生成的效率。通過智能問數、智能解讀、分析經驗沉淀、構建了業務分析Agent,生成業務分析觀點,助力業務策略制定,提前規避業務風險。通過大模型技術,該行構建了產業鏈全鏈路的AI Agent小分隊,可秒級生成小微客戶經營畫像,全鏈路任務復刻率達到60%,業務效能提升10倍。
剛才講到應用、平臺、模型、算力,每一層的技術架構都在重構。
應用層,在AI時代應用開發范式在向著AI原生應用架構演進。底層算力從CPU升級到GPU芯片。數據中臺引入大模型能力,微服務演化成AI Agent,應用開發過程中,用戶交互界面也發生轉變。用戶交互界面首先調用大模型的能力對用戶意圖進行理解,利用像阿里云通義點金這樣的AI Agent平臺,進行prompt提示詞優化、RAG檢索增強、對話記憶處理等調用大模型與客戶進行交互,完成力所能及的基本業務處理和操作,在進一步明確意圖之后,通過算法進行流程調度,通過API接口調度原有微服務、原有業務服務的能力實現業務操作處理。以手機銀行轉賬功能為例,傳統銀行轉賬功能普遍是打開手機銀行App,輸入賬號、金額、密碼等信息進行轉賬操作。以AI驅動的銀行,打開AI原生手機銀行App,與客戶進行語音式交互,當用戶需要辦理轉賬業務時,AI首先分析用戶的歷史交易習慣,快速識別常用聯系人,并提供一鍵轉賬的便捷操作。對于新聯系人,AI將協助用戶快速錄入轉賬信息,如收款人姓名、賬號和轉賬金額等,并引導用戶完成安全驗證,確保轉賬交易的安全性和準確性。因此,我們能夠預見未來兩三年內,純語音的交互式金融App將會出現,打開一家金融機構的App可能只有一個語音對話框,先是利用大模型能力對用戶語義進行意圖理解,之后通過算法做流程智能編排,分發給各類AI數字專家(轉賬Agent、信貸Agent、財富管理Agent等)進行金融業務操作。
平臺層,更多關注如何去用更短的時間、更高效率開發AI Agent智能體。大模型應用創新平臺,開啟了應用、服務新范式。阿里云通義點金AI Agent應用研發平臺,可快速構建具備金融行業場景化智能化的創新應用,可在數分鐘之內創新構建出AI Agent應用。加持阿里云百煉平臺的能力,模型中心可提供豐富多元的大模型供給;提供大語言、多模態等多元模型可選擇;同時支持三方的開源、閉源模型接入。支持更高性能的模型調用服務,高響應、高并發的模型調用服務,提供極致調用體驗。應用中心可提供高效的智能體應用開發組件;提供完整的應用創建流程,支持使用開放架構創建智能體應用,集成prompt提示詞優化工具、流程管理工作流、插件等能力。測評中心可支持對模型的有效測評等。
模型層,基模的選擇非常重要,我聽到剛才某證券公司分享的代碼大模型的案例中的疑問,代碼大模型為什么業界聽說能夠達到20%~30%以上的代碼采用率,但是自己實際測試效果僅有10%?我認為這里面最深層次的原因在于對基模的選型,阿里云基于通義千問基礎模型訓練的代碼大模型通義靈碼,提供代碼智能生成、研發智能問答能力,經過對代碼庫的訓練學習和調優,代碼采用率可達到至少30%以上。就和建設摩天大樓一樣,基礎不牢地動山搖,基模選擇不好,建設效果自然不會好,后期想通過工程化能力做提升事倍功半,基礎模型選型好則事半功倍。秉承著全規格、多模態、廣開源的技術發展策略,阿里云通義實驗室自研了一系列技術領先的AI大模型,包括通義千問大語言模型和通義萬象多模態大模型等,同時構建了生態繁榮的ModelScope魔搭開源社區。我們不僅擁有大尺寸和小尺寸模型,還提供了全規格、多模態的模型,兼顧場景、性能和成本的選擇。借助開源版大模型可進行場景驗證,使用商業版模型將擁有上線保障和商業技術支持。大小尺寸模型結合,可平衡效果與成本。復雜場景用大尺寸,單一特定領域可選用小尺寸模型。語言、圖片、視頻等多模態融合,可滿足跨模態場景需求。開源的通義千問72B大模型已經在眾多金融機構被廣泛使用,歡迎大家到開源社區下載試用,探索更多的業務創新場景。
算力層,AI時代數字新基建已經從“云”升級為“云+AI”智能基礎設施,支持國產化、一云多芯、一云多算力的技術能力,支撐金融機構用大模型能力在各個業務場景中重塑價值鏈。AI Agent的爆發將帶來越來越多的推理計算場景涌現,隨著金融AI Agent智能體To C服務能力的不斷增強,在算力層將消耗更多的GPU推理算力。因此,建議金融機構積極擁抱公共云、金融云的GPU算力資源,在監管合規的前提下,充分發揮其靈活性、成本效益和技術優勢,快速獲得和應用AI創新技術并大幅降低GPU算力的使用成本和費用,全面推動智能化轉型,提升核心競爭力。
我們期待與各界伙伴攜手合作,共同迎接AI時代的到來,共創智能金融的美好未來。
以上是我今天的分享,感謝大家的聆聽!
新浪聲明:所有會議實錄均為現場速記整理,未經演講者審閱,新浪網登載此文出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其描述。
責任編輯:王翔
VIP課程推薦
APP專享直播
熱門推薦
收起24小時滾動播報最新的財經資訊和視頻,更多粉絲福利掃描二維碼關注(sinafinance)