來源：銀行家雜志

　　伴隨Disco Diffusion、ChatGPT等生成式AI產(chǎn)品相繼問世，AIGC正在掀起一場新的工業(yè)革命。近日，普華永道的分析師對外發(fā)布了關于生成式AI升級帶來的11大安全趨勢研判，呼吁全球關注人工智能安全風險帶來的巨大挑戰(zhàn)。

　　金融行業(yè)信息化建設起步早，已成為人工智能應用最佳的領域之一，然而，技術創(chuàng)新也帶來了風險。馬上消費金融股份有限公司（以下簡稱“馬上消費”）作為科技驅(qū)動的金融機構，通過主動擁抱監(jiān)管、建立消保委員會、嚴格數(shù)據(jù)管理、制定行業(yè)標準、加強技術人才培養(yǎng)與技術研發(fā)投入等方式，積極應對人工智能技術在消費金融領域的安全問題。

　　針對當前行業(yè)面臨的人工智能安全風險挑戰(zhàn)，馬上消費人工智能研究院院長陸全從人工智能在金融行業(yè)應用的現(xiàn)狀以及挑戰(zhàn)兩個方面分享對策與建議。

　　技術是把雙刃劍，效益與風險并存

　　金融行業(yè)因客戶群、數(shù)據(jù)庫龐大等特性，在客服、投顧、風控等場景中的人工智能技術應用成熟度處于領先地位。馬上消費通過對大型數(shù)據(jù)集的學習分析，提供快速響應互動、個性化投資推薦等客戶服務，提供異常數(shù)據(jù)檢測、用戶行為分析等機構決策支撐。與此同時，在這些應用場景中，也存在著三大安全風險。

　　數(shù)據(jù)濫用造成的隱私泄露、金融欺詐風險。為保障金融服務質(zhì)量，需要采集大量數(shù)據(jù)處理分析，對數(shù)據(jù)的采集存在擴大化問題，過度采集用戶的行為、偏好等隱私數(shù)據(jù)。

　　模型偏差造成的貸款歧視、交易公平風險。人工智能技術應用在信貸領域，可快速、低成本地對潛在借款人進行準確的評估，與傳統(tǒng)的信用評分體系相比，人工智能信用評分更加復雜。模型會對大量用戶數(shù)據(jù)進行處理，建立多數(shù)人適用的評估規(guī)則，但存在認知和數(shù)據(jù)偏差導致對特定人群的信用偏見，產(chǎn)生貸款等服務歧視。

　　攻擊破壞造成的財產(chǎn)損失、業(yè)務停滯風險。金融行業(yè)相較于其他行業(yè)，對系統(tǒng)穩(wěn)定和數(shù)據(jù)的依賴性更強，但由于人工智能技術的局限性存在脆弱易受攻擊的特點，面對攻擊造成的財產(chǎn)、大量數(shù)據(jù)丟失的損失不可估量，技術不穩(wěn)定性對自身業(yè)務造成致命影響，可能直接導致業(yè)務停滯。

　　技術攻防對抗，創(chuàng)新升級新挑戰(zhàn)

　　人工智能在實踐和應用中面臨著諸多挑戰(zhàn)，由于AI模型、數(shù)據(jù)、系統(tǒng)的不成熟性造成的欺詐和安全問題不容忽視。人工智能技術正在開展針對自身的攻防安全技術研究，促使技術應用向可信、可靠、安全方向發(fā)展。

　　針對人臉識別攻擊，多模態(tài)融合防護。金融行業(yè)對身份認證的基礎需求加快人臉識別的應用，不法分子通過圖片、3D打印等物理方式攻擊突破人臉識別系統(tǒng)進行資金盜取詐騙。多模態(tài)生物識別技術相較于單一生物特征，通過設計融合算法，綜合人臉幾何特征、聲紋、虹膜等多種特征，彌補某些生物特征容易被偽造的弱點，提升識別精確度，形成對人臉識別攻擊的技術防御。

　　馬上消費在多模態(tài)人臉識別應用中還加入了光電體積描記術識別、光場相機活體識別等活體檢測技術，持續(xù)進行防偽技術攻關，為客戶人身財產(chǎn)安全筑造堅實的防護屏障。

　　面對數(shù)據(jù)污染攻擊，增強優(yōu)化防護。數(shù)據(jù)污染攻擊通過投入污染數(shù)據(jù)，改變模型反饋機制，將惡意文件標記為善意的，讓系統(tǒng)做出錯誤的行為。在金融行業(yè)中，攻擊驗證環(huán)節(jié)的反饋，破解認證系統(tǒng)穩(wěn)定性，可實施非法轉(zhuǎn)賬等詐騙行為。行業(yè)一般使用數(shù)據(jù)增強、穩(wěn)健優(yōu)化、模型遷移等方式來提高模型穩(wěn)定性，馬上消費在此基礎上增設了異常檢測機制，對用戶訪問進行識別，不匹配預期模型和數(shù)據(jù)集的項目進行異常數(shù)據(jù)測試，通過刪減調(diào)整以減輕異常數(shù)據(jù)對模型的干擾。

　　對于模型竊取攻擊，多模型加密防護。模型竊取攻擊以模型重建和影子模型的形式獲取模型參數(shù)竊取重要商業(yè)決策模型，通常會造成用戶身份信息、交易數(shù)據(jù)、企業(yè)商業(yè)秘密等敏感信息泄露。馬上消費通過將機器學習模型與加密技術結合起來，利用差分隱私技術、多方安全計算技術等實現(xiàn)在加密條件下保護訓練過程數(shù)據(jù)的隱私性。同時，將數(shù)據(jù)分區(qū)訓練多個模型，根據(jù)多個模型的結果去做決策，提升模型竊取難度，抗惡意用戶訪問。

　　目前的人工智能安全技術是在特定的攻擊情況中針對性解決一些安全問題，實際人工智能安全風險沒有根本的技術解決方法。所謂“道高一尺，魔高一丈”，人工智能安全將持續(xù)處于一種攻防不斷對抗的狀態(tài)，因此相應的技術必須不斷更新升級，技術創(chuàng)新會不斷帶來新挑戰(zhàn)。

　　行業(yè)挑戰(zhàn)任重道遠，合力推動技術向善

　　人工智能的安全風險取決于技術發(fā)展及其安全可控的程度，安全保障需要社會全體的共同參與，為人工智能發(fā)展應用建立安全邊界、做好自我監(jiān)管是未來長期要面臨的挑戰(zhàn)。

　　2022年3月，馬上消費牽頭成立行業(yè)首個AIF聯(lián)盟，堅持對金融黑產(chǎn)“零”容忍態(tài)度，凝聚同業(yè)合力，一同打擊金融黑產(chǎn)；在體制建設上，將消保納入頂層設計，實現(xiàn)100%產(chǎn)品和服務標準化消保評審體系，定期專項監(jiān)督，做到消保全流程管控，使客戶滿意度持續(xù)提升。

　　依托科技研發(fā)創(chuàng)新，參與超30項金融科技標準編制工作，涉及研發(fā)運營一體化能力成熟度、開發(fā)平臺通用能力要求等，獲得28項人工智能與交易安全領域備案認證，在標準及認證方面表現(xiàn)優(yōu)秀，引領消金行業(yè)規(guī)范化發(fā)展。

　　未來，行業(yè)應對人工智能安全風險的挑戰(zhàn)依然任重道遠，各金融機構、科技企業(yè)仍需高度重視、積極迎接挑戰(zhàn)，提升人工智能技術研發(fā)能力，從數(shù)據(jù)治理、強化監(jiān)管、規(guī)范制定方面降低風險，提供優(yōu)質(zhì)高效的金融服務，推動金融服務向智能安全可信方向發(fā)展。

海量資訊、精準解讀，盡在新浪財經(jīng)APP

責任編輯：宋源珺