“2021中國國際金融科技論壇”于2021年9月3日在北京召開。中國證監會科技監管局局長姚前出席并演講。

　　姚前表示，當前，算法在經濟活動中的重要性日趨凸顯。

　　一是算法拓展了互聯網經濟的深度與廣度。比如，基于平臺上的交易數據、用戶自身提供的數據以及其他另類數據，開展大數據分析，對用戶進行“千人千面”畫像，深入分析每個消費者個體的行為模式和特點，形成獨特的客戶洞察，開展精準營銷、服務和風控；基于算法的智能調度，使得云計算很好地解決了實時海量交易和數據處理的性能要求；智能客服提升客戶服務的響應速度，降低成本，提高效率。

　　二是出現了以算法為核心的新型經濟模式。姚前將其總結為“算法經濟”，即人們將生產經驗、邏輯和規則總結提煉后“固化”在代碼上，使生產經營、交易融資等活動無須人工干預，自動執行的智能化經濟模式。

　　他介紹稱，算法經濟的典型代表是算法金融。以數據為核心，以算法為驅動，以算力為保障，構建強大的數據分析能力，開展智能營銷、智能風控、智能投顧、智能理賠，為客戶提供量身定制的金融服務和產品，并將專家分析決策經驗與人工智能技術融合，通過風控模型的自學習、自進化分析過程，實現基于海量數據機器學習的實時復雜風控，更好地量化風險，更好地應對KYC、反欺詐、反洗錢、信用風險等關鍵業務風險。

　　姚前指出，算法經濟大幅改善了市場經濟的匹配效率和交易成本，人們一方面歡迎和享受智能算法帶來的便利，另一方面卻擔心被智能算法替代導致個人價值的喪失。不僅如此，隨著算法經濟的加速發展，算法的滲透力和影響力越來越強調，其背后隱藏的風險和作惡的可能引起了關注。

　　他提出了幾點，首先是算法濫用。算法規則的背后是商業利益。為了追求利益最大化，算法有可能違背社會公平、道德和人性，比如大數據殺熟，同樣的商品或服務，老客戶的價格反而比新客戶要貴。只推薦給人們能潛在帶來商業利益的東西，而不是最適合、最恰當的東西。可能濫用人性弱點，過度激發、勸服、誘導客戶，使人習慣于被喂養，不自覺地對算法投放的產品沉迷上癮。只有算法邏輯，沒有考慮人性，將人“異化”為簡單的數據、商品和工具。算法的具體原理和參數只有運營企業的少部分人才能知道，有可能產生利益侵占問題。有的企業可能利用算法作惡，比如為了擴大流量，推送聳人聽聞的虛假信息；推薦虛假產品。

　　其次是算法偏見。算法的數據可能不一定全面，片面的數據得到的結果必然導致某種偏見。算法的設計者是人，算法設計師乃至企業管理者、價值觀的偏見可能被嵌入算法。算法的“技術光環”容易讓人盲從所謂的“科學”，但實質上有些算法卻存在很大程度的不可解釋性，比如類似“黑箱子”的機器學習算法；機器學習算法側重于相關性分析，而不是因果分析，可能產生錯誤的勾連與判斷；基于歷史數據的機器學習算法隱含著“過去決定未來”邏輯，以歷史宿命論定義和標簽每個人，某種程度上也是一種偏見。

　　另外，算法鴻溝也值得重視。算法通常是隱秘的，或是專利，或是商業秘密。即便公開，也因技術門檻，也不是每個人都能看懂。這就形成新的數字鴻溝。不懂算法的人群在利益受損時有可能并不知情，即便知情，也可能無力舉證和對抗。

　　而且，在特定領域，算法還可能引致特定風險。比如在金融領域，智能算法給出的資產配置建議有可能是推薦了與金融機構自身利益高度攸關的產品，涉嫌利益侵占；智能算法形成信息繭房，強化投資者偏見，容易掩蓋金融風險復雜性，引誘過度消費和負債，甚至誤導投資者；智能算法若存在歧視，則損害投資者公平性；智能算法趨同導致“羊群效應”，加大金融順周期風險等等。

　　姚前指出，因為算法背后有上述一些風險，所以各國的監管部門高度關注算法隱含的風險。2018年我國資管新規《關于規范金融機構資產管理業務的指導意見》也提出要避免智能算法順周期性風險、羊群效應等相關規定。2020年12月中共中央印發《法治社會建設實施綱要（2020-2025年）》，提出要制定完善算法推薦、深度偽造等新技術應用的規范管理辦法，要加強對大數據、云計算和人工智能等新技術研發應用的規范引導。最近，網信辦就《互聯網信息服務算法推薦管理規定》向社會公開征求意見。征求意見稿指出，算法推薦服務提供者應當落實算法安全主體責任，建立健全相應管理制度，制定并公開算法推薦相關服務規則，配備與算法推薦服務規模相適應的專業人員和技術支撐。應當堅持主流價值導向，加強信息內容管理，同時，算法推薦服務提供者不得利用算法實施自我優待、不正當競爭、影響網絡輿論或者規避監管。

　　“總的來說，智能算法已在很多行業大量采用，考慮到其生態規模巨大、潛在風險和社會影響不容忽視。而我國算法監管制度正逐步完善和健全，但具體內容有待細化完善”，姚前強調，算法監管具體內容至少包括：

　　一是信息披露，即作為算法的設計者和控制方，相關主體及利益相關者應該披露算法設計、執行、使用過程中可能存在的偏見和漏洞、數據來源以及可能對個人和社會造成的潛在危害。二是解釋，即作為采用算法自動化決策的機構，相關主體及利益相關者有義務解釋算法運行原理以及算法具體決策結果。三是留痕與可審計，即算法系統的設計、測試、運行表現及變動留有記錄，全程監測，并可審計。四是質詢和申訴，即確保受到算法決策負面影響的個人或組織享有對算法進行質疑并申訴的權力。五是內部治理。相關主體應建立清晰、有效的內部治理框架、內部控制機制和責任體系，防止算法濫用，防范算法風險，并提高算法對抗性，避免算法攻擊。六是加強行業自律。通過行業自律機制，加強算法道德和算法倫理建設。

　　不可否認，算法催生了新的經濟模式，帶來社會整體效益的提升，有其獨特優勢，但“有一利必有一弊”，近年來算法濫用、算法作惡、算法道德、算法倫理等問題已引起廣泛關注，姚前表示，算法亦有可能凌駕于蕓蕓眾生之上，其中風險同樣值得我們關注與警惕。為此，加強算法監管，以監管科技應對新型科技，既是順應之策，又是必然之舉。

　　新浪聲明：所有會議實錄均為現場速記整理，未經演講者審閱，新浪網登載此文出于傳遞更多信息之目的，并不意味著贊同其觀點或證實其描述。

海量資訊、精準解讀，盡在新浪財經APP

責任編輯：梁斌 SF055