大模型在智慧金融應用中的合規性研究
作者：吳衛明 2025-02-28隨著以Deepseek、chatGPT為代表的大模型不斷發展，生成式人工智能的應用也日益廣泛。經過預訓練、數據標注及持續的人類反饋，大模型對于人類自然語言的理解也日益準確，大模型及相應的生成式AI具備理解人類指令并輸出相應生成合成物的能力，并在很多領域輔助人類的工作、提升各行業的工作效率。
金融行業由于網絡化、數字化的整體進程開啟較早，業務流程在線化和數據積累等基礎工作也較為成熟，因而對于人工智能的應用也較早和較為深入。早在2017年7月20日國務院印發的《新一代人工智能發展規劃》即對金融領域人工智能應用進行了規劃， “在智能金融方面，要建立金融大數據系統，提升金融多媒體數據處理與理解能力。創新智能金融產品和服務，發展金融新業態。鼓勵金融行業應用智能客服、智能監控等技術和裝備。建立金融風險智能預警與防控系統”。根據《規劃》對于智能金融的布局，金融大數據系統、創新型的智能金融產品和服務將是我國智能金融領域中發展重點[1]。
人工智能在數據輔助分析、金融產品智能風控、智能投顧、智能客服、程序化交易等領域均發揮了提升服務能力、提高交易效率的作用。
而隨著Deepseek、chatGPT等大模型的應用，人工智能愈發能夠對齊人類能力。甚至在大規模知識整合分析、知識輸出的廣度、結構化、效率等方面還具有一定的優勢。相關的金融機構也在通過調用大模型能力，結合金融領域知識及自身的業務數據開發金融領域的垂直應用模型。
大模型在給人們帶來便利和推進新經濟模式發展的同時，也帶來了倫理和社會公共利益、人群歧視、偏見等問題，此外違法和虛假信息的生成、傳播，也是大模型可能帶來的負面影響。對于金融行業而言，同樣需要重視這些問題的影響，在應用大模型的過程中，做好自身的合規治理。
一、大模型在金融領域的應用概述
（一）人工智能在金融領域的應用演進
Deepseek等大模型在金融行業的應用是近幾年的新生事務，但是各類算法等AI技術在金融行業的應用卻已經有了一定期間的積累。
比如在智慧金融發展的早期階段，金融機構即開始采用各種大數據分析模型和決策類AI算法對借款人或投保人的信用狀況和風險狀況進行分析，并進行自動化的貸款與保險核保的審核。這一階段，智能風控是最為常見的智能金融應用場景，例如螞蟻金服、京東金融等機構，在這一階段均研發了各自的智能風控模型。通過對用戶多維度的數據進行綜合判斷，得出用戶的風險等級、信用水平、償債能力等結果。[2]
在金融客戶營銷和投資者教育過程中，個性化推送類AI算法的應用，也是早期智慧金融常見的應用場景之一。通過將人工智能算法中的個性化推送算法嵌入金融應用終端或者用于營銷系統，金融機構能夠精準找到客戶，或者為客戶提供更具有針對性的投資產品和投資者教育素材。[3]
而智能投顧系統，也是常見的決策類算法應用場景。智能投顧是指采用人工智能的方法，以計算機軟件輔助進行投資決策或給予投資組合的建議，智能投顧的應用領域主要包括為投資者提供投資組合建議或者投資決策建議。此外，程序化交易背后的原理同樣也是采用了決策類AI算法，根據市場的變化情況，從操作上對于下單、成交、批量處理等做出決策并實施自動化操作，該等技術幾乎可以覆蓋投資的全過程，包括量化選股、量化擇時、統計套利、算法交易、資產配置、風險控制等。[4]
雖然人工智能在金融領域的早期應用可以 提升業務效率與金融機構的業務競爭力、 優化金融機構的風險管理、增強金融機構的客戶體驗，并能夠一定程度上推動創新和助力普惠金融，但是早期主要基于大數據和決策類AI算法、精準推送類AI算法的人工智能應用，由于其對其人類自然語言能力不足，算法僅僅可以完成一些機械式的決策、調度、推送任務。僅以智能客服為例，早期程序化的智能客服系統，需要依據大數據預測用戶可能的問題，從而構建自身的回復話術，對于預設話術之外的用戶提問則往往無所適從。大模型的出現，對于金融機構人工智能應用的提升，無疑是一個更好的選擇。
（二）大模型在金融機構的應用場景
大模型的應用，可以大幅度提升各類智能金融應用程序的能力和效率。對于客戶服務、風險管理、投資決策、內部管理運營等都具有重要的作用?？傮w而言，大模型可以應用于以下場景：
1、智能客服
在傳統的自動化呼叫中心和客服中心系統中，通常是預設特定的應答話術，系統對于用戶問題的識別和反饋能力不足，用戶體驗差。大模型在金融智能客服領域的應用，能夠極大提升對于用戶反饋內容的理解，通過多輪對話，理解用戶的需求，并做出相應的答復和解決方案，提升客戶體驗。此外，虛擬數字人的應用，也有助于提高智能客服系統的界面友好度。
2、智能審核與風控
在銀行網絡貸款、小額貸款公司、消費金融公司等放貸類機構的小額貸款產品發放過程中，大模型的應用有助于對客戶的收入、財產、行為信息、信用記錄等進行分析，從而對用戶的還款能力、風險等級做出分析，給出貸款的審批建議及差異化利率。在保險領域，也涉及到對保險客戶數據的分析，比如駕駛習慣、健康狀況等，從而給與不同客戶個性化的產品和服務。
此外，在信貸領域中，將大模型嵌入風控審核流程，有助于提升對多頭借貸、信貸欺詐等行為的識別效率和識別準確性。而在保險領域，則可以將大模型用于保險理賠的處理，提高保險欺詐識別的效率和理賠效率。
3、反洗錢合規
反洗錢是金融機構的一項重要義務，如何發現監控和發現可疑交易，并且快速進行鑒別與處理，一直是金融機構關注的問題。通過大模型的應用，金融機構可以深入分析客戶身份和交易模式，降低復核成本，提高反洗錢效率。
4、交易與財富管理
智能投顧是人工智能金融應用的典型場景之一，而大模型突出的自然語言理解能力和生成能力，無疑大幅度降低了對投資者數據和背景資料進行分析的成本，可以更高效地分析其風險偏好和財務狀況，并生成個性化的投資組合建議。在投研分析過程中，大模型的自然語言處能力，可以幫助金融機構快速分析研究報告和市場動態，提取有價值的信息，并為投資決策提供更為體系化的支持。
（三）金融行業垂直模型應用
將大模型的通用語言能力與金融行業的特定知識及需求結合，開發出金融領域垂直模型，是金融行業在大模型應用中需要面對的問題。通常而言，大模型在金融行業落地的路徑主要有以下方面：
1、在開源模型基礎上定制開發
由于通用大語言模型的訓練無論從算力還是預訓練語料數據的角度，都需要巨量的成本投入。對于金融機構而言，利用開源的通用大模型，結合自身的行業數據和業務數據，通過強化學習、微調等方式進行定制化開發，不失為一種更為便捷的方法。
2. 結合金融專業知識圖譜
金融機構可以將大模型與專業知識圖譜相結合，構建垂直領域的專用模型?；蛘哚槍鹑陬I域的信貸審批、風險評估、客戶服務、智能投顧、智能內控、監管合規等特定場景，開發小模型以實現更高的效率和精準度。這種方法能夠更好地理解和處理金融領域的復雜問題，同時降低前期投入和業務風險。
二、大模型應用于智慧金融的合規問題
大模型在金融行業的應用面臨著多方面的法律合規風險，主要包括以下幾點：
1、數據安全與個人信息合規風險
金融機構運用大模型的過程中，數據安全風險與個人信息合規風險是最為主要的合規風險。其中風險類型主要包括：
（1）運用大模型過程中的數據安全與個人信息保護風險
金融機構業務過程中會收集、處理大量的個人信息，其中不乏敏感個人信息。而運用第三方大模型過程中，則會涉及大量個人的處理，包括客戶身份、資產信息、交易記錄等信息。運用大模型過程中，如果涉及向模型傳輸數據，則可能帶來個人信息保護的風險。此外，金融機構的數據還可能涉及重要數據，數據安全風險也是大模型應用中需要予以考慮的。[5]
（2）訓練數據相關合規風險
金融機構結合大模型能力在進行垂直化模型訓練過程中，可能也會用到自身所處理的個人信息或其他數據，這些數據既包括金融機構自身業務過程中收集或產生的數據，也可能涉及來自于第三方的數據及公開互聯網的數據。將數據用于垂直模型的訓練，也可能涉及到個人信息的合規問題及企業商業秘密的合理使用、著作權的保護問題。對于公開獲取的互聯網數據，則涉及網絡爬蟲的合規應用問題。此外，來自于第三方的商業數據，如果本身不具有合法轉移的基礎，也會存在法律上的風險。[6]
2、模型生成物內容的法律風險
無論是應用第三方大模型或者是自身開發的垂直模型，內容輸出都是金融機構無法忽視的風險。風險主要來自于兩方面：
其一、內容合法及算法歧視與公平性問題。在《生成式人工智能服務管理暫行辦法》第四條對于生成物（輸出內容）有嚴格的限制。生成物應內容合法。即不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容。并且符合反歧視原則。在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、大模型可能因訓練數據的偏差而產生歧視性結果，這在金融決策中可能導致不公平待遇，違反相關法律法規。
其二、輸出內容的質量問題。大模型的訓練依賴大量數據，若數據質量不佳或模型存在“幻覺”問題，可能導致輸出結果存在偏差，甚至生成錯誤的投資建議或風險評估，給用戶帶來損失。《生成式人工智能服務管理暫行辦法》第四條對于生成物質量也做了嚴格規定。生成物應內容準確可靠，服務提供者采取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。
3、知識產權合規問題
大模型的訓練可能會使用大量的作品數據，作品數據是大模型訓練中最為常見一種數據，大模型在獲取語言知識和世界知識過程中，作品數據無疑是優質的訓練語料。書籍、學術期刊、各類文章等都屬于作品數據。作品數據一般會存在作者或者相關機構的著作權問題，如何協調模型訓練與著作權之間的關系，成為各國立法和司法機構面臨的新問題。[7]《生成式人工智能服務管理暫行辦法》中，第四條也規定了尊重知識產權的原則。
三、金融機構適用大模型的合規管理
隨著人工智能技術和算法技術在多領域的廣泛應用，網信部門陸續發布《互聯網信息服務算法推薦管理規定》《生成式人工智能服務管理暫行辦法》及其他相關配套文件對相關技術應用活動提出了合規要求；而標準層級也有《人工智能算法金融應用評價規范（JR/T 0221-2021）》《人工智能算法金融應用信息披露指南（JR/T 0287-2023）》等文件對算法在金融領域的應用提供了參考和指引。對于金融機構而言，大模型適用的合規管理，主要包括以下幾個方面：
1、訓練數據合規制度體系的建立
（1）與訓練數據獲取有關的管控制度
通過相應的制度，對于訓練語料數據的來源及其合法性進行充分的管控。包括開源數據集、向第三方獲取的商業數據集、公共數據、個人信息以及企業自行采集或生產數據的管控。
《生成式人工智能服務管理暫行辦法》對于訓練數據有明確的禁止性規定，并且兜底規定了訓練數據應符合《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》等法律、行政法規的其他有關規定和有關主管部門的相關監管要求。這就對訓練數據的來源合規及內容合規提出了很高的管控要求。因此，制定與訓練數據獲取有關的合規制度，是生成式AI訓練合規體系的重要內容。
（2）數據標注的合規
數據標注是生成式AI訓練的重要環節，研發企業通過人工或者自動化程序，基于對提示信息的響應信息內容，將特定信息如標簽、類別或屬性添加到文本、圖片、音頻、視頻或者其他數據樣本的過程。對于垂直模型的開發而言，數據標準更為重要。標注后的數據通常用于訓練和驗證機器學習模型，幫助模型學習如何從原始數據中提取有意義的模式和信息。
因此，數據標注規則，以及圍繞數據標注規則建立的數據標注合規體系，如數據標注的安全要求、數據標注人員的安全要求、數據標準的核驗要求等，都需要在標注規則中予以體現。數據標注在合規方面需要特別關注如下內容：其一、如果標注數據包含敏感個人信息，應采取必要措施對敏感個人信息進行匿名化處理，防止個人信息泄露或不當利用風險；其二、采取數據訪問控制策略，只允許經過授權的標注人員訪問；其三、標注數據的備份，以防止數據丟失或損壞；其四、監控和記錄準備標注的數據的訪問和修改記錄，以進行數據安全審計；其五、如涉及第三方外包，需要對標注任務的數據安全、數據刪除等進行明確約定。
2、大模型應用過程中的數據安全與合規管理
對于第三方大模型，如果未能實施本地化部署，則會涉及向模型所在服務器傳輸數據的問題。對此，金融機構應建立相應的安全審核機制或安全保護機制。
安全審核機制是指，金融機構應對大模型的提供者所具備的數據安全能力和數據合規管理能力進行必要的審核，使其符合金融行業網絡安全和數據安全能力的要求，并符合金融科技外包的技術和安全要求。
數據安全保護機制則是指，在模型應用過程中，在不影響應用效果的前提下，盡可能對輸入模型的數據進行脫敏處理，從而降低敏感數據泄露的風險。
3、生成物內容的合規管理
大模型生成內容的合規，是大模型合規管理的重要內容之一。如何防止算法生成物（輸出內容）包含虛假有害信息等法律、行政法規禁止的內容，并且不包含歧視內容，是金融大模型應用合規管理中必須予以關注的內容。對此，《互聯網信息服務深度合成管理規定》及《生成式人工智能服務管理暫行辦法》進行了相應的規定。大模型應用過程中，應建立合成內容管理的機制，采取技術或者人工方式對服務使用者的輸入數據和合成結果進行審核。服務提供者發現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優化訓練等措施進行整改，并向有關主管部門報告。還應建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規則和程序，記錄并留存相關網絡日志。
大模型應用于金融機構的智能金融業務，給金融機構帶來了便利和服務能力的提升，也為金融創新提供助力。但同時，也帶來的新的合規問題。金融機構在應用大模型過程中，關注合規管理機制的建立，從而發揮大模型的優勢，并降低相應的合規風險。
注釋
[1] 吳衛明，《數字金融法律實務與風險防范》，法制出版社，2018年10月。
[2] 吳衛明，《數字金融法律實務》，法制出版社，2018年版。
[3] 吳衛明，《數字金融法律實務》，法制出版社，2018年版。
[4] 吳衛明，《新證券法開啟智能金融監管新時代》，2019年。
[5] 吳衛明，《生成式人工智能訓練過程的合規與治理》，威科先行，2024年10月。
[6] 吳衛明，《人工智能大模型預訓練語料數據的合規》，威科先行，2024年12月。
[7] 吳衛明，《人工智能大模型預訓練語料數據的合規》，威科先行，2024年12月。
