數字經濟背景下算法治理的目標、難點與解決路徑（上）
作者：吳衛明 2023-06-11算法（Algorithm）是對問題解決方案的描述，是通過特定的系統方法與策略構建起來的機制，針對特定的輸入指令，得到具體的輸出。算法并不是一個新概念，而是伴隨著數學的發展而發展，某種意義上，構建一個函數的過程即可視為一個算法的構建。只是在傳統的經濟模式下，算法構建與應用常常存在于學術研究、統計分析等領域，普通人對于算法的感知度較低。
進入數字經濟時代，隨著大數據與人工智能應用的發展，算法逐漸成為各類網絡服務提供者在其業務經營活動中常用的一種的技術措施，從而被社會普通公眾感知。
對于普通民眾而言，算法已經開始覆蓋了生活的各個領域，成為一個無法回避的問題。比如，瀏覽新聞或視頻的過程中，網站和APP等信息服務提供者，會根據特定算法與數據，對用戶進行畫像分析，從而推送特定的頁面內容，這些內容可能是感興趣的文章，也可能是商品廣告。在消費者購買外賣的時候，商家會根據特定算法，計算買家與送餐員的位置信息，從而匹配最優化的派送路線安排。而近期炙手可熱的chatGPT,則可以根據用戶輸入的問題和背景知識，生成具有一定邏輯和語義的輸出成果，其應答機制的核心仍然是特定的算法。
特定的算法是驅動數字經濟發展的內核，算法與數據結合，可以產生決策。而特定的決策則形成數字化企業的商業活動，從而通過這些活動去影響千千萬萬民眾的生活，并可能影響人們的社會心理和行動，從而間接影響社會穩定乃至國家安全。
算法并不神秘，但構建算法的過程和要素卻非常復雜，算法對社會產生的影響也可能非常巨大。因此，算法治理成為數字經濟發展到一定階段的必然產物，也是人工智能發展過程中必須關注的問題。
事實上，對于算法的反思，一直伴隨著數字經濟的發展。從個性化信息推薦導致的“信息繭房”問題，到看人定價的“大數據殺熟”，再到“困”在算法里無法脫身的外賣送餐員和網約車司機，還有算法推薦產生的壟斷問題，以及生成合成算法所帶來的虛假信息問題，都給社會帶來了對于科技倫理的反思。
對于算法治理，我國陸續制定了一系列的規范，初步構建了算法治理體系。算法治理是一個復雜的治理系統。既涉及到行政監管，也涉及司法的治理；既涉及分類分級監管，也涉及特定行業領域的監管。
本文擬就算法的治理價值目標與路徑進行簡要分析，以有利于實務部門對于算法治理的整體理解與操作。
一、算法治理的價值目標
算法的普及應用，對于整個社會而言，仍屬新生事務。如何治理，治理目標是什么，本身就是一個復雜問題。算法作為一種技術應用，與任何科技成果一樣，其應用后果一定具有兩面性。一方能，能夠推進社會福利的增長，另一方面也會有其負面效應。算法治理價值目標的確定，應建立在對算法價值與算法負面效應的全面與客觀評價基礎之上。
2021年9月，國家互聯網信息辦公室、中共中央宣傳部、教育部、科學技術部、工業和信息化部、公安部、文化和旅游部、國家市場監督管理總局、國家廣播電視總局發布了《關于加強互聯網信息服務算法綜合治理的指導意見》（簡稱《指導意見》）。
《指導意見》在指導思想部分指出，以算法安全可信、高質量、創新性發展為導向，建立健全算法安全治理機制，構建完善算法安全監管體系，推進算法自主創新，促進算法健康、有序、繁榮發展，為建設網絡強國提供有力支撐。
對于具體目標，則提出逐步建立治理機制健全、監管體系完善、算法生態規范的算法安全綜合治理格局。對于算法生態規范，則指出：算法導向正確、正能量充沛，算法應用公平公正、公開透明，算法發展安全可控、自主創新，有效防范算法濫用帶來的風險隱患。
從《指導意見》可以看出，算法治理的價值目標在于平衡算法的發展與約束算法的濫用。對于促進算法的發展，企業具有天然的驅動力，通過算法創新業務模式、優化服務方法與服務能力、降低企業運營成本、提升效益，對于任何一家依賴算法的企業而言，無疑都具有重大的價值。但是，對于公眾而言，算法濫用帶來的危害，則由于維權成本的高昂而可能導致維權主體缺位。因此，算法治理體系的具體措施更多體現為如何約束算法運用、防范算法濫用。筆者認為，算法治理的具體目標，主要包括以下幾個方面：
1、公序良俗原則
公序良俗即對于公共秩序、道德規則與社會倫理秩序的尊重。對于算法的公序良俗問題，國家互聯網信息辦公室2021年發布的《互聯網信息服務算法推薦管理規定》（簡稱《算法規定》）中指出，“提供算法推薦服務，應當遵守法律法規，尊重社會公德和倫理，遵守商業道德和職業道德，遵循公正公平、公開透明、科學合理和誠實信用的原則。”在《算法規定》中，很明確提出了“社會公德和倫理”以及“商業道德和職業道德”。在國家互聯網信息辦公室2022年發布的《互聯網信息服務深度合成管理規定》（簡稱《深度合成規定》）中，也規定了“尊重社會公德和倫理道德”以及“服務向上向善”的內容。
算法作為人工智能領域的重要問題，也是科技的前沿問題。無論從技術上和法律上，社會對于算法濫用的危害尚無法完全評價，法律很難對算法規定過于詳細的法律約束措施和責任。因此，引入公序良俗原則，有利于在保護創新的同時約束算法的濫用。
2、公共利益原則
對于算法治理的公共利益原則，在《算法規定》第一條即有開宗明義的規定，規條規定：制定本辦法的目的包括“維護國家安全和社會公共利益”。《深度合成規定》也將“維護國家安全和社會公共利益”作為立法的目的。因此，公共利益是算法規定的基本原則之一。此外，對具有輿論屬性和社會動員能力的算法進行備案，也體現了公共利益原則。
3、算法的公平、公正、公開透明原則
在國家互聯網信息辦公室等多部委2021年發布的《關于加強互聯網信息服務算法綜合治理的指導意見》（簡稱《指導意見》）中，首次提到了公平公正原則。該《指導意見》第二條原則部分指出“引導算法應用公平公正、透明可釋，充分保障網民合法權益”。在《算法規定》及《深度合成規定》的第四條，也分別規定了“提供算法推薦服務，應當遵循公正公平、公開透明、科學合理和誠實信用的原則。”
算法對于社會公眾而言，相當于一個“黑箱”，在算法涉及公平公民利益的情況下，通過公平公正及公開透明原則，避免算法服務提供者借助技術優勢對公眾的權益和知情權造成損害，從而平衡算法服務提供者與社會公眾的利益。
二、算法治理的立法概況
1、特定行業領域早期立法
我國對于算法的立法規制，最早可見于特定行業領域的立法，且主要針對算法可能給行業交易秩序帶來的危害。2018年4月27日，中國人民銀行、中國銀行保險監督管理委員會、中國證券監督管理委員會、國家外匯管發布了《關于規范金融機構資產管理業務的指導意見》（簡稱“《資管新規》”）。
《資管新規》主要是針對人工智能算法可能帶來的“算法同質化”問題進行了規制。規定了金融機構應當避免算法同質化加劇投資行為的順周期性，并針對由此可能引發的市場波動風險制定應對預案。對于因算法同質化、編程設計錯誤、對數據利用深度不夠等人工智能算法模型缺陷或者系統異常，導致羊群效應、影響金融市場穩定運行的，金融機構應當及時采取人工干預措施，強制調整或者終止人工智能業務。
此后，在全國人大2019年頒布的《中華人民共和國證券法（2019修訂）》中，規定了通過計算機程序自動生成或下達交易指令進行程序化交易的，應當符合國務院證券監督管理機構的規定，并向證券交易所報告，不得影響證券交易所系統安全或者正常交易秩序。
證券、期貨交易等金融行業，具有周期性強、金額巨大、參與主體眾多的特點，市場容易受到各類信息的影響，從而產生羊群效應。在人工智能算法或程序化交易算法加入市場交易后，羊群效應可能會因為算法同質化而被放大。因此，金融行業對于算法的規制，主要體現為對算法同質化的干預。
2、全國人大的立法
2021年全國人大通過并施行的《個人信息保護法》，將算法規制作為個人信息保護的重要措施。《個人信息保護法》主要從個人公平交易權和尊重個人選擇權，以及算法透明角度進行了規范。具體包括：
（1）對算法引發歧視的禁止
個人信息處理者保證自動化決策的透明度和結果的公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇。
（2）個人選擇權的行使
個人信息處理者通過自動化決策方式向個人進行信息推送、商業營銷，應當同時提供不針對其個人特征的選項，或者向個人提供便捷拒絕的方式。個人信息處理者通過自動化程序作出對個人權益有重大影響的決定，個人有權拒絕僅通過自動化決策的方式作出決定。這意味著，個人信息處理者在處理個人信息過程中，不能僅考慮人工智能的自動化方式，還應預留人工處理的選項。
（3）算法透明問題
個人信息處理者通過自動化程序作出對個人權益有重大影響的決定，個人有權要求予以說明。
3、網信等部門的系統化立法
除上述針對金融領域的規則及《個人信息保護法》外，網信部門及相關部委今年對于算法出臺了一系類的監管規則，從而形成了系統化的立法體系。
國家互聯網信息辦公室2019年12月發布了《網絡信息內容生態治理規定》（簡稱《信息治理規定》）。《信息治理規定》第十二條規定：網絡信息內容服務平臺采用個性化算法推薦技術推送信息的，應當設置符合本規定第十條、第十一條規定要求的推薦模型，建立健全人工干預和用戶自主選擇機制。
此后，國家互聯網信息辦公室、文化和旅游部、國家廣播電視總局2019年11月發布了《網絡音視頻信息服務管理規定》（簡稱《音視頻規定》）。《音視頻規定》規定了音視頻服務者在利用算法提供服務時，應承擔安全評估、對利用深度學習及虛擬現實等技術新應用制作發布非真實音視頻信息的標注義務、對虛假視頻的辟謠義務等。
國家互聯網信息辦公室、中共中央宣傳部、教育部、科學技術部、工業和信息化部、公安部、文化和旅游部、國家市場監督管理總局、國家廣播電視總局2021年9月發布的《關于加強互聯網信息服務算法綜合治理的指導意見》（簡稱《指導意見》）。規定了有效監測算法安全風險，積極開展算法安全評估，有序推進算法備案工作。
國家互聯網信息辦公室2021年11月發布的《算法規定》，則規定了算法的分類，算法包括個性化推送類、生成合成類、排序精選類、檢索過濾類、調度決策類等五類算法。《算法規定》還規定了算法分級分類安全管理的原則。分類分級關注的維度包括算法推薦服務的輿論屬性或者社會動員能力、內容類別、用戶規模、算法推薦技術處理的數據重要程度、對用戶行為的干預程度等。
國家互聯網信息辦公室2022年11月發布的《深度合成規定》，則對應用深度合成技術的若干重要問題進行了規定。
2023年4月11日，國家互聯網信息辦公室發布了《生成式人工智能服務管理辦法（征求意見稿）》，對社會公開征求意見。該《征求意見稿》對生成式人工智能進行了界定，即生成式人工智能，是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。隨著以美國Open-AI公司ChatGPT為代表的生成式人工智能產品的發展與推廣，如何應對該種人工智能服務所帶來的社會風險，成為監管關注的新問題。
