數(shù)字經(jīng)濟(jì)背景下算法治理的目標(biāo)、難點(diǎn)與解決路徑（上）
作者：吳衛(wèi)明 2023-06-11算法（Algorithm）是對問題解決方案的描述，是通過特定的系統(tǒng)方法與策略構(gòu)建起來的機(jī)制，針對特定的輸入指令，得到具體的輸出。算法并不是一個(gè)新概念，而是伴隨著數(shù)學(xué)的發(fā)展而發(fā)展，某種意義上，構(gòu)建一個(gè)函數(shù)的過程即可視為一個(gè)算法的構(gòu)建。只是在傳統(tǒng)的經(jīng)濟(jì)模式下，算法構(gòu)建與應(yīng)用常常存在于學(xué)術(shù)研究、統(tǒng)計(jì)分析等領(lǐng)域，普通人對于算法的感知度較低。
進(jìn)入數(shù)字經(jīng)濟(jì)時(shí)代，隨著大數(shù)據(jù)與人工智能應(yīng)用的發(fā)展，算法逐漸成為各類網(wǎng)絡(luò)服務(wù)提供者在其業(yè)務(wù)經(jīng)營活動(dòng)中常用的一種的技術(shù)措施，從而被社會普通公眾感知。
對于普通民眾而言，算法已經(jīng)開始覆蓋了生活的各個(gè)領(lǐng)域，成為一個(gè)無法回避的問題。比如，瀏覽新聞或視頻的過程中，網(wǎng)站和APP等信息服務(wù)提供者，會根據(jù)特定算法與數(shù)據(jù)，對用戶進(jìn)行畫像分析，從而推送特定的頁面內(nèi)容，這些內(nèi)容可能是感興趣的文章，也可能是商品廣告。在消費(fèi)者購買外賣的時(shí)候，商家會根據(jù)特定算法，計(jì)算買家與送餐員的位置信息，從而匹配最優(yōu)化的派送路線安排。而近期炙手可熱的chatGPT,則可以根據(jù)用戶輸入的問題和背景知識，生成具有一定邏輯和語義的輸出成果，其應(yīng)答機(jī)制的核心仍然是特定的算法。
特定的算法是驅(qū)動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展的內(nèi)核，算法與數(shù)據(jù)結(jié)合，可以產(chǎn)生決策。而特定的決策則形成數(shù)字化企業(yè)的商業(yè)活動(dòng)，從而通過這些活動(dòng)去影響千千萬萬民眾的生活，并可能影響人們的社會心理和行動(dòng)，從而間接影響社會穩(wěn)定乃至國家安全。
算法并不神秘，但構(gòu)建算法的過程和要素卻非常復(fù)雜，算法對社會產(chǎn)生的影響也可能非常巨大。因此，算法治理成為數(shù)字經(jīng)濟(jì)發(fā)展到一定階段的必然產(chǎn)物，也是人工智能發(fā)展過程中必須關(guān)注的問題。
事實(shí)上，對于算法的反思，一直伴隨著數(shù)字經(jīng)濟(jì)的發(fā)展。從個(gè)性化信息推薦導(dǎo)致的“信息繭房”問題，到看人定價(jià)的“大數(shù)據(jù)殺熟”，再到“困”在算法里無法脫身的外賣送餐員和網(wǎng)約車司機(jī)，還有算法推薦產(chǎn)生的壟斷問題，以及生成合成算法所帶來的虛假信息問題，都給社會帶來了對于科技倫理的反思。
對于算法治理，我國陸續(xù)制定了一系列的規(guī)范，初步構(gòu)建了算法治理體系。算法治理是一個(gè)復(fù)雜的治理系統(tǒng)。既涉及到行政監(jiān)管，也涉及司法的治理；既涉及分類分級監(jiān)管，也涉及特定行業(yè)領(lǐng)域的監(jiān)管。
本文擬就算法的治理價(jià)值目標(biāo)與路徑進(jìn)行簡要分析，以有利于實(shí)務(wù)部門對于算法治理的整體理解與操作。
一、算法治理的價(jià)值目標(biāo)
算法的普及應(yīng)用，對于整個(gè)社會而言，仍屬新生事務(wù)。如何治理，治理目標(biāo)是什么，本身就是一個(gè)復(fù)雜問題。算法作為一種技術(shù)應(yīng)用，與任何科技成果一樣，其應(yīng)用后果一定具有兩面性。一方能，能夠推進(jìn)社會福利的增長，另一方面也會有其負(fù)面效應(yīng)。算法治理價(jià)值目標(biāo)的確定，應(yīng)建立在對算法價(jià)值與算法負(fù)面效應(yīng)的全面與客觀評價(jià)基礎(chǔ)之上。
2021年9月，國家互聯(lián)網(wǎng)信息辦公室、中共中央宣傳部、教育部、科學(xué)技術(shù)部、工業(yè)和信息化部、公安部、文化和旅游部、國家市場監(jiān)督管理總局、國家廣播電視總局發(fā)布了《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》（簡稱《指導(dǎo)意見》）。
《指導(dǎo)意見》在指導(dǎo)思想部分指出，以算法安全可信、高質(zhì)量、創(chuàng)新性發(fā)展為導(dǎo)向，建立健全算法安全治理機(jī)制，構(gòu)建完善算法安全監(jiān)管體系，推進(jìn)算法自主創(chuàng)新，促進(jìn)算法健康、有序、繁榮發(fā)展，為建設(shè)網(wǎng)絡(luò)強(qiáng)國提供有力支撐。
對于具體目標(biāo)，則提出逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。對于算法生態(tài)規(guī)范，則指出：算法導(dǎo)向正確、正能量充沛，算法應(yīng)用公平公正、公開透明，算法發(fā)展安全可控、自主創(chuàng)新，有效防范算法濫用帶來的風(fēng)險(xiǎn)隱患。
從《指導(dǎo)意見》可以看出，算法治理的價(jià)值目標(biāo)在于平衡算法的發(fā)展與約束算法的濫用。對于促進(jìn)算法的發(fā)展，企業(yè)具有天然的驅(qū)動(dòng)力，通過算法創(chuàng)新業(yè)務(wù)模式、優(yōu)化服務(wù)方法與服務(wù)能力、降低企業(yè)運(yùn)營成本、提升效益，對于任何一家依賴算法的企業(yè)而言，無疑都具有重大的價(jià)值。但是，對于公眾而言，算法濫用帶來的危害，則由于維權(quán)成本的高昂而可能導(dǎo)致維權(quán)主體缺位。因此，算法治理體系的具體措施更多體現(xiàn)為如何約束算法運(yùn)用、防范算法濫用。筆者認(rèn)為，算法治理的具體目標(biāo)，主要包括以下幾個(gè)方面：
1、公序良俗原則
公序良俗即對于公共秩序、道德規(guī)則與社會倫理秩序的尊重。對于算法的公序良俗問題，國家互聯(lián)網(wǎng)信息辦公室2021年發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（簡稱《算法規(guī)定》）中指出，“提供算法推薦服務(wù)，應(yīng)當(dāng)遵守法律法規(guī)，尊重社會公德和倫理，遵守商業(yè)道德和職業(yè)道德，遵循公正公平、公開透明、科學(xué)合理和誠實(shí)信用的原則。”在《算法規(guī)定》中，很明確提出了“社會公德和倫理”以及“商業(yè)道德和職業(yè)道德”。在國家互聯(lián)網(wǎng)信息辦公室2022年發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（簡稱《深度合成規(guī)定》）中，也規(guī)定了“尊重社會公德和倫理道德”以及“服務(wù)向上向善”的內(nèi)容。
算法作為人工智能領(lǐng)域的重要問題，也是科技的前沿問題。無論從技術(shù)上和法律上，社會對于算法濫用的危害尚無法完全評價(jià)，法律很難對算法規(guī)定過于詳細(xì)的法律約束措施和責(zé)任。因此，引入公序良俗原則，有利于在保護(hù)創(chuàng)新的同時(shí)約束算法的濫用。
2、公共利益原則
對于算法治理的公共利益原則，在《算法規(guī)定》第一條即有開宗明義的規(guī)定，規(guī)條規(guī)定：制定本辦法的目的包括“維護(hù)國家安全和社會公共利益”。《深度合成規(guī)定》也將“維護(hù)國家安全和社會公共利益”作為立法的目的。因此，公共利益是算法規(guī)定的基本原則之一。此外，對具有輿論屬性和社會動(dòng)員能力的算法進(jìn)行備案，也體現(xiàn)了公共利益原則。
3、算法的公平、公正、公開透明原則
在國家互聯(lián)網(wǎng)信息辦公室等多部委2021年發(fā)布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》（簡稱《指導(dǎo)意見》）中，首次提到了公平公正原則。該《指導(dǎo)意見》第二條原則部分指出“引導(dǎo)算法應(yīng)用公平公正、透明可釋，充分保障網(wǎng)民合法權(quán)益”。在《算法規(guī)定》及《深度合成規(guī)定》的第四條，也分別規(guī)定了“提供算法推薦服務(wù)，應(yīng)當(dāng)遵循公正公平、公開透明、科學(xué)合理和誠實(shí)信用的原則。”
算法對于社會公眾而言，相當(dāng)于一個(gè)“黑箱”，在算法涉及公平公民利益的情況下，通過公平公正及公開透明原則，避免算法服務(wù)提供者借助技術(shù)優(yōu)勢對公眾的權(quán)益和知情權(quán)造成損害，從而平衡算法服務(wù)提供者與社會公眾的利益。
二、算法治理的立法概況
1、特定行業(yè)領(lǐng)域早期立法
我國對于算法的立法規(guī)制，最早可見于特定行業(yè)領(lǐng)域的立法，且主要針對算法可能給行業(yè)交易秩序帶來的危害。2018年4月27日，中國人民銀行、中國銀行保險(xiǎn)監(jiān)督管理委員會、中國證券監(jiān)督管理委員會、國家外匯管發(fā)布了《關(guān)于規(guī)范金融機(jī)構(gòu)資產(chǎn)管理業(yè)務(wù)的指導(dǎo)意見》（簡稱“《資管新規(guī)》”）。
《資管新規(guī)》主要是針對人工智能算法可能帶來的“算法同質(zhì)化”問題進(jìn)行了規(guī)制。規(guī)定了金融機(jī)構(gòu)應(yīng)當(dāng)避免算法同質(zhì)化加劇投資行為的順周期性，并針對由此可能引發(fā)的市場波動(dòng)風(fēng)險(xiǎn)制定應(yīng)對預(yù)案。對于因算法同質(zhì)化、編程設(shè)計(jì)錯(cuò)誤、對數(shù)據(jù)利用深度不夠等人工智能算法模型缺陷或者系統(tǒng)異常，導(dǎo)致羊群效應(yīng)、影響金融市場穩(wěn)定運(yùn)行的，金融機(jī)構(gòu)應(yīng)當(dāng)及時(shí)采取人工干預(yù)措施，強(qiáng)制調(diào)整或者終止人工智能業(yè)務(wù)。
此后，在全國人大2019年頒布的《中華人民共和國證券法（2019修訂）》中，規(guī)定了通過計(jì)算機(jī)程序自動(dòng)生成或下達(dá)交易指令進(jìn)行程序化交易的，應(yīng)當(dāng)符合國務(wù)院證券監(jiān)督管理機(jī)構(gòu)的規(guī)定，并向證券交易所報(bào)告，不得影響證券交易所系統(tǒng)安全或者正常交易秩序。
證券、期貨交易等金融行業(yè)，具有周期性強(qiáng)、金額巨大、參與主體眾多的特點(diǎn)，市場容易受到各類信息的影響，從而產(chǎn)生羊群效應(yīng)。在人工智能算法或程序化交易算法加入市場交易后，羊群效應(yīng)可能會因?yàn)樗惴ㄍ|(zhì)化而被放大。因此，金融行業(yè)對于算法的規(guī)制，主要體現(xiàn)為對算法同質(zhì)化的干預(yù)。
2、全國人大的立法
2021年全國人大通過并施行的《個(gè)人信息保護(hù)法》，將算法規(guī)制作為個(gè)人信息保護(hù)的重要措施。《個(gè)人信息保護(hù)法》主要從個(gè)人公平交易權(quán)和尊重個(gè)人選擇權(quán)，以及算法透明角度進(jìn)行了規(guī)范。具體包括：
（1）對算法引發(fā)歧視的禁止
個(gè)人信息處理者保證自動(dòng)化決策的透明度和結(jié)果的公平、公正，不得對個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇。
（2）個(gè)人選擇權(quán)的行使
個(gè)人信息處理者通過自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營銷，應(yīng)當(dāng)同時(shí)提供不針對其個(gè)人特征的選項(xiàng)，或者向個(gè)人提供便捷拒絕的方式。個(gè)人信息處理者通過自動(dòng)化程序作出對個(gè)人權(quán)益有重大影響的決定，個(gè)人有權(quán)拒絕僅通過自動(dòng)化決策的方式作出決定。這意味著，個(gè)人信息處理者在處理個(gè)人信息過程中，不能僅考慮人工智能的自動(dòng)化方式，還應(yīng)預(yù)留人工處理的選項(xiàng)。
（3）算法透明問題
個(gè)人信息處理者通過自動(dòng)化程序作出對個(gè)人權(quán)益有重大影響的決定，個(gè)人有權(quán)要求予以說明。
3、網(wǎng)信等部門的系統(tǒng)化立法
除上述針對金融領(lǐng)域的規(guī)則及《個(gè)人信息保護(hù)法》外，網(wǎng)信部門及相關(guān)部委今年對于算法出臺了一系類的監(jiān)管規(guī)則，從而形成了系統(tǒng)化的立法體系。
國家互聯(lián)網(wǎng)信息辦公室2019年12月發(fā)布了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》（簡稱《信息治理規(guī)定》）。《信息治理規(guī)定》第十二條規(guī)定：網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺采用個(gè)性化算法推薦技術(shù)推送信息的，應(yīng)當(dāng)設(shè)置符合本規(guī)定第十條、第十一條規(guī)定要求的推薦模型，建立健全人工干預(yù)和用戶自主選擇機(jī)制。
此后，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局2019年11月發(fā)布了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》（簡稱《音視頻規(guī)定》）。《音視頻規(guī)定》規(guī)定了音視頻服務(wù)者在利用算法提供服務(wù)時(shí)，應(yīng)承擔(dān)安全評估、對利用深度學(xué)習(xí)及虛擬現(xiàn)實(shí)等技術(shù)新應(yīng)用制作發(fā)布非真實(shí)音視頻信息的標(biāo)注義務(wù)、對虛假視頻的辟謠義務(wù)等。
國家互聯(lián)網(wǎng)信息辦公室、中共中央宣傳部、教育部、科學(xué)技術(shù)部、工業(yè)和信息化部、公安部、文化和旅游部、國家市場監(jiān)督管理總局、國家廣播電視總局2021年9月發(fā)布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》（簡稱《指導(dǎo)意見》）。規(guī)定了有效監(jiān)測算法安全風(fēng)險(xiǎn)，積極開展算法安全評估，有序推進(jìn)算法備案工作。
國家互聯(lián)網(wǎng)信息辦公室2021年11月發(fā)布的《算法規(guī)定》，則規(guī)定了算法的分類，算法包括個(gè)性化推送類、生成合成類、排序精選類、檢索過濾類、調(diào)度決策類等五類算法。《算法規(guī)定》還規(guī)定了算法分級分類安全管理的原則。分類分級關(guān)注的維度包括算法推薦服務(wù)的輿論屬性或者社會動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對用戶行為的干預(yù)程度等。
國家互聯(lián)網(wǎng)信息辦公室2022年11月發(fā)布的《深度合成規(guī)定》，則對應(yīng)用深度合成技術(shù)的若干重要問題進(jìn)行了規(guī)定。
2023年4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，對社會公開征求意見。該《征求意見稿》對生成式人工智能進(jìn)行了界定，即生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。隨著以美國Open-AI公司ChatGPT為代表的生成式人工智能產(chǎn)品的發(fā)展與推廣，如何應(yīng)對該種人工智能服務(wù)所帶來的社會風(fēng)險(xiǎn)，成為監(jiān)管關(guān)注的新問題。
