《互聯網信息服務算法推薦管理規定》解讀
作者：吳衛明 劉昀東 2022-01-072021年12月31日四部門聯合發布《互聯網信息服務算法推薦管理規定》（以下簡稱《算法管理規定》），為解決種種算法亂象提供了指引和規范，也有利于互聯網生態環境的改善。在2021年8月27日公開征求意見后，正式發布的《算法管理規定》增加了與工信、公安、市場監督相關管理要求的銜接，并且立足于社會發展實際增加了目前國家重點關注的老年人權益保障、新聞服務和反不正當競爭的內容。
為幫助互聯網企業迅速了解法規要點，本文將從適用范圍、監管框架、主要義務、法律責任四個維度進行解讀。
一、適用范圍 根據 《算法管理規定》第二條及第三條的規定，其適用范圍是在中華人民共和國境內應用算法推薦技術提供互聯網信息服務的情形。這里的算法推薦技術，不僅僅包括最為人熟悉的應用在廣告、短視頻、“大數據殺熟”場景的個性化推送類，還包括生成合成類，例如文章生成算法、換臉算法；排序精選類，例如搜索引擎廣告排序算法、電商平臺店鋪排序算法；檢索過濾類，例如應用在各類公眾搜索引擎、電商或內容平臺的內部搜索引擎的過濾不良信息的搜索引擎；調度決策類，例如網約車平臺、外賣平臺的訂單匹配算法等。 可以看出，只要企業含有互聯網基因，基本都繞不開算法、繞不開算法推薦技術，就可能被認定為算法推薦服務提供者。所以《算法管理規定》的適用范圍非常廣泛，值得每一家通過互聯網開展業務的企業關注。 二、監管框架 （一）監督管理機構 相對于征求意見稿僅規定由網信部門監督管理，《算法管理規定》第三條確立了網信部門統籌協調，電信、公安、市場監管等有關部門依據各自職責負責算法推薦服務監督管理工作的體系。電信部門從行業管理的角度出發，公安部門從預防偵查違法犯罪活動的角度出發，市場監管部門從工商主體管理、廣告管理、反不正當競爭管理等角度出發。該體系與既有網絡安全、數據安全的體系內在邏輯一致。 （二）算法分級分類安全管理 《算法管理規定》第二十三條確立了算法分級分類安全管理的制度設計。其中分類分級關注的維度包括算法推薦服務的輿論屬性或者社會動員能力、內容類別、用戶規模、算法推薦技術處理的數據重要程度、對用戶行為的干預程度等。 在上述制度設計下，具有輿論屬性或者社會動員能力的算法推薦服務提供者應當履行備案義務。根據《算法管理規定》第二十四條至第二十六條的規定，備案流程如下所示。 備案應當填報的信息包括服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息。 此外，備案信息發生變更的，應當在變更之日起十個工作日內辦理變更手續；終止服務的，應當在終止服務之日起二十個工作日內辦理注銷備案手續，并作出妥善安排。 三、主要義務 對于應當適用《算法管理規定》的企業，主要需要關注不能做什么和應當做什么。 （一）不能做什么 表 算法推薦服務提供者禁止事項 通過上表可以發現，《算法管理規定》第六條第二款的規定是原則性規定，確定了不得利用算法推薦服務從事違法活動、傳播違法信息的原則。其他規定均可以視為圍繞該原則的具體體現，其中包括大家普遍關心的針對虛擬刷單（第十四條）、“大數據殺熟”（第二十一條）的禁止性規定。 （一）應當做什么 1. 制度與技術措施 根據《算法管理規定》第七條的規定，企業應當建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發布審核、數據安全和個人信息保護、反電信網絡詐騙、安全評估監測、安全事件應急處置等管理制度和技術措施，即不僅應當有制度文本、執行制度要求，還應當有能夠實現制度要求的技術措施，畢竟反電信網絡詐騙、安全評估監測、安全事件應急處置等都有賴于能夠及時發現和響應的技術手段。 其中，算法機制機理審核與科技倫理審查制度與國務院發布的《新一代人工智能發展規劃》建立人工智能安全監管和評估體系的目標密切相關，但相關指引和規范的制定仍處于初步階段，還需要政府和企業的共同探索。除此之外，其他制度已經具備相對成熟的法律法規要求。 2. 關于算法的要求 根據《算法管理規定》第七條的規定，企業應當制定并公開算法推薦服務相關規則。因為對于大多數使用算法推薦服務的用戶來說，算法實際上都是一個黑箱，黑箱也意味著難以監管。所以，打破黑箱是進行監管的剛性需求，公開規則則是必要手段。當然，由于算法本身也是企業花費時間和技術形成的，具有一定經濟價值，可能構成商業秘密，必然面臨社會利益和企業利益的沖突，而我們現在的法律絕不是必然要求舍棄企業利益的。這一點，也可以從《算法管理規定》第十二條的規定看出來——鼓勵算法推薦服務提供者綜合運用內容去重、打散干預等策略，并優化檢索、排序、選擇、推送、展示等規則的透明度和可解釋性，避免對用戶產生不良影響，預防和減少爭議糾紛?！端惴ü芾硪幎ā肥枪膭顑灮巹t的透明度和可解釋性，但不強求企業全盤托出，而最終目的仍然是避免對用戶產生不良影響，預防和減少爭議糾紛。 根據《算法管理規定》第八條的規定，算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等。這是算法機制機理審核制度的細化要求，對算法機制機理的審核對象、程序都提出了更為具體的要求，但并未對審核要素作出進一步規定。 根據《算法管理規定》第九條的規定，算法推薦服務提供者應當加強信息安全管理，建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規則和程序。這是對于禁止傳播違法信息的技術措施的細化要求。同時還對三類信息做出了規定：對未作顯著標識的算法生成合成信息，應當作出顯著標識；對違法信息，應當立即停止傳輸，采取消除等處置措施，防止信息擴散，保存有關記錄，并向網信部門和有關部門報告；對不良信息，應當按照網絡信息內容生態治理有關規定予以處置。 根據《算法管理規定》第十條的規定，算法推薦服務提供者應當加強用戶模型和用戶標簽管理，完善記入用戶模型的興趣點規則和用戶標簽管理規則。這可以理解為算法推薦服務規則的組成部分，與禁止設置違法興趣點或用戶標簽的要求相關聯。 根據《算法管理規定》第十一條的規定，算法推薦服務提供者應當加強算法推薦服務版面頁面生態管理，建立完善人工干預和用戶自主選擇機制，在首頁首屏、熱搜、精選、榜單類、彈窗等重點環節積極呈現符合主流價值導向的信息。在“千人千面”被廣泛應用的現在，除了考慮用戶的偏好外，也應當注意設置機制評估展示內容是否符合主流價值導向，今后需要更加注意算法中對于主流價值導向的評價維度和權重設計。 3. 用戶權益保護 根據《算法管理規定》第十六條和第十七條的規定，企業首先應當保護用戶的知情權和選擇權。 知情權體現在應當以顯著方式告知用戶其提供算法推薦服務的情況，并以適當方式公示算法推薦服務的基本原理、目的意圖和主要運行機制等。同時，這些告知要求也可以和算法推薦服務相關規則的公布相結合。此外，對用戶權益造成重大影響的，企業還應當依法予以說明并承擔相應責任。 選擇權體現在應當向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關閉算法推薦服務的選項，以及應當向用戶提供選擇或者刪除用于算法推薦服務的針對其個人特征的用戶標簽的功能。用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當立即停止提供相關服務。 根據《算法管理規定》第二十二條的規定，為了暢通用戶的救濟渠道，算法推薦服務提供者應當設置便捷有效的用戶申訴和公眾投訴、舉報入口，明確處理流程和反饋時限，及時受理、處理并反饋處理結果。 此外，關于未成年人、老年人、勞動者、消費者等特定類型的用戶，《算法管理規定》分別規定了針對性的保護規定，例如針對老年人的智能化適老服務要求以及涉電信網絡詐騙信息的監測、識別和處置要求，針對勞動者的勞動報酬、休息休假保障要求等。 四、法律責任 相對于征求意見稿，《算法管理規定》第三十一條將罰款的范圍由五千元至三萬元調整至一萬元至十萬元，維持了警告、通報批評，責令限期改正，責令暫停信息更新等處罰措施。其中，責令暫停信息更新這一由《網絡信息內容生態治理規定》確立的處罰形式對于互聯網信息服務提供者的業務形態具有很強的針對性。不過應當注意到，上述規定的法律責任是兜底性的，因為“法律、行政法規有規定的，依照其規定”。其次，第三十二條直接將部分條款的法律責任指向“有關法律、行政法規和部門規章的規定”，也說明了很多事項并不是《算法管理規定》新設立的規則，而是已有規定的細化。 對于《算法管理規定》建立的算法推薦服務提供者備案要求涉及的違法行為，第三十三條也規定了相應罰則——通過隱瞞有關情況、提供虛假材料等不正當手段取得備案的，由國家和省、自治區、直轄市網信部門予以撤銷備案，給予警告、通報批評；情節嚴重的，責令暫停信息更新，并處一萬元以上十萬元以下罰款；終止服務未按照本規定第二十四條第三款要求辦理注銷備案手續，或者發生嚴重違法情形受到責令關閉網站、吊銷相關業務許可證或者吊銷營業執照等行政處罰的，由國家和省、自治區、直轄市網信部門予以注銷備案。 結語 《算法管理規定》雖然是圍繞算法推薦服務制定的規則，但也是規制人工智能應用的重要指引。在這個領域確立的優秀實踐經驗今后很可能會應用在人工智能所涉及的方方面面，因此該規定很可能不僅僅對行業帶來巨大影響，也可能對人工智能應用越來越普遍的未來生活產生長遠影響，值得普遍關注。
