《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》解讀
作者：吳衛(wèi)明 劉昀東 2022-01-072021年12月31日四部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《算法管理規(guī)定》），為解決種種算法亂象提供了指引和規(guī)范，也有利于互聯(lián)網(wǎng)生態(tài)環(huán)境的改善。在2021年8月27日公開征求意見后，正式發(fā)布的《算法管理規(guī)定》增加了與工信、公安、市場(chǎng)監(jiān)督相關(guān)管理要求的銜接，并且立足于社會(huì)發(fā)展實(shí)際增加了目前國(guó)家重點(diǎn)關(guān)注的老年人權(quán)益保障、新聞服務(wù)和反不正當(dāng)競(jìng)爭(zhēng)的內(nèi)容。
為幫助互聯(lián)網(wǎng)企業(yè)迅速了解法規(guī)要點(diǎn)，本文將從適用范圍、監(jiān)管框架、主要義務(wù)、法律責(zé)任四個(gè)維度進(jìn)行解讀。
一、適用范圍 根據(jù) 《算法管理規(guī)定》第二條及第三條的規(guī)定，其適用范圍是在中華人民共和國(guó)境內(nèi)應(yīng)用算法推薦技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)的情形。這里的算法推薦技術(shù)，不僅僅包括最為人熟悉的應(yīng)用在廣告、短視頻、“大數(shù)據(jù)殺熟”場(chǎng)景的個(gè)性化推送類，還包括生成合成類，例如文章生成算法、換臉?biāo)惴ǎ?span style="margin: 0px; padding: 0px; outline: 0px; max-width: 100%; box-sizing: border-box; overflow-wrap: break-word !important; color: rgb(255, 112, 67);">排序精選類，例如搜索引擎廣告排序算法、電商平臺(tái)店鋪排序算法；檢索過濾類，例如應(yīng)用在各類公眾搜索引擎、電商或內(nèi)容平臺(tái)的內(nèi)部搜索引擎的過濾不良信息的搜索引擎；調(diào)度決策類，例如網(wǎng)約車平臺(tái)、外賣平臺(tái)的訂單匹配算法等。 可以看出，只要企業(yè)含有互聯(lián)網(wǎng)基因，基本都繞不開算法、繞不開算法推薦技術(shù)，就可能被認(rèn)定為算法推薦服務(wù)提供者。所以《算法管理規(guī)定》的適用范圍非常廣泛，值得每一家通過互聯(lián)網(wǎng)開展業(yè)務(wù)的企業(yè)關(guān)注。 二、監(jiān)管框架 （一）監(jiān)督管理機(jī)構(gòu) 相對(duì)于征求意見稿僅規(guī)定由網(wǎng)信部門監(jiān)督管理，《算法管理規(guī)定》第三條確立了網(wǎng)信部門統(tǒng)籌協(xié)調(diào)，電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門依據(jù)各自職責(zé)負(fù)責(zé)算法推薦服務(wù)監(jiān)督管理工作的體系。電信部門從行業(yè)管理的角度出發(fā)，公安部門從預(yù)防偵查違法犯罪活動(dòng)的角度出發(fā)，市場(chǎng)監(jiān)管部門從工商主體管理、廣告管理、反不正當(dāng)競(jìng)爭(zhēng)管理等角度出發(fā)。該體系與既有網(wǎng)絡(luò)安全、數(shù)據(jù)安全的體系內(nèi)在邏輯一致。 （二）算法分級(jí)分類安全管理 《算法管理規(guī)定》第二十三條確立了算法分級(jí)分類安全管理的制度設(shè)計(jì)。其中分類分級(jí)關(guān)注的維度包括算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對(duì)用戶行為的干預(yù)程度等。 在上述制度設(shè)計(jì)下，具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)履行備案義務(wù)。根據(jù)《算法管理規(guī)定》第二十四條至第二十六條的規(guī)定，備案流程如下所示。 備案應(yīng)當(dāng)填報(bào)的信息包括服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息。 此外，備案信息發(fā)生變更的，應(yīng)當(dāng)在變更之日起十個(gè)工作日內(nèi)辦理變更手續(xù)；終止服務(wù)的，應(yīng)當(dāng)在終止服務(wù)之日起二十個(gè)工作日內(nèi)辦理注銷備案手續(xù)，并作出妥善安排。 三、主要義務(wù) 對(duì)于應(yīng)當(dāng)適用《算法管理規(guī)定》的企業(yè)，主要需要關(guān)注不能做什么和應(yīng)當(dāng)做什么。 （一）不能做什么 表 算法推薦服務(wù)提供者禁止事項(xiàng) 通過上表可以發(fā)現(xiàn)，《算法管理規(guī)定》第六條第二款的規(guī)定是原則性規(guī)定，確定了不得利用算法推薦服務(wù)從事違法活動(dòng)、傳播違法信息的原則。其他規(guī)定均可以視為圍繞該原則的具體體現(xiàn)，其中包括大家普遍關(guān)心的針對(duì)虛擬刷單（第十四條）、“大數(shù)據(jù)殺熟”（第二十一條）的禁止性規(guī)定。 （一）應(yīng)當(dāng)做什么 1. 制度與技術(shù)措施 根據(jù)《算法管理規(guī)定》第七條的規(guī)定，企業(yè)應(yīng)當(dāng)建立健全算法機(jī)制機(jī)理審核、科技倫理審查、用戶注冊(cè)、信息發(fā)布審核、數(shù)據(jù)安全和個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、安全評(píng)估監(jiān)測(cè)、安全事件應(yīng)急處置等管理制度和技術(shù)措施，即不僅應(yīng)當(dāng)有制度文本、執(zhí)行制度要求，還應(yīng)當(dāng)有能夠?qū)崿F(xiàn)制度要求的技術(shù)措施，畢竟反電信網(wǎng)絡(luò)詐騙、安全評(píng)估監(jiān)測(cè)、安全事件應(yīng)急處置等都有賴于能夠及時(shí)發(fā)現(xiàn)和響應(yīng)的技術(shù)手段。 其中，算法機(jī)制機(jī)理審核與科技倫理審查制度與國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》建立人工智能安全監(jiān)管和評(píng)估體系的目標(biāo)密切相關(guān)，但相關(guān)指引和規(guī)范的制定仍處于初步階段，還需要政府和企業(yè)的共同探索。除此之外，其他制度已經(jīng)具備相對(duì)成熟的法律法規(guī)要求。 2. 關(guān)于算法的要求 根據(jù)《算法管理規(guī)定》第七條的規(guī)定，企業(yè)應(yīng)當(dāng)制定并公開算法推薦服務(wù)相關(guān)規(guī)則。因?yàn)閷?duì)于大多數(shù)使用算法推薦服務(wù)的用戶來說，算法實(shí)際上都是一個(gè)黑箱，黑箱也意味著難以監(jiān)管。所以，打破黑箱是進(jìn)行監(jiān)管的剛性需求，公開規(guī)則則是必要手段。當(dāng)然，由于算法本身也是企業(yè)花費(fèi)時(shí)間和技術(shù)形成的，具有一定經(jīng)濟(jì)價(jià)值，可能構(gòu)成商業(yè)秘密，必然面臨社會(huì)利益和企業(yè)利益的沖突，而我們現(xiàn)在的法律絕不是必然要求舍棄企業(yè)利益的。這一點(diǎn)，也可以從《算法管理規(guī)定》第十二條的規(guī)定看出來——鼓勵(lì)算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性，避免對(duì)用戶產(chǎn)生不良影響，預(yù)防和減少爭(zhēng)議糾紛?！端惴ü芾硪?guī)定》是鼓勵(lì)優(yōu)化規(guī)則的透明度和可解釋性，但不強(qiáng)求企業(yè)全盤托出，而最終目的仍然是避免對(duì)用戶產(chǎn)生不良影響，預(yù)防和減少爭(zhēng)議糾紛。 根據(jù)《算法管理規(guī)定》第八條的規(guī)定，算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等。這是算法機(jī)制機(jī)理審核制度的細(xì)化要求，對(duì)算法機(jī)制機(jī)理的審核對(duì)象、程序都提出了更為具體的要求，但并未對(duì)審核要素作出進(jìn)一步規(guī)定。 根據(jù)《算法管理規(guī)定》第九條的規(guī)定，算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)信息安全管理，建立健全用于識(shí)別違法和不良信息的特征庫(kù)，完善入庫(kù)標(biāo)準(zhǔn)、規(guī)則和程序。這是對(duì)于禁止傳播違法信息的技術(shù)措施的細(xì)化要求。同時(shí)還對(duì)三類信息做出了規(guī)定：對(duì)未作顯著標(biāo)識(shí)的算法生成合成信息，應(yīng)當(dāng)作出顯著標(biāo)識(shí)；對(duì)違法信息，應(yīng)當(dāng)立即停止傳輸，采取消除等處置措施，防止信息擴(kuò)散，保存有關(guān)記錄，并向網(wǎng)信部門和有關(guān)部門報(bào)告；對(duì)不良信息，應(yīng)當(dāng)按照網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理有關(guān)規(guī)定予以處置。 根據(jù)《算法管理規(guī)定》第十條的規(guī)定，算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點(diǎn)規(guī)則和用戶標(biāo)簽管理規(guī)則。這可以理解為算法推薦服務(wù)規(guī)則的組成部分，與禁止設(shè)置違法興趣點(diǎn)或用戶標(biāo)簽的要求相關(guān)聯(lián)。 根據(jù)《算法管理規(guī)定》第十一條的規(guī)定，算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)算法推薦服務(wù)版面頁(yè)面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機(jī)制，在首頁(yè)首屏、熱搜、精選、榜單類、彈窗等重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息。在“千人千面”被廣泛應(yīng)用的現(xiàn)在，除了考慮用戶的偏好外，也應(yīng)當(dāng)注意設(shè)置機(jī)制評(píng)估展示內(nèi)容是否符合主流價(jià)值導(dǎo)向，今后需要更加注意算法中對(duì)于主流價(jià)值導(dǎo)向的評(píng)價(jià)維度和權(quán)重設(shè)計(jì)。 3. 用戶權(quán)益保護(hù) 根據(jù)《算法管理規(guī)定》第十六條和第十七條的規(guī)定，企業(yè)首先應(yīng)當(dāng)保護(hù)用戶的知情權(quán)和選擇權(quán)。 知情權(quán)體現(xiàn)在應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等。同時(shí)，這些告知要求也可以和算法推薦服務(wù)相關(guān)規(guī)則的公布相結(jié)合。此外，對(duì)用戶權(quán)益造成重大影響的，企業(yè)還應(yīng)當(dāng)依法予以說明并承擔(dān)相應(yīng)責(zé)任。 選擇權(quán)體現(xiàn)在應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)，以及應(yīng)當(dāng)向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對(duì)其個(gè)人特征的用戶標(biāo)簽的功能。用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。 根據(jù)《算法管理規(guī)定》第二十二條的規(guī)定，為了暢通用戶的救濟(jì)渠道，算法推薦服務(wù)提供者應(yīng)當(dāng)設(shè)置便捷有效的用戶申訴和公眾投訴、舉報(bào)入口，明確處理流程和反饋時(shí)限，及時(shí)受理、處理并反饋處理結(jié)果。 此外，關(guān)于未成年人、老年人、勞動(dòng)者、消費(fèi)者等特定類型的用戶，《算法管理規(guī)定》分別規(guī)定了針對(duì)性的保護(hù)規(guī)定，例如針對(duì)老年人的智能化適老服務(wù)要求以及涉電信網(wǎng)絡(luò)詐騙信息的監(jiān)測(cè)、識(shí)別和處置要求，針對(duì)勞動(dòng)者的勞動(dòng)報(bào)酬、休息休假保障要求等。 四、法律責(zé)任 相對(duì)于征求意見稿，《算法管理規(guī)定》第三十一條將罰款的范圍由五千元至三萬元調(diào)整至一萬元至十萬元，維持了警告、通報(bào)批評(píng)，責(zé)令限期改正，責(zé)令暫停信息更新等處罰措施。其中，責(zé)令暫停信息更新這一由《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》確立的處罰形式對(duì)于互聯(lián)網(wǎng)信息服務(wù)提供者的業(yè)務(wù)形態(tài)具有很強(qiáng)的針對(duì)性。不過應(yīng)當(dāng)注意到，上述規(guī)定的法律責(zé)任是兜底性的，因?yàn)椤胺伞⑿姓ㄒ?guī)有規(guī)定的，依照其規(guī)定”。其次，第三十二條直接將部分條款的法律責(zé)任指向“有關(guān)法律、行政法規(guī)和部門規(guī)章的規(guī)定”，也說明了很多事項(xiàng)并不是《算法管理規(guī)定》新設(shè)立的規(guī)則，而是已有規(guī)定的細(xì)化。 對(duì)于《算法管理規(guī)定》建立的算法推薦服務(wù)提供者備案要求涉及的違法行為，第三十三條也規(guī)定了相應(yīng)罰則——通過隱瞞有關(guān)情況、提供虛假材料等不正當(dāng)手段取得備案的，由國(guó)家和省、自治區(qū)、直轄市網(wǎng)信部門予以撤銷備案，給予警告、通報(bào)批評(píng)；情節(jié)嚴(yán)重的，責(zé)令暫停信息更新，并處一萬元以上十萬元以下罰款；終止服務(wù)未按照本規(guī)定第二十四條第三款要求辦理注銷備案手續(xù)，或者發(fā)生嚴(yán)重違法情形受到責(zé)令關(guān)閉網(wǎng)站、吊銷相關(guān)業(yè)務(wù)許可證或者吊銷營(yíng)業(yè)執(zhí)照等行政處罰的，由國(guó)家和省、自治區(qū)、直轄市網(wǎng)信部門予以注銷備案。 結(jié)語 《算法管理規(guī)定》雖然是圍繞算法推薦服務(wù)制定的規(guī)則，但也是規(guī)制人工智能應(yīng)用的重要指引。在這個(gè)領(lǐng)域確立的優(yōu)秀實(shí)踐經(jīng)驗(yàn)今后很可能會(huì)應(yīng)用在人工智能所涉及的方方面面，因此該規(guī)定很可能不僅僅對(duì)行業(yè)帶來巨大影響，也可能對(duì)人工智能應(yīng)用越來越普遍的未來生活產(chǎn)生長(zhǎng)遠(yuǎn)影響，值得普遍關(guān)注。
