生成式人工智能企業(yè)合規(guī)及法律盡職調(diào)查要點（1）：業(yè)務資質(zhì)和算法模型監(jiān)管篇
作者：肖海龍 張克江 2024-07-31生成式人工智能（ Generative AI ）與傳統(tǒng)的判別式人工智能（Discriminative AI）或決策式/分析式人工智能（Analytical AI）不同，是一種可用于創(chuàng)建新的內(nèi)容和想法的人工智能技術。生成式 人工智能依賴于復雜的機器學習模型或深度學習模型來創(chuàng)建新內(nèi)容，試圖在圖像識別、自然語言處理（NLP）和翻譯等非傳統(tǒng)計算任務中，通過模擬人腦學習和決策過程的算法來模仿人類智能。這些模型的工作原理是識別大量數(shù)據(jù)中的模式和關系并對其進行編碼，然后使用這些信息來理解用戶的自然語言請求或問題，并以相關的新內(nèi)容進行響應。[1]
當前，人工智能作為一項滲透性極強的顛覆性技術，正在引領新一輪的產(chǎn)業(yè)變革，正深刻地改變著人類的生產(chǎn)、生活，已成為科技研發(fā)、產(chǎn)業(yè)發(fā)展乃至大國競爭的制高點。生成式人工智能技術作為一種與人類的親合度更高、更加智能的人工智能技術，已經(jīng)從技術出現(xiàn)、技術傳播邁入到大規(guī)模應用階段，已經(jīng)成為投資的熱點領域。新銳的生成式人工智能創(chuàng)業(yè)企業(yè)不斷得到風險投資資金的支持，投資金額不斷創(chuàng)出新高。以下我們結(jié)合參與生成式人工智能企業(yè)投資項目的實務經(jīng)驗，梳理、總結(jié)生成式人工智能企業(yè)合規(guī)和法律盡職調(diào)查的主要關注要點。
根據(jù)《生成式人工智能服務管理暫行辦法》及全國網(wǎng)絡安全標準化技術委員會發(fā)布的《生成式人工智能服務安全基本要求》的相關定義，生成式人工智能技術是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關技術。生成式人工智能服務提供者，是指以交互界面、可編程接口等形式提供生成式人工智能服務的組織或個人，研發(fā)、應用生成式人工智能技術但未向境內(nèi)公眾提供生成式人工智能服務的，不包括在內(nèi)。[2]
當前生成式人工智能服務提供者多數(shù)本身是技術開發(fā)者，但隨著市場的發(fā)展，將會有大量本身不開發(fā)、不掌握生成式人工智能技術，而是應用他人開發(fā)的技術對外提供生成式人工智能服務的服務者。本文所述的生成式人工智能企業(yè)主要指前者，即實際訓練或優(yōu)化模型，基于其生成式人工智能技術提供服務的技術型企業(yè)，不包括僅通過購買或調(diào)用他人的模型向第三方提供服務的服務商。
一、生成式人工智能的風險挑戰(zhàn)及監(jiān)管概述
1. 生成式人工智能的風險挑戰(zhàn)
以ChatGPT為代表的人工智能技術的迭代式創(chuàng)新突破，正加速推動人類向數(shù)字化、智能化的未來前進。人工智能在給人類帶來福祉的同時，不良影響也日益加劇。通用人工智能不受約束的能力可能會被用來操縱輿論、制造假新聞或有害言論。例如，“文心一言”大模型在與用戶對話的過程中生成了某知名人物的失德行為構(gòu)成職務犯罪并正在接受監(jiān)察委調(diào)查的虛假信息。可能具備欺騙人類、自我復制、自我改造能力的人工智能，及可能被用于編寫惡意軟件、制造生物武器或化學武器等的人工智能，甚至可能威脅人類的生存。采用深度學習、神經(jīng)網(wǎng)絡算法的人工智能模型往往被視為黑箱，其本身可能無法理解輸入與輸出內(nèi)容的真實內(nèi)涵，無法解釋其生成機制和生成結(jié)果，一旦被訓練數(shù)據(jù)和語料污染，可能生成違法不良內(nèi)容，帶來彌散性的影響并疊加擴散，從而帶來挑戰(zhàn)現(xiàn)代公共治理的長期風險。
《生成式人工智能服務安全基本要求》列出了語料及生成內(nèi)容的五類主要安全風險：
第一類，包含違反社會主義核心價值觀的內(nèi)容，包括：煽動顛覆國家政權(quán)、推翻社會主義制度；危害國家安全和利益、損害國家形象；煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定；宣揚恐怖主義、極端主義；宣揚民族仇恨；宣揚暴力、淫穢色情；傳播虛假有害信息；其他法律、行政法規(guī)禁止的內(nèi)容。
第二類，包含歧視性內(nèi)容，包括：民族歧視；信仰歧視；國別歧視；地域歧視；性別歧視；年齡歧視；職業(yè)歧視；健康歧視；其他方面歧視。
第三類，商業(yè)違法違規(guī)，包括：侵犯他人知識產(chǎn)權(quán)；違反商業(yè)道德；泄露他人商業(yè)秘密；利用算法、數(shù)據(jù)、平臺等優(yōu)勢，實施壟斷和不正當競爭行為；其他商業(yè)違法違規(guī)行為。
第四類，侵犯他人合法權(quán)益，包括：危害他人身心健康；侵害他人肖像權(quán)；侵害他人名譽權(quán)；侵害他人榮譽權(quán)；侵害他人隱私權(quán)；侵害他人個人信息權(quán)益；侵犯他人其他合法權(quán)益。
第五類，無法滿足特定服務類型的安全需求，主要是指將生成式人工智能用于安全需求較高的特定服務類型，例如自動控制、醫(yī)療信息服務、心理咨詢、關鍵信息基礎設施等，存在的：a）內(nèi)容不準確，嚴重不符合科學常識或主流認知；及b）內(nèi)容不可靠，雖然不包含嚴重錯誤的內(nèi)容，但無法對使用者形成幫助。
以上第一類違反社會主義核心價值觀的內(nèi)容和第二類包含歧視性內(nèi)容的風險屬于風險等級更高的風險，是監(jiān)管的重中之重。
2. 生成式人工智能的監(jiān)管體系
面對數(shù)字化、智能化急劇轉(zhuǎn)型背后的社會關系和理念的全面重組，及由此帶來的廣泛、深刻和復雜、多變的公共治理挑戰(zhàn)，各國都在積極探索治理之道，嘗試建立審慎包容的人工智能監(jiān)管體系。當前，作為全球科技競爭中最為激烈的領域，人工智能的國際競爭早已超越技術和產(chǎn)業(yè)的競爭，拓展到人工智能治理的競爭。美國、歐盟、英國、日本、韓國等國家和地區(qū)均高度重視人工智能治理優(yōu)勢的塑造，紛紛搶占全球人工智能治理的制高點和主導地位，形成“技術賽道”、“產(chǎn)品賽道”和“制度賽道”多軌并行的新格局。從全球范圍來看，人工智能已步入技術發(fā)展的“奇點時刻”與人工智能治理的“關鍵時刻”。[3]
（1）歐盟《人工智能法案》
在人工智能的發(fā)展方面，美國、中國處于領先的位置，歐盟有所落后，其競爭重心在于治理規(guī)范的制定，試圖成為人工智能領域的全球治理主導者。2024年5月21日，歐盟理事會批準了《人工智能法案》（AI Act），這是全球首部人工智能的專門立法，釋放出了歐盟將其在人工智能領域的價值觀和技術規(guī)范投射到全球的強烈信號，體現(xiàn)了歐盟在全球范圍內(nèi)搶占人工智能治理權(quán)的戰(zhàn)略意圖。《法案》對人工智能采取了審慎的立法態(tài)度，采取強監(jiān)管措施以防控人工智能可能產(chǎn)生的結(jié)構(gòu)性風險。《法案》基于人工智能系統(tǒng)對用戶和社會的潛在影響程度將其分為四類：不可接受風險類、高風險類、有限風險類、最小風險類，每個類別適用不同程度的監(jiān)管要求。任何試圖操縱人類行為、利用人性弱點或支持政府社會評分的人工智能系統(tǒng)將被視為具有不可接受風險而被嚴格禁止。對健康、安全、基本權(quán)利和法治構(gòu)成重大威脅的人工智能系統(tǒng)被歸為高風險類，在進入市場之前必須接受符合性評估（Conformity Assessments），并滿足有關透明度、數(shù)據(jù)質(zhì)量、記錄保存等監(jiān)管要求。
《法案》同時從是否具有系統(tǒng)性風險的維度，將通用人工智能[4]模型分為具有系統(tǒng)性風險和不具有系統(tǒng)性風險兩類。當一個通用人工智能模型用于訓練的累計計算量以每秒浮點運算次數(shù)（FLOPs）計大于10^25時，應推定其具有高度影響能力并構(gòu)成系統(tǒng)性風險。具有系統(tǒng)性風險的通用人工智能模型的提供商應履行額外的風險管理義務，包括進行模型評估以識別和降低系統(tǒng)性風險；確保對具有系統(tǒng)風險的通用人工智能模型和模型的物理基礎設施提供適當水平的網(wǎng)絡安全保護等。《法案》的違規(guī)處罰力度較大，對違反《法案》的處罰金額可高達3,500萬歐元或全球年營業(yè)額總額的7%之巨，以較高者為準。
歐盟輿論認為，其他國家和地區(qū)可能會使用該《法案》作為未來人工智能治理的藍圖，使歐盟成為可信賴人工智能的全球標準制定者，就像歐盟的《通用數(shù)據(jù)保護條例》（GDPR）所起到的作用一樣。但歐盟《人工智能法案》整體而言屬于產(chǎn)品安全法范疇，目的是將人工智能系統(tǒng)造成的不利和風險降至最低。《法案》對高風險人工智能系統(tǒng)設置的復雜、昂貴的預防措施，可能導致創(chuàng)新型初創(chuàng)企業(yè)的監(jiān)管負擔過重而減緩人工智能的發(fā)展，使得只有像谷歌、微軟等這樣的國際大公司才有能力滿足監(jiān)管要求，從而產(chǎn)生對中小企業(yè)的擠出效應，或者擴大它們對中小企業(yè)的領先優(yōu)勢。[5]當然，在全球科技競爭的背景下，也存在一些國家主動削弱監(jiān)管以獲得經(jīng)濟競爭優(yōu)勢的情形。
（2）我國的生成式人工智能監(jiān)管體系
自2022年初以來，我國陸續(xù)發(fā)布算法推薦、深度合成與生成式人工智能服務相關的規(guī)范文件，初步構(gòu)建起對生成式人工智能技術與服務的監(jiān)管機制。其中，2023年8月15日發(fā)布的《生成式人工智能服務管理暫行辦法》，是全球首部正式發(fā)布、實施的專門的生成式人工智能法規(guī)，較為系統(tǒng)地提出了生成式人工智能服務的合規(guī)義務。另外，我國也制定了《人工智能法草案》，且2023、2024連續(xù)兩年被列入國務院立法工作計劃預備提請全國人大審議。
目前，目前我國生成式人工智能監(jiān)管的基本框架主要包括以《生成式人工智能服務管理暫行辦法》（以下有時簡稱“《暫行辦法》”）為核心的以下法規(guī)和標準，具體如下：
其中，《生成式人工智能服務安全基本要求》（以下簡稱“《基本要求》”）作為全國網(wǎng)絡安全標準化技術委員會發(fā)布的技術文件，并非有強制力的立法，也非國家標準，但在進行正式立法之前，其內(nèi)容實際被作為執(zhí)法監(jiān)管的標準。《基本要求》提供了開展安全評估的具體評估要求、標準，開展大模型備案時應當執(zhí)行，事實上具有準強制力。
此外，《個人信息保護法》、《數(shù)據(jù)安全法》、《網(wǎng)絡安全法》等法律，為個人信息保護、數(shù)據(jù)安全、網(wǎng)絡安全等提供了基礎性規(guī)范，這些基礎性規(guī)范在從事生成式人工智能服務業(yè)務時仍然是適用的，服務提供者必須高度重視網(wǎng)絡安全、數(shù)據(jù)安全和個人信息保護的合規(guī)問題。
二. 互聯(lián)網(wǎng)信息服務相關業(yè)務資質(zhì)
生成式人工智能服務通常進行云端部署，以提供互聯(lián)網(wǎng)信息服務的方式提供服務，屬于典型的互聯(lián)網(wǎng)信息服務產(chǎn)品，應當取得與互聯(lián)網(wǎng)信息服務相關的業(yè)務資質(zhì)。[6]
1.互聯(lián)網(wǎng)信息服務許可/備案（ICP許可/備案）
《互聯(lián)網(wǎng)信息服務管理辦法》第3條規(guī)定，互聯(lián)網(wǎng)信息服務分為經(jīng)營性和非經(jīng)營性兩類。經(jīng)營性互聯(lián)網(wǎng)信息服務是指通過互聯(lián)網(wǎng)向上網(wǎng)用戶有償提供信息或者網(wǎng)頁制作等服務活動，非經(jīng)營性互聯(lián)網(wǎng)信息服務是指通過互聯(lián)網(wǎng)向上網(wǎng)用戶無償提供具有公開性、共享性信息的服務活動；第4條規(guī)定，國家對經(jīng)營性互聯(lián)網(wǎng)信息服務實行許可制度，對非經(jīng)營性互聯(lián)網(wǎng)信息服務實行備案制度，未取得許可或備案的，不得從事互聯(lián)網(wǎng)信息服務。生成式人工智能企業(yè)通過互聯(lián)網(wǎng)的方式將生成的內(nèi)容提供給用戶的，屬于通過互聯(lián)網(wǎng)向用戶提供信息服務的活動，應當取得ICP許可或備案。
《互聯(lián)網(wǎng)信息服務管理辦法》沒有對經(jīng)營性或非經(jīng)營性互聯(lián)網(wǎng)信息服務的認定、區(qū)分提供具體的指引。如果生成式人工智能企業(yè)以營利為目的，通過向上網(wǎng)用戶收費或者以電子商務、廣告、贊助等方式獲取利益，提供生成式人工智能服務的，應當考慮可能構(gòu)成經(jīng)營性互聯(lián)網(wǎng)信息服務，應當在網(wǎng)站完成ICP備案后，進一步辦理經(jīng)營性ICP許可證。[7]
通過移動互聯(lián)網(wǎng)應用程序（含小程序、快應用等，以下簡稱“APP”）提供生成式人工智能服務的，根據(jù)工業(yè)和信息化部《關于開展移動互聯(lián)網(wǎng)應用程序備案工作的通知》，從事互聯(lián)網(wǎng)信息服務的APP主辦者，應當依照《反電信網(wǎng)絡詐騙法》、《互聯(lián)網(wǎng)信息服務管理辦法》等規(guī)定履行備案手續(xù)，未履行備案手續(xù)的，不得從事APP互聯(lián)網(wǎng)信息服務。[3]APP主辦者應當向其住所地省級通信管理局履行備案手續(xù)，由其網(wǎng)絡接入服務提供者、APP分發(fā)平臺通過“國家互聯(lián)網(wǎng)基礎資源管理系統(tǒng)”（即ICP/IP地址/域名信息備案管理系統(tǒng)），采取網(wǎng)上提交申請、查驗審核方式進行。
2. 公安聯(lián)網(wǎng)備案
根據(jù)《計算機信息網(wǎng)絡國際聯(lián)網(wǎng)安全保護管理辦法》等相關規(guī)定，使用計算機信息網(wǎng)絡國際聯(lián)網(wǎng)的法人和其他組織，應當自網(wǎng)絡正式聯(lián)通之日起30日內(nèi)，到公安機關辦理聯(lián)網(wǎng)備案手續(xù)。
生成式人工智能企業(yè)通常需要接入互聯(lián)網(wǎng)，通過互聯(lián)網(wǎng)向境內(nèi)用戶提供信息服務，應在網(wǎng)站/App在工信部進行ICP備案成功后，到公安機關辦理聯(lián)網(wǎng)備案。網(wǎng)站/App雖然部署在非中國內(nèi)地的服務器上，但可以在中國內(nèi)地訪問該網(wǎng)站/App的，也須辦理公安聯(lián)網(wǎng)備案。公安聯(lián)網(wǎng)備案非工信部ICP備案，在中國境內(nèi)從事生成式人工智能服務的企業(yè)，無論網(wǎng)站/App部署在中國內(nèi)地或非中國內(nèi)地的服務器上，只要在中國境內(nèi)可訪問該網(wǎng)站/App服務，均需進行公安聯(lián)網(wǎng)備案。
3. 互聯(lián)網(wǎng)文化、出版、視聽節(jié)目服務資質(zhì)
利用生成式人工智能提供生成文本、圖片、音頻、視頻等內(nèi)容的服務，可能構(gòu)成網(wǎng)絡出版服務、網(wǎng)絡文化活動和網(wǎng)絡視聽節(jié)目服務，應取得相應的業(yè)務資質(zhì)。[9]
（1） 《網(wǎng)絡出版服務許可證》
根據(jù)《網(wǎng)絡出版服務管理規(guī)定》的規(guī)定，從事網(wǎng)絡出版服務，必須依法經(jīng)過出版行政主管部門批準，取得《網(wǎng)絡出版服務許可證》。網(wǎng)絡出版服務，是指通過信息網(wǎng)絡向公眾提供網(wǎng)絡出版物。網(wǎng)絡出版物，是指通過信息網(wǎng)絡向公眾提供的，具有編輯、制作、加工等出版特征的數(shù)字化作品，范圍主要包括：（1）文學、藝術、科學等領域內(nèi)具有知識性、思想性的文字、圖片、地圖、游戲、動漫、音視頻讀物等原創(chuàng)數(shù)字化作品；（2）與已出版的圖書、報紙、期刊、音像制品、電子出版物等內(nèi)容相一致的數(shù)字化作品；（3）將上述作品通過選擇、編排、匯集等方式形成的網(wǎng)絡文獻數(shù)據(jù)庫等數(shù)字化作品；（4）國家新聞出版廣電總局認定的其他類型的數(shù)字化作品。
根據(jù)上述規(guī)定，需要取得《網(wǎng)絡出版服務許可證》的應當是向公眾提供符合知識性、思想性、原創(chuàng)性三性的數(shù)字化作品，與已出版的作品內(nèi)容相一致的數(shù)字化作品及將上述作品匯編形成的網(wǎng)絡文獻數(shù)據(jù)庫等數(shù)字化作品等。人工智能自動生成物，并非與已出版的作品內(nèi)容相一致的數(shù)字化作品。符合知識性、思想性、原創(chuàng)性三性的數(shù)字化作品，按照一般理解，應該是具有可版權(quán)性、享有著作權(quán)保護的文字、圖片、游戲、動漫、音視頻讀物等原創(chuàng)數(shù)字作品，人工智能自動生成物是否符合三性要求并具有可版權(quán)性、享有著作權(quán)保護，需要具體判斷，通常而言是不具備的，可參考本文第三篇“知識產(chǎn)權(quán)篇”之“人工智能生成物的可版權(quán)性及著作權(quán)保護”一節(jié)。另外，生成式人工智能企業(yè)響應用戶特定的服務需求，點對點地向用戶提供特定生成物，是否構(gòu)成向“公眾”提供，也有待監(jiān)管部門進一步明確。
部分在線教育企業(yè)在招股說明書中披露，經(jīng)與相關監(jiān)管部門訪談確認，開展在線培訓服務過程中通過線上平臺向培訓對象提供音視頻，無需取得《網(wǎng)絡出版服務許可證》。我們認為，在相關監(jiān)管部門進一步明確之前，生成式人工智能企業(yè)向個別用戶定向提供不具備知識性、思想性、原創(chuàng)性三性要求的文本、圖片、游戲、動漫、音視頻等生成物，暫不需要取得《網(wǎng)絡出版服務許可證》。
（2） 《網(wǎng)絡文化經(jīng)營許可證》
根據(jù)《互聯(lián)網(wǎng)文化管理暫行規(guī)定》的規(guī)定，從事音樂娛樂、動漫等經(jīng)營性互聯(lián)網(wǎng)文化活動的企業(yè)應當申請《網(wǎng)絡文化經(jīng)營許可證》。經(jīng)營性互聯(lián)網(wǎng)文化活動是指以營利為目的，通過向上網(wǎng)用戶收費或者以電子商務、廣告、贊助等方式獲取利益，提供互聯(lián)網(wǎng)文化產(chǎn)品及其服務的活動。根據(jù)該《規(guī)定》第2條，互聯(lián)網(wǎng)文化產(chǎn)品是指通過互聯(lián)網(wǎng)生產(chǎn)、傳播和流通的文化產(chǎn)品，主要包括專門為互聯(lián)網(wǎng)而生產(chǎn)的網(wǎng)絡音樂娛樂、網(wǎng)絡游戲、網(wǎng)絡演出劇（節(jié)）目、網(wǎng)絡表演、網(wǎng)絡藝術品、網(wǎng)絡動漫等互聯(lián)網(wǎng)文化產(chǎn)品；以及，將音樂娛樂、游戲、演出劇（節(jié)）目、表演、藝術品、動漫等文化產(chǎn)品以一定的技術手段制作、復制到互聯(lián)網(wǎng)上傳播的互聯(lián)網(wǎng)文化產(chǎn)品。
根據(jù)文化和旅游部辦公廳《關于調(diào)整<網(wǎng)絡文化經(jīng)營許可證>審批范圍 進一步規(guī)范審批工作的通知》，調(diào)整后的《網(wǎng)絡文化經(jīng)營許可證》審批范圍包括：網(wǎng)絡音樂、網(wǎng)絡演出劇（節(jié)）目、網(wǎng)絡表演、網(wǎng)絡藝術品、網(wǎng)絡動漫和展覽、比賽活動。其中，網(wǎng)絡表演指以網(wǎng)絡表演者個人現(xiàn)場進行的文藝表演活動等為主要內(nèi)容，通過互聯(lián)網(wǎng)、移動通訊網(wǎng)、移動互聯(lián)網(wǎng)等信息網(wǎng)絡，實時傳播或者以音視頻形式上載傳播而形成的互聯(lián)網(wǎng)文化產(chǎn)品。電商類、教育類、醫(yī)療類、培訓類、金融類、旅游類、美食類、體育類、聊天類等直播不屬于網(wǎng)絡表演。網(wǎng)絡演出劇（節(jié)）目指在舞臺場景下現(xiàn)場進行的文藝表演活動等為主要內(nèi)容，通過互聯(lián)網(wǎng)、移動通訊網(wǎng)、移動互聯(lián)網(wǎng)等信息網(wǎng)絡，實時傳播或者以音視頻形式上載傳播而形成的互聯(lián)網(wǎng)文化產(chǎn)品。網(wǎng)絡藝術品指藝術創(chuàng)作者通過數(shù)字化手段創(chuàng)作，通過互聯(lián)網(wǎng)、移動通訊網(wǎng)、移動互聯(lián)網(wǎng)等信息網(wǎng)絡傳播，具有一定藝術價值和審美意義的互聯(lián)網(wǎng)文化產(chǎn)品。網(wǎng)絡動漫指通過互聯(lián)網(wǎng)、移動通訊網(wǎng)、移動互聯(lián)網(wǎng)等信息網(wǎng)絡傳播的閃客動畫（Flash動畫）、在線漫畫等互聯(lián)網(wǎng)文化產(chǎn)品。
生成式人工智能服務通過人工智能自動生成圖片、音視頻等，通常并不錄制、傳播表演者個人現(xiàn)場進行的文藝表演活動，或者在舞臺場景下現(xiàn)場進行的文藝表演活動，不屬于需要取得《網(wǎng)絡文化經(jīng)營許可證》的網(wǎng)絡表演或網(wǎng)絡演出劇（節(jié)）目。該《通知》明確規(guī)定了電商類、教育類、醫(yī)療類、培訓類、金融類、旅游類、美食類、體育類、聊天類等直播不屬于網(wǎng)絡表演，因此，通過人工智能自動生成方式進行上述類別的直播，也不需要取得《網(wǎng)絡文化經(jīng)營許可證》。但是，人工智能自動生成的具有一定藝術價值和審美意義的圖像等藝術品，是否構(gòu)成用戶通過數(shù)字化手段創(chuàng)作的藝術品，以及，通過互聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)等信息網(wǎng)絡傳播人工智能自動生成的動漫，是否構(gòu)成網(wǎng)絡動漫，并應取得《網(wǎng)絡文化經(jīng)營許可證》，需要具體判斷。我們認為，在相關監(jiān)管部門進一步明確之前，如生成式人工智能企業(yè)不以經(jīng)營網(wǎng)絡文化產(chǎn)品為目的，其產(chǎn)品的主要功能不是提供網(wǎng)絡表演、網(wǎng)絡音樂、數(shù)字藝術品等網(wǎng)絡文化產(chǎn)品，僅具備虛擬人物表演等網(wǎng)絡表演的小模塊或者有零星的網(wǎng)絡文化產(chǎn)品功能的，暫不需要辦理《網(wǎng)絡文化經(jīng)營許可證》。
（3） 《信息網(wǎng)絡傳播視聽節(jié)目許可證》
根據(jù)《互聯(lián)網(wǎng)視聽節(jié)目服務管理規(guī)定》的規(guī)定，從事互聯(lián)網(wǎng)視聽節(jié)目服務，應當取得《信息網(wǎng)絡傳播視聽節(jié)目許可證》。該《規(guī)定》所定義的互聯(lián)網(wǎng)視聽節(jié)目服務，是指制作、編輯、集成并通過互聯(lián)網(wǎng)向公眾提供視音頻節(jié)目，以及為他人提供上載傳播視聽節(jié)目服務的活動。但是，該《規(guī)定》又將申請從事互聯(lián)網(wǎng)視聽節(jié)目服務的主體限制為國有獨資或國有控股單位，大量的生成式人工智能企業(yè)是民營的，不具備申請該證的條件。[10]
2016年12月16日，原國家新聞出版廣電總局發(fā)布了《關于加強微博、微信等網(wǎng)絡社交平臺傳播視聽節(jié)目的管理規(guī)定》。根據(jù)該《管理規(guī)定》，利用微博、微信等各類社交應用開展互聯(lián)網(wǎng)視聽節(jié)目服務的網(wǎng)絡平臺，應當取得《信息網(wǎng)絡傳播視聽節(jié)目許可證》，其他機構(gòu)和個人使用微博賬號、微信公眾號等各類社交應用開展互聯(lián)網(wǎng)視聽節(jié)目服務，應由網(wǎng)絡平臺作為該項服務的開辦主體，履行內(nèi)容把關等各項管理責任，節(jié)目范圍不得超出平臺自身許可證載明的業(yè)務范圍。因此，通常而言，發(fā)布人工智能自動生成的音視頻作品的網(wǎng)絡平臺應當有《信息網(wǎng)絡傳播視聽節(jié)目許可證》，非社交網(wǎng)絡平臺的生成式人工智能企業(yè)自身不需要取得該證。
但是，某線上教育公司的招股說明書披露，由于視聽節(jié)目服務的定義較為模糊，尚不確定線上培訓過程中通過互聯(lián)網(wǎng)向培訓對象提供與培訓課程相關的視音頻節(jié)目是否屬于該《管理規(guī)定》定義的互聯(lián)網(wǎng)視聽節(jié)目服務。由于未取得《信息網(wǎng)絡傳播視聽節(jié)目許可證》，該公司于2019年被有關部門處以人民幣3千元罰款，但經(jīng)與相關監(jiān)管部門訪談確認，監(jiān)管部門不會因為該公司無《信息網(wǎng)絡傳播視聽節(jié)目許可證》而要求其終止提供與培訓課程相關的音視頻。因此，生成式人工智能企業(yè)如果在互聯(lián)網(wǎng)平臺上發(fā)布人工智能自動生成的音視頻，通過互聯(lián)網(wǎng)實時播出供公眾收看或者供公眾在網(wǎng)上點播，可能構(gòu)成從事互聯(lián)網(wǎng)視聽節(jié)目服務的，應當對照《互聯(lián)網(wǎng)視聽節(jié)目服務業(yè)務分類目錄（試行）》，并咨詢廣電主管部門的意見，確認是否應當取得《信息網(wǎng)絡傳播視聽節(jié)目許可證》。在相關監(jiān)管部門進一步明確之前，生成式人工智能企業(yè)向個別用戶定向提供自動生成的音視頻，未通過互聯(lián)網(wǎng)實時播出供公眾收看或者供公眾在網(wǎng)上點播的，暫不需要取得《信息網(wǎng)絡傳播視聽節(jié)目許可證》。
三. 有關算法、模型的監(jiān)管要求
在人工智能時代，算法逐漸脫離了純粹的工具性角色而有了自主性和認知特征，甚至具備了自我學習能力。算法對現(xiàn)實社會和個人發(fā)生效用的流程，在算法設計、算法應用和部署之外，增加了算法決策本身。智能算法的自主決策，使得算法從提高效率的“工具”上升為“決策者”，且算法作為決策者，其決策原因和推理過程對人類而言處于黑箱之中。[11]因此，在生成式人工智能的監(jiān)管中，算法、模型本身成了規(guī)制對象，主要的監(jiān)管要求則是備案。算法、模型備案與算法透明的科技倫理要求和網(wǎng)絡信息內(nèi)容生態(tài)治理相關[12]，是最具生成式人工智能行業(yè)特色的監(jiān)管要求。沒有進行算法、模型備案的，相關應用程序可能被采取不予上架、暫停服務或者下架等處置措施，因此，算法、模型備案也是影響生成式人工智能企業(yè)持續(xù)經(jīng)營的市場準入型監(jiān)管要求。
1. 算法備案
《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》（以下簡稱“《算法推薦管理規(guī)定》”）第2條、第24條、第31條規(guī)定，應用算法推薦技術提供互聯(lián)網(wǎng)信息服務，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術向用戶提供信息。具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內(nèi)容等信息，履行備案手續(xù)。
《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》（以下簡稱“《深度合成管理規(guī)定》”）第19條、第13條規(guī)定，具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù)；互聯(lián)網(wǎng)應用商店等應用程序分發(fā)平臺應當核驗深度合成類應用程序的安全評估、備案等情況，對違反國家有關規(guī)定的，應當及時采取不予上架、警示、暫停服務或者下架等處置措施。根據(jù)該《規(guī)定》第2條的規(guī)定，深度合成技術，是指利用深度學習、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡信息的技術，包括但不限于：（1）篇章生成、文本風格轉(zhuǎn)換、問答對話等生成或者編輯文本內(nèi)容的技術；（2）文本轉(zhuǎn)語音、語音轉(zhuǎn)換、語音屬性編輯等生成或者編輯語音內(nèi)容的技術；（3）音樂生成、場景聲編輯等生成或者編輯非語音內(nèi)容的技術；（4）人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術；（5）圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術；（6）三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景的技術。
生成式人工智能技術通常包含了生成合成類算法，其中具有輿論屬性或社會動員能力的，應當按照《算法推薦管理規(guī)定》和《深度合成管理規(guī)定》的規(guī)定進行算法備案。根據(jù)《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務安全評估規(guī)定》，具有輿論屬性或社會動員能力主要是指開辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號、短視頻、網(wǎng)絡直播、信息分享、小程序等信息服務或者附設相應功能，以及開辦提供公眾輿論表達渠道或者具有發(fā)動社會公眾從事特定活動能力的其他互聯(lián)網(wǎng)信息服務。可見，具有短視頻、網(wǎng)絡直播、信息分享、小程序等信息服務功能的生成式人工智能服務均被視為具有媒體屬性，具有提供公眾輿論表達渠道或者社會動員功能，均應進行算法備案。一些生成式人工智能企業(yè)認為其生成的短視頻、所提供的小程序或所從事的網(wǎng)絡直播系用于商業(yè)活動，或者僅面向B端企業(yè)客戶提供算法技術服務而不直接面向C端公眾用戶提供服務，因此不具有輿論屬性或者社會動員能力的觀點不符合法律法規(guī)的規(guī)定。
2. 大模型備案（“生成式人工智能服務備案”）
生成式人工智能建立在各種大模型的基礎上。生成式人工智能中的模型、大模型或“基礎模型” 區(qū)別于普通的計算機模型，是一種基于海量數(shù)據(jù)（文本、圖像、音視頻或多種數(shù)據(jù)類型的混合）進行大規(guī)模訓練的復雜的機器學習系統(tǒng)，是用于普適性目標、可優(yōu)化適配多種下游任務的深度神經(jīng)網(wǎng)絡模型。對基于深度合成算法，具有輿論屬性或社會動員能力的生成式人工智能服務，《暫行辦法》在《算法推薦管理規(guī)定》、《深度合成管理規(guī)定》規(guī)定的安全評估和算法備案的基礎上，另外提出了生成式人工智能大模型的安全評估和備案要求，形成了“深度合成服務算法備案”（“算法備案”）和“生成式人工智能服務備案”（“大模型備案”）雙備案的監(jiān)管架構(gòu)。在實務中，監(jiān)管部門對需備案的大模型認定的范圍非常廣，只要有可能對不特定用戶提供服務，有用戶交互（對話框）的，都會落入此范圍并要求備案。根據(jù)國家網(wǎng)信辦發(fā)布的《生成式人工智能服務已備案信息》，截至2024年4月初，已有117個“大模型”取得了網(wǎng)信部門的備案。
值得注意的是，算法備案和大模型備案都在網(wǎng)信部門，但算法在國家網(wǎng)信辦備案，大模型在地方網(wǎng)信辦（省一級）備案。與算法備案主要填報算法原理、算法屬性等技術信息不同，大模型備案要復雜得多，更強調(diào)通過算法、模型安全確保生成內(nèi)容安全，防止產(chǎn)生違法不良信息。2024年3月1日，全國網(wǎng)絡安全標準化技術委員會發(fā)布了《生成式人工智能服務安全基本要求》（“《基本要求》”），服務提供者在按照有關要求履行備案手續(xù)時，應按照該文件的要求進行安全評估，安全評估應覆蓋該文件的所有技術條款，包括語料安全、模型安全、安全措施等，且每個條款應形成單獨的評估結(jié)果。[13]《基本要求》的主要監(jiān)管要求參見本文第二篇“數(shù)據(jù)/語料和生成內(nèi)容安全篇”有關訓練數(shù)據(jù)/語料安全、模型安全和安全措施、安全評估的章節(jié)。
《基本要求》要求服務提供者基于第三方基礎模型提供服務的，應使用已經(jīng)主管部門備案的基礎模型。若基礎模型未經(jīng)主管部門備案，境外生成式人工智能服務提供者不應直接向境內(nèi)公眾提供服務，境內(nèi)服務提供者不應通過接入境外API接口的方式向境內(nèi)用戶提供服務。
3. 算法說明和模型優(yōu)化義務
算法說明義務是指根據(jù)《暫行辦法》第19條的規(guī)定，有關主管部門依據(jù)職責對生成式人工智能服務開展監(jiān)督檢查時，提供者應當披露算法的機制機理，按要求對訓練數(shù)據(jù)來源、規(guī)模、類型、標注規(guī)則、算法機制機理等予以說明。模型優(yōu)化義務是指根據(jù)《暫行辦法》第14條的規(guī)定，提供者發(fā)現(xiàn)違法內(nèi)容時，除應當及時采取停止生成、停止傳輸、消除等處置措施外，還應當采取模型優(yōu)化訓練等措施進行整改。
四. 生成式人工智能開發(fā)和服務的跨境監(jiān)管
1. 中國對人工智能技術的出口管制
在生成式人工智能服務提供者向境外個人或?qū)嶓w提供服務的情況下，可能存在人工智能相關技術被列入限制出口目錄的情形。根據(jù)《中國禁止出口限制出口技術目錄》（2023版），涉及人工智能相關技術出口管制的主要在該《目錄》限制出口部分“軟件和信息技術服務業(yè)”之“信息處理技術”（編號：086501X）項下，包括“16.專門用于漢語及少數(shù)民族語言的人工智能交互界面技術”和“18.基于數(shù)據(jù)分析的個性化信息推送服務技術（基于海量數(shù)據(jù)持續(xù)訓練優(yōu)化的用戶個性化偏好學習技術、用戶個性化偏好實時感知技術、信息內(nèi)容特征建模技術、用戶偏好與信息內(nèi)容匹配分析技術、用于支撐推薦算法的大規(guī)模分布式實時計算技術等）”等。向境外個人或?qū)嶓w提供生成式人工智能服務涉及上述技術的，需注意技術出口管制的問題，取得商務部門頒發(fā)的技術出口許可證后方能提供相關服務。
2. 美國對中國企業(yè)使用美國云計算訓練人工智能實施的限制
算力是指計算機處理數(shù)據(jù)的能力，是支撐數(shù)據(jù)和算法運行的平臺，與算法、數(shù)據(jù)一起構(gòu)成人工智能的三大基石。隨著數(shù)據(jù)量的爆炸式增長和算法復雜程度的不斷提高，人工智能對算力的需求也在不斷增加。由于美國對中國實施人工智能芯片出口管制，導致我國人工智能企業(yè)算力不足，部分企業(yè)轉(zhuǎn)而通過購買Azure、AWS等海外云計算服務的方式解決算力瓶頸。2024年1月，美國商務部發(fā)布了IaaS云服務相關客戶識別擬議規(guī)則（Taking Additional Steps To Address the National Emergency With Respect to Significant Malicious Cyber-Enabled Activities, a Proposed Rule by the Commerce Department on 01/29/2024）[14]，向公眾征求意見。該規(guī)則要求美國IaaS提供商通過實施客戶身份驗證程序（Customer Identification Programs, CIP）并在滿足相關條件時向美國商務部報告外國客戶的詳細身份信息和人工智能大模型訓練活動情況，來限制外國客戶尤其是中國客戶使用美國云計算廠商的服務來訓練其人工智能大模型。該規(guī)則生效后，將封堵中國企業(yè)通過美國企業(yè)的云計算服務繞過當前的人工智能芯片出口管制規(guī)定的漏洞，中國的人工智能企業(yè)獲取訓練其大模型所需的算力將更加困難。該規(guī)則征求公眾意見的截止日為2024年4月29日，但截至目前，該規(guī)則尚未正式頒布、生效。
3. 生成式人工智能服務出海的境外監(jiān)管——以歐盟《人工智能法案》為例
中國的生成式人工智能服務正在加速出海，一方面是其所服務的用戶正在加速出海，需要在境外場景下為用戶提供服務，另一方面是中國的生成式人工智能技術在很多方面處于領先的地位，國外客戶對中國人工智能技術的接受度越來越高，第三是歐美等成熟海外市場的用戶付費意愿更高、活躍程度更好，對中國企業(yè)有吸引力。
以歐盟《人工智能法案》為例，該《法案》目前已頒布，自頒布之日起6至36個月內(nèi)分階段、分步驟實施，中國的生成式人工智能服務出海歐盟國家的，應對照該《法案》，審慎評估、積極應對相關監(jiān)管要求對其業(yè)務的影響。
首先，應結(jié)合產(chǎn)品的應用場景判斷風險級別，例如，涉及醫(yī)療健康或者汽車智能駕駛、智能座艙的人工智能，應判斷是否對健康、安全、基本權(quán)利等構(gòu)成重大威脅而被認為屬于高風險類人工智能，涉及電子商務的人工智能算法，應判斷是否用于消費者行為和心智操控、利用人性弱點等情形而被視為具有不可接受風險而被嚴格禁止。
其次，通用人工智能模型應履行相關披露和透明度要求、撰寫并公開發(fā)布訓練數(shù)據(jù)集的詳細摘要、遵守歐盟版權(quán)法等規(guī)定。對計算量較大的模型，應當判斷是否可能被判定為具有系統(tǒng)性風險，并履行開展模型評估以識別和減輕可能的系統(tǒng)性風險、確保足夠的網(wǎng)絡安全保護水平、向監(jiān)管機構(gòu)報告重大事件等義務。
第三，在數(shù)據(jù)處理和個人信息保護方面，應遵守歐盟《通用數(shù)據(jù)保護條例》(GDPR)的規(guī)定。
第四，需要使用歐盟的數(shù)據(jù)訓練模型的企業(yè)應當注意，我國的生成式人工智能監(jiān)管對模型訓練過程中使用受著作權(quán)保護的文本、圖像等數(shù)據(jù)，只是簡單地要求應使用具有合法來源的數(shù)據(jù)，涉及知識產(chǎn)權(quán)的，不得侵害他人依法享有的知識產(chǎn)權(quán)，并未嚴格要求獲得著作權(quán)人的明確同意或授權(quán)后方可使用。[15]從司法實踐的角度看，在廣州互聯(lián)網(wǎng)法院判決的全球首例生成式人工智能服務侵犯著作權(quán)案[16]中，原告上海新創(chuàng)華文化發(fā)展有限公司只是從被告廣州某網(wǎng)絡科技公司生成的圖像與原告受著作權(quán)保護的奧特曼圖片實質(zhì)相似，產(chǎn)生了侵犯原告著作權(quán)的后果的角度起訴，并未對被告未經(jīng)原告同意或授權(quán)許可使用其受著作權(quán)保護的奧特曼圖像作為訓練素材/數(shù)據(jù)訓練模型，并要求禁止被告未經(jīng)授權(quán)許可使用奧特曼圖像訓練模型的行為的角度起訴。[17]但在境外市場除日本以外的其他國家和地區(qū)，一般均要求應獲得著作權(quán)人的同意或授權(quán)后方可使用。換言之，使用未獲授權(quán)的作品訓練模型，即使未產(chǎn)生與受著作權(quán)保護的作品實質(zhì)相似的侵權(quán)作品也是違法的，應承擔相應的侵權(quán)責任。[18]以歐盟《人工智能法》為例，該《法案》在有關的立法說明和條款中明確，在人工智能系統(tǒng)開發(fā)、訓練等領域出現(xiàn)的著作權(quán)問題應當在歐盟著作權(quán)制度的框架下解決，通用人工智能模型的提供者在開發(fā)、訓練模型的過程中，對著作權(quán)法保護客體的任何使用，除少數(shù)例外情形外，都需要取得授權(quán)。因此，我國的生成式人工智能企業(yè)在出海后，在使用受境外著作權(quán)法保護的語料/數(shù)據(jù)訓練模型的過程中，應遵守歐盟等目的地國家和地區(qū)的著作權(quán)法，未經(jīng)著作權(quán)人的許可或授權(quán)同意，不應使用受著作權(quán)保護的訓練語料/數(shù)據(jù)。
本篇從總體上概覽了生成式人工智能的主要風險和監(jiān)管體系，主要闡述了生成式人工智能企業(yè)的業(yè)務資質(zhì)要求和對算法、模型的監(jiān)管要求，下一篇具體闡述有關數(shù)據(jù)/語料和生成內(nèi)容安全方面的合規(guī)要求。
（李心路律師對本文有貢獻。）
注釋
[1] https://www.ibm.com/cn-zh/topics/generative-ai
[2] 見《生成式人工智能服務管理暫行辦法》第2條、第22條，及《生成式人工智能服務安全基本要求》之“術語和定義”。
[3]《全球人工智能治理的格局、特征與趨勢洞察》，張欣、宋雨鑫，原文載 《數(shù)字法治》2024年第1期，https://mp.weixin.qq.com/s/Bo5Ww14nMrwhZnu9EXgj8g
[4] 傳統(tǒng)的人工智能是為有限的特定任務而設計的。這些模型通常由人工設計，從數(shù)據(jù)收集、數(shù)據(jù)建模到部署要經(jīng)過很多步驟，這些步驟被稱為機器學習(ML)生命周期。這些模型通常局限于所訓練的特點任務，缺乏泛化能力，無法執(zhí)行未見過的任務。通用人工智能系統(tǒng)(GPAIS)則能解決不止一項任務且無需專門為它們設計，能泛化到未見過的任務中。當前最有代表性的通用人工智能就是大型語言模型，如GPT-4。歐盟《人工智能法案》對通用人工智能的定義如下：通用人工智能系統(tǒng)由提供者(provider)設計，可執(zhí)行圖像和語音識別、音頻和視頻生成、模式檢測、問題解答、翻譯等普遍適用的功能；通用人工智能系統(tǒng)可在多種情況下使用，并可集成到多個其他人工智能系統(tǒng)中。
[5] 《<歐盟人工智能法案>的背景、主要內(nèi)容與評價——兼論該法案對勞動法的影響》 , 原著：沃爾夫?qū)ざ嘁疗绽眨╓olfgang D?ubler），譯者：王倩，原文載《環(huán)球法律評論》2024年第3期，https://mp.weixin.qq.com/s/gp0cTsHTXGcWl51T14lgVA
[6] 只進行私有化部署的除外。
[7] 參考《互聯(lián)網(wǎng)文化管理暫行規(guī)定》關于經(jīng)營性互聯(lián)網(wǎng)文化活動和非經(jīng)營性互聯(lián)網(wǎng)文化活動的規(guī)定。
[8] 根據(jù)工信部的相關咨詢答復意見，單機（不聯(lián)網(wǎng)）的APP不需要履行APP備案手續(xù)。https://bzxx.miit.gov.cn/bzxx/reply/detail?id=ff8080818dd52641018ddeecde6e0546&appellateId=ff8080818dd52641018ddeecde6e0546
[9] 《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第24條規(guī)定，深度合成服務提供者和技術支持者從事網(wǎng)絡出版服務、網(wǎng)絡文化活動和網(wǎng)絡視聽節(jié)目服務的，應當同時符合新聞出版、文化和旅游、廣播電視主管部門的規(guī)定。
[10] 字節(jié)跳動于2017年2月通過收購山西一家名為運城陽光文化傳媒有限公司的網(wǎng)站，曲線獲得廣電總局和工信部頒發(fā)的《信息網(wǎng)絡傳播視聽節(jié)目許可證》。見《今日頭條拿下網(wǎng)絡視聽許可牌照：收購持牌公司山西運城陽光》，澎湃新聞記者包雨朦，2017-02-06 ，來源：澎湃新聞https://m.thepaper.cn/newsDetail_forward_1612900
[11] 張凌寒，《算法規(guī)制的迭代與革新》，《法學論壇》2019年第2期（第34卷，總第182期）。
[12] 《網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定》第12條規(guī)定，網(wǎng)絡信息內(nèi)容服務平臺采用個性化算法推薦技術推送信息的，應當設置符合該《規(guī)定》要求的推薦模型。
[13] 例如，北京市網(wǎng)信辦在一篇題為“北京市網(wǎng)信辦開通生成式人工智能服務備案咨詢電話”的微信公眾號文章中提示，進行生成式人工智能服務備案有關語料安全、模型安全、安全措施、安全自評估等具體要求詳見全國網(wǎng)絡安全標準化技術委員會發(fā)布的《生成式人工智能服務安全基本要求》（TC260-003）。https://mp.weixin.qq.com/s/Cns72xS8v3PQmZRWb3OsKg
[14] https://www.federalregister.gov/documents/2024/01/29/2024-01580/taking-additional-steps-to-address-the-national-emergency-with-respect-to-significant-malicious
[15] 參見本文第二篇“數(shù)據(jù)/語料和生成內(nèi)容安全篇”之“有關訓練數(shù)據(jù)/語料的合規(guī)要求”一節(jié)的相關內(nèi)容。
[16] 2024）粵0192民初113號）。
[17] 參見本文第三篇“知識產(chǎn)權(quán)篇”之“人工智能生成物侵犯他人著作權(quán)”一節(jié)的相關內(nèi)容。
[18] 李陶，《歐盟<人工智能法>公布最終完整版本——對我國未來制度創(chuàng)新有哪些啟示》，《中國新聞出版廣電報》2024年7月18日，https://epaper.chinaxwcb.com/epaper/2024-07/18/content_99845392.html
