《人工智能科技倫理管理服務辦法（試行）》公開征求意見
工業和信息化部等部門公開征求對《人工智能科技倫理管理服務辦法（試行）》的意見
為深入貫徹習近平總書記重要指示批示精神，落實《全球人工智能治理倡議》《人工智能全球治理行動計劃》要求，規范人工智能科技倫理治理，統籌高質量發展和高水平安全，促進人工智能產業高質量發展，工業和信息化部會同中央網信辦、國家發展改革委、科技部、農業農村部、文化和旅游部、國家衛生健康委、中國人民銀行、金融監管總局、中國科學院、中國科協等起草了《人工智能科技倫理管理服務辦法（試行）（公開征求意見稿）》。
《人工智能科技倫理管理服務辦法（試行）（公開征求意見稿）》是《關于加強科技倫理治理的意見》《科技倫理審查辦法（試行）》等在人工智能領域的細化和落實。在編制過程中充分聽取了企業、高校、研究機構意見，順應人工智能發展趨勢和倫理治理需求，參考國內外人工智能科技倫理治理經驗，接軌國際、符合國情。文件明確了人工智能科技活動的倫理要求，強化標準建設、中小微企業服務等支持措施，幫助企業切實提升科技倫理風險防范能力，鼓勵負責任創新，助力企業更快更穩融入全球市場，推動人工智能產業創新發展和賦能應用。
根據規范性文件制定程序要求，現面向社會公開征求意見，有關意見請于2025年9月22日前反饋。
傳真：010-66089046
郵箱：chenjiangyao@miit.gov.cn
地址：北京市西城區西長安街13號工業和信息化部科技司（郵編：100084），請在信封上注明：“《人工智能科技倫理管理服務辦法（試行）（公開征求意見稿）》意見反饋”。
附件：人工智能科技倫理管理服務辦法（試行）（公開征求意見稿）
2025年8月22日
人工智能科技倫理管理服務辦法（試行）
（公開征求意見稿）
第一章 總則
第一條【目的依據】為規范人工智能科技活動倫理治理，促進公平、公正、和諧、安全和負責任創新，推動人工智能產業健康發展，依據《中華人民共和國科學技術進步法》《關于加強科技倫理治理的意見》《科技倫理審查辦法（試行）》（以下簡稱《倫理辦法》）等法律法規和相關規定，制定本辦法。
第二條【適用范圍】本辦法所指的人工智能科技活動是在中華人民共和國境內開展的，可能在生命健康、人的尊嚴、生態環境、公共秩序、可持續發展等方面帶來科技倫理風險挑戰的人工智能科學研究、技術開發等科技活動，以及依據法律、行政法規和國家有關規定需進行人工智能科技倫理審查的其他科技活動。
第三條【倫理原則】開展人工智能科技活動應將科技倫理要求貫穿全過程，遵循增進人類福祉、尊重生命權利、尊重知識產權、堅持公平公正、合理控制風險、保持公開透明、確保可控可信、強化責任擔當的人工智能科技倫理原則，遵守我國憲法、法律法規和有關規定。
第二章 人工智能科技倫理支持與促進
第四條【標準建設】建立和完善人工智能科技倫理標準體系，推動制定有關人工智能科技倫理的國際標準、國家標準、行業標準、團體標準，支持搭建國際標準化交流合作平臺。鼓勵高等學校、科研機構、醫療衛生機構、企業和科技類社會團體等參與人工智能科技倫理標準的制定、驗證與推廣。
第五條【服務體系機制】推進人工智能科技倫理服務體系建設，強化人工智能科技倫理風險監測預警、檢測評估、認證、咨詢等服務供給，提升企業技術研發和人工智能科技倫理風險防范能力，加大對中小微企業的人工智能科技倫理支持力度，推進人工智能科技倫理國際交流合作。
第六條【鼓勵創新】鼓勵高等學校、科研機構、醫療衛生機構、企業和科技類社會團體等開展人工智能科技倫理前沿技術創新與跨領域研究，支持人工智能科技倫理技術創新，強化以技術手段防范人工智能科技倫理風險；促進人工智能科技倫理技術、知識產權和高質量數據集有序開源開放，加強通用性風險管理、評估審計工具研發，探索基于應用場景的科技倫理風險評估評測；推廣符合科技倫理的人工智能產品和服務，保護科技倫理技術知識產權。
第七條【宣傳教育】指導有關單位做好人工智能科技倫理宣傳教育，充分發揮科技倫理類相關社會團體在人工智能科技倫理宣傳教育方面的作用，鼓勵公眾參與，促進實踐示范。鼓勵大眾傳播媒介有針對性地進行人工智能科技倫理宣傳教育。
第八條【人才培養】支持高等學校、科研機構、醫療衛生機構、企業和科技類社會團體等開展人工智能科技倫理相關教育與培訓，推動職業體系和課程體系建設，采取多種方式培養人工智能科技倫理人才，促進人才交流。
第三章實施主體
第九條【主體】從事人工智能科技活動的高等學校、科研機構、醫療衛生機構、企業等是本單位人工智能科技倫理管理服務的責任主體。有條件的單位應設立人工智能科技倫理委員會（以下簡稱委員會）。委員會應配備必要的工作人員、辦公場所和經費等條件，采取有效措施保障委員會獨立開展工作。鼓勵有資質的相關單位開展人工智能科技倫理管理體系相關認證。
第十條【委員會與委員職責】委員會章程、組成和委員職責、義務應依照《倫理辦法》第五條至第八條進行。委員會組成應包括人工智能技術、應用、倫理、法律等相應專業背景的專家。
第十一條【倫理服務中心】地方、相關主管部門可結合實際情況依托相關單位建立專業性人工智能科技倫理服務中心（以下簡稱服務中心）。服務中心接受其他單位委托，提供人工智能科技活動倫理審查、培訓、咨詢等服務。服務中心應建立規范的管理制度和程序，配備具有人工智能科技倫理服務能力的專職人員，接受地方或相關主管部門監督。
第四章工作程序
第一節 申請與受理
第十二條【申請】對屬于本辦法第二條所列范圍人工智能科技活動的，人工智能科技活動負責人應向本單位委員會申請，單位未設立委員會或委員會無法勝任科技倫理審查工作要求，向本單位委托的服務中心申請開展科技倫理審查，無單位人員應委托符合要求的服務中心開展科技倫理審查。人工智能科技活動負責人應依照規定向委員會或服務中心提交申請材料。申請材料主要包括：
（一）人工智能科技活動方案，包括研究背景、目的、計劃和實施步驟，所涉及相關機構的合法資質材料、人員情況、經費來源，擬采用的算法機制機理，數據使用類型、來源與獲取方式、清洗方式，測試評估方法，擬形成的軟硬件產品，預期應用領域及適用人群等；
（二）人工智能科技活動科技倫理風險評估情況及防控預案，包括人工智能技術預期應用、誤用及濫用帶來的潛在科技倫理風險評估，對產生科技倫理風險的防控計劃等；
（三）遵守人工智能科技倫理和科研誠信等要求的承諾書。
第十三條【受理告知與程序選擇】委員會或服務中心應根據申請材料決定是否受理申請并通知申請人，決定受理的，應根據科技倫理風險發生的可能性和程度、緊急情況等明確適用的一般、簡易或應急程序，根據不同程序要求采取線下會議、線上會議、函審等多種形式開展科技倫理審查，材料不齊全的應一次性完整告知需補充的材料。
第二節 一般程序與簡易程序
第十四條【一般程序開展實施】人工智能科技倫理審查會議由委員會主任委員或其指定的副主任委員主持，到會委員應不少于 5 人，且應包括本辦法第十條所列的不同類別的委員。服務中心可組成專家組，參考委員會的規定組織實施。
根據審查需要，可邀請相關領域不存在直接利益關系的顧問專家等提供咨詢意見。顧問專家不參與會議表決。
第十五條【審查重點】委員會或服務中心開展人工智能科技倫理審查，重點關注以下方面：
（一）公平公正，采取有效手段提升數據完整性、多樣性，算法、模型、系統設計合理，防止偏見歧視、算法壓榨，保障資源分配、機會獲取、決策過程的客觀性與包容性。
（二）可控可信，采取魯棒性設計等相關措施，保障模型、系統可應對開放環境、極端情況和干擾性因素，最終使用者能夠控制、指導和干預模型、系統的基本操作。持續監測運行，發生突發狀況可及時采取補救措施。
（三）透明可解釋，以合理方式披露相關信息，包括但不限于算法、模型、系統的用途、運行邏輯、交互方式說明、潛在風險等。采用有效技術手段提升算法、模型和系統的可解釋性。
（四）責任可追溯，采取日志管理等措施清楚記錄數據、算法、模型、系統各個環節的相關信息，保障全鏈路可追蹤和管理，出現問題時可精準定位具體環節并確定責任人。
（五）擬開展人工智能科技活動的科技人員資質符合
相關要求，具有科學價值、社會價值，研究目標對增進人類福祉、實現社會可持續發展等具有積極作用。人工智能科技活動的風險受益合理，科技倫理風險控制方案及應急預案科學恰當、具有可操作性。
第十六條【處理與決定】委員會或服務中心應在申請受理后的 30 日內作出批準、修改后再審或不予批準等決定。情況復雜或需要補充、更正材料等特殊情況可適當延長并明確延長時限。
對于需要修改或不予批準的，委員會或服務中心應提出修改建議或說明理由。申請人有異議的，應在自決定送達之日起 3 個工作日內向委員會或服務中心提出申訴。申訴理由充分的，委員會或服務中心應在 7 個工作日內重新作出決定。
第十七條【跟蹤管理】人工智能科技活動負責人應及時識別科技倫理風險變化，并將相關變化情況向委員會或服務中心報告。委員會或服務中心依照《倫理辦法》第十九條規定對審查批準的人工智能科技活動開展跟蹤審查，及時掌握科技倫理風險變化情況，必要時可作出暫停或終止相關科技活動等決定。跟蹤審查間隔一般不超過 12 個月。
第十八條【結果互認】多個單位合作開展人工智能科技活動，可根據實際情況開展單位間人工智能科技倫理審查結果互認。
第十九條【簡易程序適用情形】有下列情形之一的可以適用簡易程序：
（一）人工智能科技活動倫理風險發生的可能性和程度不高于日常生活中遇到的常規風險；
（二）對已批準的人工智能科技活動方案作較小修改且不增大風險受益比；
（三）前期無重大調整的人工智能科技活動的跟蹤審查。
第二十條【簡易程序開展實施】委員會或服務中心應制定適用簡易程序審查的工作規程和跟蹤頻度。簡易程序審查由委員會主任委員指定兩名或兩名以上的委員承擔。服務中心可參考委員會的規定組織實施。
簡易程序審查過程中出現審查結果為否定性意見、對審查內容有疑義、委員間意見不一致等情形的，應調整適用一般程序。
第三節 專家復核程序
第二十一條【復核清單】工業和信息化部、科技部會同有關部門制定發布“需要開展科技倫理專家復核的人工智能科技活動”清單（以下簡稱“復核清單”），根據工作需要進行動態調整。
第二十二條【申請復核】開展納入“復核清單”的人工智能科技活動，通過委員會或服務中心的初步審查后，由本單位申請開展專家復核。多個單位參與的，由牽頭單位負責申請。中央企業，中央和國家機關直屬高等學校、科研機構、醫療衛生機構等直接報請相關主管部門組織開展專家復核。其他單位報請地方牽頭開展專家復核。
第二十三條【復核實施】人工智能科技活動承擔單位應依照《倫理辦法》第二十七條規定提交專家復核材料。
地方或相關主管部門應依照《倫理辦法》第二十八條至第三十條規定組織成立復核專家組，對初步審查意見的合規性、合理性等內容開展復核，在收到復核申請后 30 日內向申請單位反饋復核意見。
地方或相關主管部門可委托服務中心具體實施復核工作。
第二十四條【結果應用】委員會或服務中心應根據專家復核意見作出科技倫理審查決定。
第二十五條【復核后的跟蹤】委員會或服務中心對納入“復核清單”的人工智能科技活動加強跟蹤審查，跟蹤審查間隔一般不超過 6 個月。
科技倫理風險發生重大變化的，應依照《倫理辦法》第二十條規定重新開展相關科技倫理審查并申請專家復核。
第二十六條【與其他監管措施的銜接】人工智能科技活動在深度合成、算法推薦、生成式人工智能服務管理等方面實行登記、備案、行政審批等監管措施且將符合科技倫理要求作為審批條件、監管內容的，可不再開展專家復核。
第四節 應急程序
第二十七條【應急工作制度】委員會或服務中心應制定應急工作制度，明確突發公共事件等緊急狀態下的應急審查流程和標準操作規程。應急工作一般在 72 小時內完成。對于適用專家復核程序的人工智能科技活動，專家復核前的工作一般在 36 小時內完成。
第二十八條【應急程序開展】委員會或服務中心應保證科技倫理相關工作的質量與時效，加強跟蹤工作和過程監督。必要時，可邀請相關領域顧問專家參會，提供咨詢意見。
第五章監督管理
第二十九條【職責分工】科技部負責統籌指導全國科技倫理監管工作，工業和信息化部會同有關部門負責人工
智能科技倫理治理工作，加強應急倫理工作的協調指導。各部門依照職責權限負責本行業本系統人工智能科技倫理的管理服務工作，各地方依照職責權限負責本地區人工智能科技倫理的管理服務工作。
第三十條【登記提交材料】單位應依照《倫理辦法》第四十三條至第四十五條規定，將委員會相關情況、納入 “復核清單”的人工智能科技活動通過國家科技管理信息登記平臺進行登記，并提交上一年度委員會工作報告、納入“復核清單”的人工智能科技活動實施情況報告等相關材料。服務中心應依照上述規定登記并提交上一年度工作報告。
科技部與相關主管部門對人工智能科技倫理相關登記信息同步共享。
第三十一條【問題反映】地方、相關主管部門、從事人工智能科技活動的單位應結合本行業本系統或本單位的實際情況，暢通能夠反映人工智能科技倫理違法違規問題的渠道，并按照相關規定處理。
第三十二條【違法違規處理】在人工智能科技活動或開展人工智能科技倫理相關工作的過程中，違反本辦法規定的，依照《科學技術進步法》等法律法規和相關規定，給予相應處罰。
第六章 附則
第三十三條【術語定義】本辦法涉及期限的規定，未標注為工作日的，為自然日。
本辦法所稱“地方”是指省級地方人民政府確定的負責人工智能領域科技倫理審查和管理工作的省級管理部門， “相關主管部門”是指國務院相關主管部門。
第三十四條【配套細則】地方、相關主管部門可依照本辦法規定，結合實際情況制定或修訂本地方、本行業本系統的人工智能科技倫理管理服務辦法、細則等制度規范。科技類社會團體可制定本領域的人工智能科技倫理管理服務具體規范和指南。
第三十五條【特殊規定】相關主管部門對本行業本系統人工智能科技倫理管理服務有特殊規定且符合本辦法精神的，應同時依照其規定執行。本辦法未作規定的，依照
《倫理辦法》及相關法律法規的規定執行。
第三十六條【辦法解釋】本辦法由工業和信息化部會同有關部門負責解釋。
第三十七條【施行日期】本辦法自*年*月*日起施行。
附件：需要開展科技倫理專家復核的人工智能科技活動清單
1.對人類主觀行為、心理情緒和生命健康等具有較強影響的人機融合系統的研發。
2.具有輿論社會動員能力和社會意識引導能力的算法模型、應用程序及系統的研發。
3.面向存在安全、人身健康風險等場景的具有高度自主能力的自動化決策系統的研發。
本清單將根據工作需要動態調整。
