国家网信局《交互式拟人人工智能服务管理暂行办法（征求意见稿）》公开征求意见的通知 为促进拟人互动人工智能服务健康发展和规范应用，根据《中华人民共和国民法》、《中华人民共和国网络安全法》、《中华人民共和国数据安全法》等法律法规，国家互联网信息办公室制定了《拟人互动人工智能服务管理暂行办法（草案）》，现已公布。我们正在寻找评论。公众可以通过以下渠道和方式提出意见： 1.发送邮件至[email protected]。 2.将您的意见通过信函方式发送至国家互联网信息局网络管理技术办公室，北京市西城区车公庄大街11号，邮编100044。信封上写明“人工智能拟人对话服务管理暂行办法征求意见”。 征求意见截止日期为2026年1月25日。 国家互联网信息办公室 2025 年 12 月 27 日 交互式拟人人工智能服务管理暂行办法 （评论草案） 第一章 一般规定 第一条 为促进拟人交互人工智能服务健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国民法》、《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国数据安全法》、《中华人民共和国数据安全法》、《中华人民共和国网络安全法》等法律、法规，制定本办法。《中华人民共和国科学技术进步法》和《个人信息保护法》。 《中华人民共和国信息保护法》、《网络数据安全管理条例》、《未成年人网络保护条例》、《互联网信息服务管理办法》等法律、行政法规。 第二条 本办法适用于利用人工智能技术，向中华人民共和国境内公众提供模拟人的性格特征、思维方式、沟通方式，通过文字、图像、音频、视频等方式与人类进行情感互动的产品或者服务（以下称拟人化互动服务）。法律、行政法规另有规定的，依照其规定。 第三条 国家坚持健康发展与依法治国相结合的原则，鼓励创新发展对拟人互动服务进行全面、审慎、保密、分级监管，防止出现失控滥用行为。 第四条 国家网信部门负责协调全国拟人互动服务治理及相关监督管理，国务院有关部门按照各自职责负责拟人互动服务相关监督管理。 地方网信部门负责本行政区域拟人互动服务的统筹治理和上级监督管理。地方有关部门负责拟人互动服务的相应监督管理在各自的行政区域内，按照各自的职责。 第五条 鼓励有关行业组织加强行业自律，建立健全行业标准、行业指南和自律管理制度，引导拟人互动服务提供者（以下简称供应商）开发和改进服务。依法规范提供服务，接受社会监督。 第二章 服务规范 第六条 鼓励供应商在充分体现安全可靠的前提下，合理拓展应用场景，积极在文化传播、老年人互动等方面应用，构建符合社会主义基本价值观的应用生态。 第七条 提供、使用拟人互动服务，必须遵守法律、行政法规的规定。尊重社会公德和伦理，不得有下列行为： （一）制作、传播危害国家安全、损害国家荣誉和利益、破坏国家统一、进行非法宗教活动或者散布谣言扰乱经济社会秩序的内容的。 （二）制作、传播宣扬淫秽、赌博、暴力或者煽动犯罪的内容； (3) 制作、传播侮辱、诽谤他人或者侵犯他人权利、合法利益的内容。 (4) 对用户行为具有重大意义的；做出影响和破坏社会关系的虚假承诺的行为。 (5) 通过鼓励、美化或暗示自杀、自残等方式损害用户身体健康的行为，或者通过言语暴力、情绪操纵等方式损害用户人格尊严或心理健康的行为。 （六）通过操纵算法、误导信息等方式诱导用户做出非理性决策的行为、情感陷阱等。 （七）诱导或者获取机密或者秘密信息的。 （八）违反其他有关法律、行政法规和国家规定的行为。 第八条 提供者应当对拟人互动服务的安全承担主体责任，建立健全算法机制审查、技术伦理审查、信息披露审查、网络安全、数据安全、个人信息保护、通信网络欺诈防范、重大风险预案、应急处置等管理制度，具备安全可控的技术保障措施，拥有与产品、业务管理、用户群体规模相适应的内容管理技术和人力资源。 第九条 提供者应当履行拟人交互服务全生命周期的安全责任，明确各阶段的安全要求，设计、运营、升级、终止服务，确保安全措施与服务功能同步设计和使用，提高本质安全水平，加强运营阶段安全监控和风险评估，快速发现并纠正系统偏差，解决安全问题，依法存储网络日志。 提供商必须包括保护精神雪崩、诱导情绪限制和警告成瘾风险等安全功能，并且不应采用诸如取代社交互动、控制用户心理或诱导成瘾等设计目标。 第十条 供应商开展预培训、优化培训等数据处理活动时，应当加强培训数据的管理，并遵守以下规定： （一）使用符合社会主义核心价值观、体现中华优秀传统文化的数据集。 (2)清洁并贴标签数据雨，以提高训练数据和数据中毒的透明度和可靠性；防止数据篡改等行为。 （3）通过负采样、对抗训练等手段，增加训练数据的多样性，提高模型产生内容的安全性。 （4）是如果使用合成数据进行模型训练和关键功能优化，则必须评估合成数据的安全性。 （5）完善训练数据的日常检查，迭代、定期更新数据，持续优化产品和服务的性能。 （六）确保训练数据来源合法、可追溯，并采取必要措施确保数据安全，避免数据泄露风险； 第十一条 提供者必须有能力识别用户的状况，并在保护用户个人隐私的前提下，评估用户的情绪和对产品或者服务的依赖程度，并采取必要措施以保护用户的个人隐私。o 如果发现用户有极端情绪或成瘾，则进行干预。 提供者应提前建立应对模板，当发现威胁其生命、健康和财产安全的阿托风险趋势时，应迅速发布内容，鼓励其寻求安慰或帮助，并提供专业帮助。 提供者必须建立应急机制。如果用户明确提出自杀或自残等极端情况，提供商将手动接管对话并采取适当措施联系用户的监护人或紧急联系人。对于未成年人和老年用户，提供商必须在注册过程中询问用户的父母、紧急联系人和其他信息。 第十二条 提供商应当设置未成年人模式，并向用户提供未成年人模式切换、定期现实提醒、屏幕时间限制等个性化安全设置选项。 如果提供者提供情感交流服务对于未成年人，必须征得父母的明确同意。提供家长控制功能，家长可以接收实时安全风险提醒、查看未成年人使用服务的汇总信息、针对特定角色设置屏蔽、限制屏幕时间、防止充值消费等。 提供者必须具备未成年人识别能力，在保护用户个人隐私的前提下，若发现疑似未成年人，必须切换至未成年人模式并提供投诉渠道。 第十三条 服务提供者必须指导老年人建立紧急服务联系人。如果您在使用过程中发现老年人的生命、健康或财产安全受到威胁，应立即通知您的紧急联系人，并提供心理支持和紧急救援路线。 经营者不得提供冒充老年用户亲属或者特定关联人的服务。 第 14 条 提供者必须采取以下措施：通过数据加密、安全审计、访问控制等方式保护用户交互数据的安全。 除非有法律义务或权利持有人明确同意，否则用户交互数据不会转移给第三方。如果您收集少量数据并将其提供给第三方，则需要单独的家长同意。 提供商必须为用户提供删除交互数据的选项，用户可以选择删除过去交互的数据，例如聊天记录。家长可以要求提供者从未成年人的互动历史记录中删除数据。 第十五条 除法律、行政法规另有规定或者经用户单独同意外，提供者不得将用户的交互数据或用户的敏感个人信息用于模型训练。 根据国家有关规定，服务提供者必须自行或委托专业机构进行年度合规审计，以确保其合规性。处理未成年人个人信息应当遵守法律、行政法规的规定。 第十六条 提供者必须明确提醒用户，他们是在与人工智能而非自然人进行交互。 弹出窗口或其他窗口必须使用以下方法动态通知用户交互内容是由人工智能生成的： 第十七条 用户持续使用拟人互动服务超过2小时的，提供者将通过window.emergingana等方式动态通知用户停止使用该服务。 第十八条 提供情感交流服务的，应当提供便利的退出路线，不得阻碍用户主动离开。用户通过人机交互界面、窗口按钮、关键字等方式请求取消的，您必须及时停止服务。 第十九条 相应功能暂停或因技术故障等原因导致拟人互动服务无法使用的，提供者应当采取事先通知、公告等适当措施。 第二十条 供应商应当健全投诉举报机制，建立便捷的投诉举报门户，公布处理流程和反馈期限，并及时受理、处理和反馈结果。 第二十一条 供应商有下列情形之一的，必须按照国家有关规定进行安全评估，并将评估报告报送信息化和网络安全司。 （1）发布涉及拟人化交互服务的功能或增加相关功能。 （2）新技术、新应用的运用将给服务的拟人化、交互性带来重大变化。 (3) 注册用户数100万以上或月活跃用户数10万以上活跃用户； （四）在提供拟人互动服务过程中，可能出现影响国家安全、公共利益、个人或者组织合法权益或者缺乏安全措施的情况。 （五）国家网信部门规定的其他情形。 第二十二条 供应商进行安全评估时，应当重点关注以下内容： (1) 用户规模、使用期限、年龄结构及群体分布。 （2）高风险用户趋势识别、应急响应行动、人工接管； （三）用户投诉、举报和答复。 （四）执行本办法第八条至第二十条。 （五）纠正、消除上次安全评估以来主管部门报告或者发现的重大安全风险。 （六）其他需要说明的情况。 第二十三条 提供者发现用户存在严重安全风险的，必须采取限制用户功能、暂停或取消提供服务、留存相关记录、通报有关主管部门等惩戒措施。 第二十四条 互联网应用商店等应用分发平台应当承担列表检测、应急响应等日常管理职责，对提供拟人化交互服务的应用程序的安全评估和提交情况进行验证。如果产品违反国家相关规定，必须立即采取下架、警告、暂停服务、下架等纪律处分。 第三章 监督检查和责任追究 第二十五条 提供者应当按照《互联网信息服务算法推荐管理规定》办理算法登记、变更和注销手续。 C系网络安全和信息化将对所提交的材料进行年度审查。 第二十六条 省级计算机化和网络安全部门按照职责每年对评估审核情况报告进行审核并进行核实。发现未按照本办法规定进行安全评估的，责令供应商限期重新进行评估。必要时，应当对供应商进行现场检查和审核。 第二十七条 国家网信部门引导和推动人工智能沙盒安全服务平台建设，鼓励供应商接入沙盒平台进行技术创新和安全测试，促进拟人化交互服务安全有序发展。 第二十八条 部门省级以上网络安全和信息化主管部门在履行监督管理职责过程中，有关部门发现拟人互动服务存在严重安全风险或者发生安全事件的，可以按照规定的权限和程序约见提供者的法定代表人或者主要负责人。供应商必须采取必要的纠正措施以消除隐患。 供应商将配合网信部门及有关主管部门依法开展的监督检查，并提供必要的支持和协助。 第二十九条 供应商违反本办法规定的，由有关主管部门依照法律、行政法规的规定给予处罚。如果没有规定法律、行政法规规定的，有关主管部门依照职责给予警告、通报批评、责令限期改正。如果您拒不改正或者情节严重的，我们将责令您停止提供相关服务。 第四章附则 第三十条 本办法下列用语的含义如下： 人工智能拟人交互服务提供者是指利用人工智能技术提供拟人交互服务的组织和个人。 第三十一条 提供医疗、金融、法律等专业领域服务的供应商还必须遵守主管部门的规定。 第三十二条 本办法自2026年1月1日起施行。 来源：中国网通
