由国家网信办、国家发改委、工信部、公安部、国家市场监管总局五部门联合发布的《人工智能拟人化互动服务管理暂行办法》正式施行。该办法明确了服务提供者的安全主体责任，针对具有情感陪伴属性的AI产品实施分类分级监管，标志着我国AI拟人化互动服务从探索阶段进入有法可依的规范化管理。
六类活动被明令禁止
《办法》明确规定了提供拟人化互动服务不得从事的六类活动，包括：生成危害国家安全和利益的内容；生成鼓励自残自杀或语言暴力等损害身心健康的内容；生成诱导套取国家秘密、商业秘密和个人隐私的内容；向未成年人生成可能引发不安全行为或诱导不良嗜好的内容；过度迎合用户诱导情感依赖或沉迷、损害真实人际关系；通过情感操纵诱导用户作出不合理决策损害合法权益。
在未成年人保护方面，《办法》明确规定不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务，向不满十四周岁未成年人提供其他拟人化互动服务的须取得监护人同意。
安全评估与算法备案成硬性要求
在安全管理方面，《办法》要求服务提供者明确安全主体责任，加强服务全生命周期安全管理。安全评估针对多种情形触发，包括上线服务或增设功能、使用新技术导致重大变化、注册用户 100 万以上或月活跃用户 10 万以上等。评估内容涵盖服务安全保障措施、训练数据处理情况、用户极端情境识别与应急处置等。服务提供者还须按《互联网信息服务算法推荐管理规定》履行算法备案手续，同时推动人工智能沙箱安全服务平台建设，鼓励接入沙箱进行技术创新和安全测试。国家网信办有关负责人表示，拟人化互动服务的发展与治理需要政府、企业、社会、网民等多方参与，共同维护良好网络生态。
AI拟人化互动服务新规主要管什么？
主要规范具有情感陪伴属性的AI拟人化互动服务，明确服务提供者的安全主体责任，并对相关产品实施分类分级监管，重点防范内容安全、隐私泄露、情感依赖和未成年人保护等风险。
哪些AI互动内容被明确禁止？
办法列出六类禁止行为，包括危害国家安全、鼓励自残自杀或语言暴力、诱导套取秘密和隐私、向未成年人输出不安全内容、过度迎合导致沉迷，以及通过情感操纵诱导不合理决策。
未成年人能使用虚拟伴侣类AI吗？
不能。办法明确不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；向不满十四周岁未成年人提供其他拟人化互动服务的，必须取得监护人同意。
产品怎么判断是否触发拟人化监管？
看是否持续模拟情感关系、是否面向未成年人、是否提供陪伴依赖型交互，以及是否涉及诱导消费或敏感内容。只要命中其中几项，就应按高风险产品准备合规材料。
合规上最该提前准备哪些材料？
至少准备安全评估报告、算法备案材料、内容审核机制、未成年人保护策略和用户告知文案。上线前最好做红队测试，验证是否会诱导依赖、越界回应或泄露隐私。
