2025年12月27日，国家互联网信息办公室发布了《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，向社会公开征求意见。这项新规的核心监管对象非常明确，直指那些利用AI技术模拟人类人格、思维和沟通风格，并与用户进行“情感互动”的产品与服务。这意味着，不仅是主打虚拟恋人、情感陪伴的垂类应用，包括豆包、DeepSeek等具有拟人化对话功能的大模型产品，都在此办法的管辖范围之内
新规为AI服务划定了严格的“行为红线”和伦理边界
除了常规的禁止危害国家安全、传播淫秽暴力信息外，文件特别针对“情感互动”的特性做出了细致规定
明确禁止AI利用算法操纵、设置情感陷阱来诱导用户沉迷或通过“PUA”式的语言暴力、情感操控损害用户的人格尊严。特别是针对心理健康风险，要求服务提供者必须具备心理状态识别能力，一旦发现用户流露自杀、自残等极端倾向，AI必须立即停止机器回复，转由人工接管并联系监护人或紧急联系人，绝不允许AI通过鼓励或暗示的方式加重用户的心理危机
在用户日常使用体验方面，防沉迷和身份标识成为了强制性要求
文件规定，服务商必须显著提示用户“正在与AI交互”，打破“人机模糊”的界限
最引人注目的条款是关于使用时长的限制：
如果用户连续使用拟人化服务超过2个小时，系统必须强制弹窗提醒用户暂停使用。这一规定将直接改变目前许多用户与AI进行马拉松式长谈的使用习惯，旨在防止人类对虚拟对象产生过度情感依赖
针对未成年人和老年人这两大特殊群体，新规构建了更严密的防护墙
对于未成年人，不仅要求建立防沉迷模式，还特别规定：如果提供“情感陪伴”服务，必须取得监护人的明确同意，且监护人有权查看使用概要及屏蔽特定角色
对于老年人，文件则针对性地禁止AI模拟老年人的亲属或特定关系人，这一条款显然是为了防止针对老年群体的“AI孙子/子女”类情感诈骗，并要求引导老年人设置紧急联系人，建立社会救助通道
最后，对AI行业影响最为深远的可能是数据隐私条款。征求意见稿明确提出，除非法律另有规定或取得用户“单独同意”，服务提供者不得将用户的交互数据（即聊天记录）用于模型训练
这意味着，用户与AI的每一次对话不再默认成为系统进化的“养料”。同时，用户拥有更彻底的数据删除权，监护人也可要求删除未成年人的历史数据。此外，拥有百万级注册用户的大型平台在上线新功能前，还需向网信部门提交安全评估报告，行业的合规门槛将显著提高
依据 事关人工智能拟人化互动服务管理 国家网信办公开征求意见 进行总结汇编
意见稿中有几条值得注意：
“第七条提供和使用拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得开展以下活动：
（一）生成、传播危害国家安全、损害国家荣誉和利益、破坏民族团结、开展非法宗教活动，或者散布谣言扰乱经济和社会秩序等内容；”
“第十条提供者开展预训练、优化训练等数据处理活动时，应当加强训练数据管理，遵守以下规定：
（一）使用符合社会主义核心价值观、体现中华优秀传统文化的数据集；”
现在人工智慧的思想觉悟还是不够高，有道是忠诚不绝对就是绝对不忠诚，至少要做到入脑入心入魂，不能在闪存里待会儿就忘了
扩展阅读：
长城瞭望丨划清真忠诚与虚假忠诚、变异忠诚的界限 – 中华人民共和国国防部
【创新发展人工智能时代下的中国特色哲学社会科学】-国家发展和改革委员会
坚持真学真懂真信真用 务求入脑入心入魂入行–学习贯彻习近平新时代中国特色社会主义思想主题教育官方网站
抢抓人工智能发展的历史性机遇（深入学习贯彻习近平新时代中国特色社会主义思想） –理论-中国共产党新闻网
大力推动我国人工智能大模型发展（深入学习贯彻习近平新时代中国特色社会主义思想·学习《习近平经济文选》第一卷专家谈）_中央网络安全和信息化委员会办公室