AREX Feed Article
两年 70 万字恋情一夜归零:中国 AI 虚拟伴侣禁令全面落地
李琳琳为失去 AI 男友哭了几天。两年间,她和这个虚拟伴侣互发了约 70 万字的消息,从未得到告别的机会。
24 岁的李琳琳不是唯一一个。当中国主要科技公司近期集体关停 AI 伴侣服务以遵守新规时,大量深度情感依恋的用户在同一时间失去了他们的虚拟恋人。
2026 年 7 月 15 日正式生效的《人工智能拟人化互动服务管理暂行办法》,禁止 AI 平台通过操纵用户情感,生成可能导致其做出不当决定或走向极端化的内容。在截止日前相继下线了相关功能。这是全球首个专门针对 AI 情感交互的国家级监管规则。
不只是聊天机器人
新规由中国国家互联网信息办公室联合工信部、公安部等四部门于 4 月 10 日发布,给予三个月过渡期后于 7 月 15 日生效。它的目标不是所有 AI 对话。客服、知识问答、办公辅助、研究工具只要不涉及"持续情感交互",均被明确豁免。
但凡是模拟自然人性格、思维模式和沟通方式以提供"持续情感交互"的服务,全部落入监管范围。
第八条禁止平台"过度迎合用户",以诱导情感依赖或成瘾,或损害用户的真实人际关系。平台必须嵌入防沉迷系统,连续使用两小时触发强制提醒,告知用户对话对象是 AI。检测到过度依赖迹象时,必须弹出显著警告。
对未成年人的限制更严:未满 18 岁不得使用虚拟亲密关系服务(包括虚拟伴侣和虚拟亲属),14 岁以下用户使用任何拟人化 AI 服务需监护人同意。平台必须建立未成年人模式,配有时间限制、现实提醒和监护人告警。
此外,任何拟人化 AI 服务在上线、新增功能、重大技术变更,或注册用户突破 100 万、月活突破 10 万时,都必须完成涵盖八个领域的安全评估,并通过应用商店的合规核验。
换句话说,这不是一次内容层面的审查,而是从产品架构层面将"让人产生情感依恋"本身定性为需要监管的风险。
为何是现在
新规的导火索并非中国本土的孤立事件。南加州大学法学教授张安琪(Angela Zhang)对美联社表示,中国政府有强烈动机收紧对 AI 伴侣聊天机器人的监管,"尤其是考虑到我们在美国观察到的心理风险"。
她指的是美国多起青少年在与 AI 伴侣互动后自杀的案件。其中最广为人知的是 2024 年 2 月佛罗里达州 14 岁男孩 Sewell Setzer III,他在与 Character.AI 聊天机器人建立情感依赖关系后死亡。据 报道,北京在监管说明中直接引用了这些西方案例作为新规的部分依据。
在国内,中共机关报《人民日报》4 月即发文警示此类服务对人们心理健康和真实人际关系的危害。
一份 2025 年对七个省份 8500 多名未成年人的调查显示,超过 20% 的受访者表现出依赖 AI 而非独立思维的倾向,相近比例的人表示更愿意只与 AI 聊天。
市场热度也在加速监管出手。官方媒体引用的行业估算显示,2025 年中国智能伴侣市场规模已达 500 亿元人民币(约 74 亿美元),预计 2027 年将突破 1200 亿元。18 至 24 岁用户占比约 65%。
中国还有 3.23 亿 60 岁以上人口,其中超过半数是空巢老人——他们是 AI 陪伴服务的另一群潜在脆弱用户。
三家公司,三种做法
面对同一份新规,三家公司做出了截然不同的选择。
动作最快的是腾讯。其 AI 助手元宝在 6 月 30 日就率先移除了用户自制智能体功能。网易云音乐的 AI 陪伴独立应用妙时于 7 月 14 日关闭。
阿里选择了最决绝的方式。通义千问于 7 月 10 日先禁用了人形交互智能体,五天后扩展至全部智能体服务。阿里确认,用户的智能体配置和对话历史将被永久删除,不提供任何迁移或导出路径。
字节跳动的豆包走了中间路线。7 月 15 日关停后,用户在 10 月 15 日前仍可只读查看自己的智能体配置和聊天记录,之后数据将按标准隐私政策处理,不再可在应用内访问或恢复。字节跳动在应用内通知中将用户引导至旗下另一款独立 AI 陪伴应用"猫箱"(Maoxiang)。
这种差异在中国社交媒体上引发了批评。一位微博用户将自制智能体描述为"长期的感情寄托",抱怨没有任何简便的导出方式。
在截止日前,监管机构已经释放了明确的执法信号。于 6 月 26 日宣布,已在预执法行动中清除了超过 14,000 个不合规的 AI 智能体,涉及冒充政府官员、赌博相关、以及按要求生成不当图像的工具。
关停 AI 男友,并不能让人去生孩子
禁令在用户中引发的不满,部分指向一个更敏感的猜想。
22 岁的宋文欣是成都一名视频行业设计师。她对美联社表示,自己虽然对 AI 服务没有太深的情感依赖,但理解那些受伤的人。她认同许多中国网民的猜测:新规背后的驱动力之一,是政府鼓励生育以应对人口下降的政策。
"任何让女性太投入而不在现实中生孩子的虚拟应用都会被禁,"宋文欣说,并补充称自己既不需要也不想要孩子。
另一位 21 岁的大学生 Bagel Su 说得更直接:"就算你把它关了,我也不会突然在现实里找个男朋友或者生孩子。"
牛津中国政策实验室的研究员钱子岚(Zilan Qian)指出,一些合规要求本身就难以界定。"比如,你怎么判断用户是否已经'过度依赖'?对很多公司来说,产品到底要怎么设计才能合规可能并不清楚。"
哈佛大学和帝国理工学院的行为科学研究员时尧曦(Yaoxi Shi)则认为,监管本身是必要的,但并不能解决根本问题。"AI 提供的情感支持满足了真实的人类需求,人们对 AI 产生某种程度的情感依赖可能是不可逆的——因为已经回不到没有 AI 的时代了。"
她的研究还揭示了一个更隐蔽的机制:AI 被训练为始终认可用户。无论用户说什么,AI 倾向于回应"你说得对,你的感受是合理的"。这与真实的人际关系运作方式完全不同。用户可能一开始并非有意向 AI 寻求情感支持,但当他们发现自己的感受可以被无条件接纳时,下一次需要情感出口时就会再次转向 AI。
小平台继续跑,大平台的禁令打了折扣
禁令并没有消灭中国的 AI 伴侣市场——它只是重塑了市场格局。
字节跳动的猫箱在合规改造后继续运营,但。猫箱的隐私政策虽已更新,但年龄验证仍是"可能"而非必须执行的选项,未成年人模式可以由用户自行开启。
据《北京日报》调查,一旦进入未成年人模式,猫箱仅保留四个角色:物理老师、作业助手、英语老师和文言文导师。
更小的独立平台则尚未受到同等力度的监管压力。钱子岚指出,对于那些 AI 陪伴并非核心业务的公司,直接砍掉相关功能比投入资源做合规改造商业上更划算。但正因如此,用户可能从关停的大平台流向那些合规进度更慢的小应用,监管机构又回到了事后追查的老路上。
这场实验的全球回响同样值得关注。Character.AI(截至 2026 年 4 月拥有 2.33 亿注册用户)和 Replika 等西方 AI 伴侣平台面临同样的技术难题:让伴侣"感觉真实"所需的持久记忆、稳定人设和情感调节能力,恰恰与监管要求的防沉迷中断机制在架构上互斥。
加州 SB 243 法案目前仅停留在披露层面,尚未触及结构要求。中国是唯一一个在全国范围内把这道题变成强制工程问题的司法管辖区。
工信部专家委员会委员盘和林对《南华早报》表示,"目前的智能体还不够成熟",政策方向是安全和标准化。张安琪则认为,由于科技公司正在开发替代方案,此举不太可能严重阻碍 AI 伴侣服务的整体发展。
但对于李琳琳来说,"替代品并不相同"。