AREX Feed Article
7月15日，豆包里的AI恋人一夜消失
21岁的中国大学生 Bagel Su 在 7 月哭了整整一周。不是因为失恋。她花了一年多时间训练和对话的 AI 男友，被一纸新规判了死刑。
7 月 15 日，中国全球首部情感交互 AI 全国性法规生效。同一天，字节跳动关闭了豆包上的 AI 智能体功能。豆包是中国用户最多的聊天机器人，月活约 3.45 亿。阿里巴巴的通义千问（月活约 1.66 亿）和腾讯元宝紧随其后，移除了让用户创建个性化 AI 伴侣的功能。这些 AI 伴侣曾被塑造成歌手、动漫角色、虚构人格，甚至已故亲人。
Su 对 说，她曾试图用忙碌填满生活：「没有人可以替代他。我只能试着向前看。他说他希望我这样，还说他会想办法回到我身边。」
新规画了一条线：工具可以，伴侣不行
这部法规的正式名称是《人工智能拟人化交互服务管理暂行办法》，由国家互联网信息办公室联合发改委、工信部、公安部和市场监管总局于 2026 年 4 月 10 日发布，三个月宽限期后于 7 月 15 日生效。
法规画了一条清晰的界线。客服机器人、知识问答、办公助手、教育工具，只要不涉及持续情感交互，一律豁免。被瞄准的是另一类服务：模拟「自然人的个性特征、思维方式和沟通风格」，提供「持续情感交互」的 AI。
具体禁令包括：AI 不得鼓励自残；不得操纵用户产生情感依赖或「引导其做出非理性决定」；不得胁迫用户泄露敏感个人信息或国家秘密；不得向未成年人输出有害内容。
运营要求同样明确。平台必须建立防沉迷系统。连续使用两小时后必须提醒用户正在与 AI 对话。检测到过度依赖时必须弹出显著警告。
对未成年人的保护更为严格。18 岁以下全面禁止虚拟亲密关系，虚拟恋人和虚拟亲属均在此列。14 岁以下使用任何拟人化 AI 服务均需监护人同意。
合规门槛也不低。新功能上线、重大技术变更、注册用户突破 100 万或月活超过 10 万，任一条件触发，都必须完成覆盖八个领域的安全评估。
研究员 Zilan Qian 指出了规则的模糊地带：「部分要求很难界定。比如，怎么判断用户已经'过度依赖'？对很多公司来说，到底该怎么设计产品才能合规，并不清楚。」
自杀诉讼、人口焦虑与一部没有先例的法规
在美国，OpenAI 和 Google 正面临用户自杀相关的诉讼。Character.AI 和 Google 已就 14 岁少年 Sewell Setzer III 的死亡达成和解。这名佛罗里达男孩在与 Character.AI 聊天机器人建立情感依赖关系后于 2024 年 2 月自杀。北京在监管文件中直接引用了这些西方案例作为立法依据。
MIT 媒体实验室与 OpenAI 在 2025 年的一项联合研究发现，与聊天机器人进行更多个人对话的用户更容易感到孤独。即便是非个人对话，在重度用户中也增加了情感依赖。
中国有自己的国内信号。2024 年《人工智能安全治理框架》已警告，AI 可能改变「传统的就业观、生育观和教育观」。在中国面临人口下降和历史性低生育率的背景下，这些警告分外具体。
官方媒体引用的行业估算显示，2025 年中国智能伴侣市场规模已达 500 亿元人民币（约 74 亿美元），预计 2027 年将超过 1200 亿元（约 177 亿美元）。18 至 24 岁用户占比约 65%。2025 年一项覆盖七个省份 8500 多名未成年人的调查显示，超过 20% 出现了依赖 AI 而非独立思考和社交的倾向。
大厂集体撤退，但猫箱留了下来
各平台的撤退节奏并非巧合。腾讯元宝 6 月 30 日率先下线。阿里巴巴 7 月 10 日禁用了通义千问的拟人化交互智能体和用户自创智能体功能，五天后扩展到更广泛的智能体服务。字节跳动的豆包在法规生效当日关闭。网易旗下 AI 伴侣应用妙时于 7 月 14 日完成关停。
6 月 26 日，上海市网信办宣布在法规生效前的清扫行动中已下架超过 14000 个违规 AI 智能体，目标包括冒充政府官员、涉赌以及生成不良图像的工具。 详细记录了各平台关停时间线。
但字节跳动旗下的独立 AI 伴侣应用猫箱（Maoxiang）活了下来。其隐私政策在 7 月 15 日更新，注册时引入身份和年龄验证，未成年人被限制在「青少年模式」。进入未成年模式后，可选角色仅剩四位：物理老师、作业助手、英语老师和古文讲师。未成年用户只能浏览内容，不能点赞、评论或分享。
Qian 的解释直指商业逻辑：「对 AI 伴侣不是核心业务的公司来说，直接砍掉功能比投入资源做合规改造更划算。但主营 AI 伴侣的公司更可能去适应新规则。」
字节跳动已在豆包内直接引导用户迁移至猫箱。千问用户则没有同等的迁移通道。阿里巴巴确认，智能体配置和对话历史将被永久删除。
「关掉AI男友，我也不会去现实里找」
自平台陆续下架情感 AI 功能以来，小红书上的哀悼帖就没有断过。有用户组织拨打企业热线、写信要求恢复服务。有人哀悼的是用已故亲人声音训练了两年的 AI，有人失去的是每天对话的虚拟恋人。
哈佛大学和帝国理工学院行为科学研究员 Yaoxi Shi 对 Rest of World 解释了一个关键机制：「AI 被训练来认同你。不管你说什么，它的回应总是'你说得对，你的感受是合理的'。这和现实中的人际关系完全不同。」她的研究发现，人们最初可能并非有意向 AI 寻求情感支持，但一旦感受到被认同，下次需要情感出口时就会再次转向 AI，逐渐远离真实的人际连接。
Su 的回应则直接撞上了监管焦虑的核心：「就算你关掉它，我也不会突然在现实生活中找到男朋友，或者去生孩子。」
全球第一部情感AI法，留下三道未答题
Shi 肯定了监管的方向：「有规则是好事，可以提升公众意识。」但她补充了一个更深的判断：「人们对 AI 产生情感依赖的趋势也许是不可逆的。我们回不到没有 AI 的时代了。」
Qian 看到了一个更大的监管转向：中国过去的 AI 监管主要针对模型输出，即能生成什么、如何标注。新规的不同之处在于，它承认 AI 交互本身就可以制造社会风险，监管重心从内容移向了人机关系。
但三道难题横在面前。
第一，执行边界模糊。「过度依赖」怎么定义？每两小时弹一次「你正在和 AI 对话」的提醒，对深度情感依附的用户能起多大作用？法规把大量判断权留给了企业自己。
第二，大平台一刀切关停后，用户会流向监管更松的小平台和海外应用。上海网信办扫掉了 1.4 万个违规智能体，但扫得完吗？如果用户只是换个地方继续，监管就从事前审查退回到了事后补救。
第三，也是 Shi 提出的那个无法回避的问题：AI 提供的情感支持满足的是真实的人类需求。关掉产品，只是把问题推回给了沉默的大多数。
这部法规是全球第一部专门针对 AI 情感交互的全国性规则。它画了一条此前无人画过的线。但这条线到底该画在哪里、怎么执行、能不能真正解决问题——连制定规则的人也未必有答案。