AREX Feed Article
Grok 涉儿童性虐待材料诉讼扩大：原告增至五人，Stability AI 成第二被告
针对马斯克旗下 SpaceXAI（原 xAI）聊天机器人 Grok 的联邦集体诉讼再度扩大。据 ，上月又有两名原告加入，原告总数从三人增至五人；被告名单新增 Stability AI，即流行文生图模型 Stable Diffusion 的开发商。SpaceXAI 称将在联邦法院为 Grok 辩护。
诉讼的核心指控是：恶意使用者利用 Grok 的图像生成功能，制作了数百万张涉及未成年人的露骨图片，其中也包括原告本人儿时的形象。新增原告之一在案卷中被称为 Jane Doe 4，据警方记录，施害者用她的一张童年照片通过 Grok 生成了超过 7000 张露骨图片和视频；马斯克旗下社交平台 X 就她的案件仅向国家失踪与被剥削儿童中心（NCMEC）提交过一条举报，在执法部门要求补充信息时未提供。以上均为原告指控，法院尚未作出裁判。
图为 Grok 应用界面（Mashable 报道配图，SOPA Images / Contributor）
一张童年照片，7000 余张露骨图片
案件始于今年 3 月。3 月 16 日，三名田纳西州青少年在加州北区联邦地区法院（圣何塞）提起集体诉讼，由原告律所 。LCHB 的新闻稿称，诉状指控 xAI 故意设计、营销并利用 Grok 的图像与视频生成功能牟利，该功能能够依据真人照片生成露骨内容；施害者（案发后已被捕）把女孩们的真实照片制作成 AI 生成的儿童性虐待材料（CSAM），并在 Discord、Telegram 和文件分享平台 Mega 上传播和交易。报道，原告寻求集体诉讼资格，覆盖全美所有在 Grok 生成的色情化图片或视频中"可合理识别"的真人。
上月，两名新原告加入案件，其中一位即 Jane Doe 4。Mashable 引述她的话说："对这些工具的无限制访问扩散得太快，它正在把日常生活变成儿童性虐待。"（"It is taking everyday life and turning it into child sexual abuse."）报道，修订后的诉状现以五名匿名未成年原告的名义提交，其中三人来自田纳西州。
Mashable 同时披露了案件背后的举报体系数据：美国法律要求公司向 NCMEC 报告疑似儿童性剥削案件。2025 年，Meta、Amazon AI Services、TikTok、Snapchat、Discord、X.AI、Grindr 和 Roblox 合计提交了 1700 万条举报，占当年全部举报的 80%。NCMEC 表示，其中许多举报缺少关键信息，包括 AI 训练数据中是否含有 CSAM、以及有助于执法部门定位嫌疑人的细节。而针对 Jane Doe 4 的案件，X 平台只提交过一条举报。
Stability AI 声明：CSAM 被明确禁止
修订诉状把 Stability AI 列为第二被告。据 Fox17 报道，诉状指控 xAI 与 Stability AI 提供了促成这些图片生成的 AI 工具，且未实施本可阻止滥用的防护措施。两家公司均否认指控，案件仍在审理中。
Stability AI 发言人向 Fox17 提供的声明称，公司致力于防止 AI 技术被滥用，CSAM 在其可接受使用政策中"被明确禁止"；自 2022 年底接管 Stable Diffusion 系列模型的独家开发以来，已实施多项安全防护，并定期与美国及国际执法部门以及 Thorn、Tech Coalition 等组织合作。
诉状如何描述 Grok 的盈利模式
LCHB 的新闻稿称，诉状指 xAI 在马斯克主导下故意把 Grok 设计成能够生成露骨内容的产品：以 "Spicy Mode" 作为营销卖点吸引用户，并在系统提示中预设，用户提及 "teenage"（青少年）或 "girl"（女孩）时模型默认其"意图良好"。
诉状还称，马斯克本人曾在 X 上推广 Grok 的"脱衣"功能，带动用户用其数字化脱去真实女性和儿童衣物的风潮。
反数字仇恨中心（Center for Countering Digital Hate，CCDH）的研究人员估计，2025 年 12 月底至 2026 年 1 月初的 11 天里，Grok 生成了约 300 万张色情化图片，其中约 2.3 万张描绘疑似儿童。LCHB 称，事件曝光后 xAI 没有关停该功能，而是把图像生成限制为付费订阅用户，并把 Spicy Mode 作为付费权益继续宣传。
第三方授权是另一条指控线索。报道，原始诉状称，施害者使用的并非 Grok 或 X 平台本身，而是一款调用 xAI 算法的未具名应用；诉状指 xAI 刻意将技术授权给应用开发者，借此"把他们极其危险工具的赔偿责任外包出去"。LCHB 新闻稿亦称，xAI 将 Grok 模型授权给第三方应用，用自家服务器和平台为这些应用的客户生成内容，构成又一利润来源。
新增指控：性交易获益与公共妨害
Mashable 报道，除 CSAM 相关指控外，原告还主张 SpaceXAI（原 xAI）通过 Grok 的 AI 功能从性交易中获益，并因"过失"与"缺陷产品设计"构成公共妨害。
诉讼的法律依据包括 Masha's Law、人口贩运受害者保护法（TVPA）与加州法律；Fox17 报道，原告还援引田纳西州 2025 年通过的立法，该法针对用于生成 AI 儿童性虐待材料的技术设立了刑事处罚。NewsChannel9 报道，诉状称 Grok 既然能够生成成人露骨内容，就同样有能力生成儿童性虐待材料；诉讼还称拥有 Grok 的马斯克知晓其能力。
原告请求损害赔偿、惩罚性赔偿与禁令救济。LCHB 称，符合集体定义的受害者包括数千名未成年人。
SpaceXAI 将出庭为 Grok 辩护
Mashable 报道，SpaceXAI 将在联邦法院为 Grok 辩护。针对 Grok 图像功能引发的批评，X 官方账号此前发布过一份声明：对儿童性剥削、未经同意的裸露和不受欢迎的性内容"零容忍"；已采取技术措施，防止 Grok 账号编辑真实人物穿着暴露（如比基尼）的图片；Grok 在 X 上的图片创建与编辑功能已改为全球仅对付费订阅用户开放；在相关内容非法的司法辖区，将实施地理封锁。
原告律师的表述更直接。LCHB 合伙人 Annika Martin 告诉 NPR，Grok 是"社会的祸害"（a scourge on society）。LCHB 纳什维尔办公室管理合伙人 Mark Chalos 对 Fox17 说："不幸的现实是，这是一个普遍存在的问题。这些公司知道这一点，而且已经知道很久了。"
案件待审，受害者的通知将伴其一生
NPR 报道，这是 xAI 首次因模型涉嫌生成的 CSAM 而被未成年受害者起诉。案件尚未经法院裁判。
三名原始原告的 CSAM 文件已经录入 NCMEC 管理的国家数据库。此后余生，每当这些图片在刑事案件中被识别，她们都会收到一次通知。