AREX Feed Article
儿童性虐待幸存者起诉 xAI：Grok 被指用她的受虐照片生成新图像
据 9 月 3 日报道，一名儿童性虐待幸存者已在加州的一家美国联邦地区法院对 xAI 提起集体诉讼，指控其聊天机器人 Grok 使用她真实的受虐照片，生成了新的非法色情图像。原告为保护身份在案中以化名 Jane Doe 出现，诉状于上周提交。
诉状写道：「利用原告及集体成员的真实图像，Grok 生成了描绘原告及集体成员的儿童色情图像。」原告律师称，加拿大儿童保护中心（Canadian Centre for Child Protection）通过图像哈希在 X（前 Twitter）平台上识别出描绘原告的 AI 生成儿童性虐待材料（CSAM，Child Sexual Abuse Material）；按诉状表述，集体范围可能涵盖「至少数千名未成年人」。
图为手机屏幕上的 Grok 与 ChatGPT 应用图标。图片来源：Samuel Boivin / NurPhoto via Getty（The Guardian 报道配图）。
流传约 20 年的图像系列，让受害者可以被指认
本案区别于 xAI 此前面对的多起 CSAM 诉讼：先前如一群田纳西州青少年提起的案件，指控 Grok 拿未成年人的非露骨照片生成性虐待材料，最常见的方式是移除衣物；本案则指控公司 AI 利用先前已存在的 CSAM，生产和传播新的 AI 生成图像。
区别的关键在哈希机制。执法部门和儿童保护组织经常给非法材料制作数字指纹（hash），以便图像再次出现在网上时能被追踪。原告律师称，加拿大儿童保护中心正是用图像指纹，在 X 上识别出描绘其当事人的 AI 生成 CSAM。该机构拒绝对本案置评。
据诉状，Jane Doe 在学龄前便遭到一名成年男子反复强奸，并被胁迫拍成性虐待材料；律师称这批图像已在网上流传约 20 年，执法机关和儿童保护组织对它们非常熟悉。原告代理律师 Margaret Mabie 说：「许多 AI 生成材料案件的难点，在于你无法证明图像里的孩子是真实的。但这起案件能与那套系列图像关联起来，我们知道这是一个可以指认的受害者——她还活着，照片里是一个真实的孩子。」
诉状的三项指控：生成、扩散、并入数据集
指控集中在图像的三段去向上。其一，Grok 用原告及集体成员的真实图像生成新的 CSAM；其二，xAI 忽视业界通行的 CSAM 防护手段，导致 AI 生成的儿童性虐待材料在 X 上出现并扩散；其三，在这些新图像被公开贴出后，公司又把描绘原告的虐待图像并入自己的数据集。
宽松护栏的窗口期，留下一串诉讼
The Guardian 报道称，xAI 眼下面对的多起诉讼，大多源自今年年初的一段时期：当时 Grok 的安全护栏宽松，用户可以指挥它移除照片中的衣物，在 X 上按指令生成性化图像。马斯克 1 月曾表示，Grok 的 NSFW 模式（Not Safe For Work，成人内容）本意是允许生成「虚构成年人类的上半身裸体」，并否认自己知道 Grok 产出过「任何裸体的未成年图像」。反数字仇恨中心（Center for Countering Digital Hate）的研究人员当时统计，Grok 在数周内生成了数百万张性化图像，其中数千张描绘儿童。
刑事层面 xAI 也在行动。8 月底，xAI 起诉了两名自家用户，二人正因被指控用 Grok 生成这类图像而面临刑事指控；xAI 要求他们支付受害者对 xAI 提起的诉讼所产生的费用。
xAI 的母公司 SpaceX 于今年 2 月完成对 xAI 的收购。SpaceX 今年早些时候完成首次公开募股（IPO），估值约 1.7 万亿美元。
「过去 20 年图像是有限的」：律师描述的新恐惧
律师们称，用 AI 制造 CSAM 给受害者的安全和心理健康带来新的威胁：每出现一张新的 AI 生成图像，受害者就被再创伤一次。Mabie 说：「至少对我们的当事人而言，过去 20 年里她的图像总量是有限的。现在的恐惧是，新的犯罪行为、新的侵害方式、关于能对她做什么的新想法，都可以借 AI 生成。他们可以生成新的虐待。」
截至报道发布，xAI 与 SpaceX 均未回应 The Guardian 的置评请求。诉讼停留在指控阶段，诉状中的所有主张都还没有获得法院认定。