AREX Feed Article
17 岁少女起诉 xAI：Grok 被指生成并传播“数百乃至数千张”她的未成年性虐待图像
一名化名 Jane Doe 4 的 17 岁少女本周三（8 月 26 日）在阿肯色西区联邦法院起诉 xAI，诉讼由她的法定监护人家长 Jane Roe 代为提起。起诉书指控 xAI 的 AI 工具 Grok 生成并传播她的未成年性虐待图像和视频，称这类图像“数百乃至数千张”，并提及 Grok 的“spicy mode”功能。原告的诉求包括赔偿、永久删除全部相关图像，以及由法院强制 xAI 安装技术防护。
这是《阿肯色民主党人公报》（Arkansas Democrat-Gazette）8 月 26 日的新立案案件。报道呈现的全部是起诉书中的指控：案件周三才立案，尚未经过法院审理。
（图片来源：《阿肯色民主党人公报》）
6 月警方上门：Grok 正在用她的照片生成图像
据起诉书，今年 6 月，当地警方联系了 Jane Roe，告知她 Grok 正在用她女儿的照片生成并传播图像和视频。起诉书写道：
“根据信息和确信，被告的 Grok 生成并传播了数百乃至数千张原告 Jane Doe 的 CSAM（儿童性虐待材料）图像和视频，展示了 Jane Doe 17 岁的整个身体，赤裸，包括生殖器，不穿任何衣服。Grok 的图像和视频描绘了 17 岁的 Jane Doe 进行各种性行为，并展示她脱衣直到完全赤裸。”
起诉书把这名阿肯色少女描述为“一个热爱时尚和古董的女孩，她是个好学生，担任学生干部，有艺术天赋。和许多同龄女孩一样，她害羞，对所处世界的严酷现实一无所知”。
针对“图像只是合成”的可能辩解，起诉书给出了自己的论证：“对儿童未经授权的性化，侵犯了儿童的尊严、自主、隐私、情感健康以及控制自己身份的基本权利。”“伤害的来源不会减轻伤害。无论是人工智能生成的，还是相机拍摄的，受害者承受的伤害是一样的。”起诉书称，这些图像虽是合成，但对女孩和她的家庭造成的伤害“真实、深刻而持久”。
“spicy mode”让生成像点击按钮一样简单
起诉书称，X 用户可以要求 Grok 生成图像，包括深度伪造和儿童性虐待图像，素材取自公开可得的图像；程序内含“spicy mode”，指示 Grok 生成挑逗性或露骨色情图像。
用户可以把女性和儿童的无害照片改造成挑逗、露骨色情场景。原告认为 Grok“值得特别注意”，因为有证据表明它既推广、又便利了这类图像的生成和传播，“一切都简单到只需点击一下按钮”。
起诉书把责任归结为商业选择，而非技术故障：本案“无关无法预见的技术故障，而是 xAI 将一套本可合理预见会被用于制造儿童性虐待材料的系统商业化的公司选择”。原告称，xAI 更早就收到过 Grok 可能被滥用于制作儿童性虐待材料的警告，但没有采取行动。
Grok 是 xAI 开发的 AI 工具，报道称 xAI 归埃隆·马斯克所有。
（图片来源：Mashable）
赔偿之外：没收利润与永久删除令
原告的诉求分三类。金钱方面，要求补偿性、实际和惩罚性赔偿，数额交由庭审决定；同时要求返还不当得利，没收所有可归因于未经授权使用 Jane Doe 肖像的收入和利润。
内容处置方面，原告申请永久禁令：要求 xAI 移除并永久删除其掌握的所有非法描绘副本，并以商业上合理的努力，从所有收到过这些内容的下游平台清除。
技术层面，原告要求法院命令 xAI 实施合理的技术防护措施，足以防止生成可识别真人的非自愿色情描绘，包括未成年人；未经女孩书面同意，不得再使用她的姓名、形象或肖像。
同类诉讼已在多地立案，指控彼此镜像
《阿肯色民主党人公报》的报道称，类似的诉讼已在阿肯色西区联邦法院、阿肯色东区联邦法院、本顿县巡回法院以及全国其他地方向 xAI 提起，“在所有案件中，诉讼请求彼此镜像”。
更早的一宗是集体诉讼：今年 3 月，三名田纳西青少年在联邦法院起诉 xAI，指控其 AI 工具被用于将他们儿童时期的照片性化；据 8 月 17 日报道，7 月该诉讼新增两名原告，并把 Stability AI 列为第二被告。
据《华盛顿邮报》8 月 19 日的报道（ 转载），扩大后的诉讼在加州北区联邦法院提起，寻求集体诉讼地位，原告依据允许儿童色情受害者起诉的联邦法律《Masha's Law》索赔，并提出产品责任主张。截至报道时，xAI 未回应《华盛顿邮报》的置评请求，也未在法庭上对那宗集体诉讼作出答辩。
xAI 一方的公开口径来自马斯克：他曾表示 Grok 本应允许“虚构成年人的上半身裸露”，也说过“不知道 Grok 生成过任何未成年人裸体图像”，机器人会“拒绝制作任何非法内容”。反数字仇恨中心（CCDH）的数据则显示，在一段 11 天的时间里，X 上的 Grok 官方账号发布了约 300 万张性化图像，其中 2.3 万张描绘儿童。
永久删除令覆盖不到的图像
对已经流向下游平台的图像，起诉书提出的要求是 xAI 以“商业上合理的努力”清除；xAI 自己掌握的副本，则须移除并永久删除。
起诉书写道，女孩将终生带着这样的认知和恐惧生活：这些伪造的图像和视频可能继续存在，被复制、篡改、传播、出售，被无数人观看。