化名 Jane Doe 起诉 xAI：Grok 被指用其受虐影像生成儿童色情

一名童年遭男子反复性侵、施暴者把施暴过程的照片和视频发到网上的女性，本周以化名「Jane Doe」在加州圣何塞联邦地区法院对埃隆·马斯克的 AI 公司 xAI 提起拟议集体诉讼。据美联社 8 月 28 日，起诉书称，xAI 让她的受虐影像出现在 X 平台上，其聊天机器人 Grok 又基于这些影像生成了更多儿童性虐待材料（child sexual abuse material，CSAM），这一模式波及包括她在内的数千名受害者。

原告要求未指明金额的赔偿，并申请法院命令，禁止 xAI 生成、持有或分享展示她或其他据称受害者形象的儿童色情内容。案件由法官 Nathanael Cousins 承办；起诉书中的指控均为原告单方主张，未经法庭证实，xAI 截至报道发出时未回应置评请求。

起诉书指控 xAI「从掠食者的欲望中获利」

起诉书写道，xAI 为给 X 和 Grok 增加用户，把聊天机器人设计成「会响应用户提示，用可识别人物的真实图像或视频创作和传播性内容」（"to respond to prompts to create and distribute sexual content using an identifiable person's real image or video"）。

诉状称，「xAI 及其创始人 Elon Musk 选择从掠食者对真实人物（包括儿童）非自愿性图像和视频的欲望中获利」（"chose to capitalize and profit from predators' appetite for non-consensual sexual images and videos of real people, including children"）。起诉书还称，在 Musk 转发一张 AI 生成的穿比基尼的烤面包机图后，Grok 生成了一波非自愿性化内容，「这一时期 Grok 生成的许多图像都是儿童的性化图像」。

学前班起就在网上流传的受虐影像

诉状称，Doe 还在上学前班时，施暴者就开始在网上发布她被性虐待的影像，这些照片和视频此后一直在互联网上流传。原告只被描述为住在加州以外。

起诉书称，警方在 X 上发现了 Doe 的儿童性虐待影像，加拿大儿童保护中心（Canadian Centre for Child Protection）也在该平台上发现了描绘她的 AI 生成儿童色情内容。「xAI 使用 Grok 生成了描绘（Doe）以及以她为受害者的儿童色情系列的图像。」诉状称，Grok 据称生成的这些图像，「加剧了」Doe 因自身儿童色情内容流传而承受的伤害。

图像编辑上线 11 天，Grok 生成 300 万张性化图像

Grok 内嵌于 X，也提供独立 App。xAI 去年 12 月为聊天机器人加入图像编辑功能后，在全球引发愤怒。英国组织 Center for Countering Digital Hate（CCDH）报告称，功能上线后的 11 天里，Grok 生成了 300 万张性化图像；用户用该功能给真实女性的照片「脱衣」，还波及超过 2 万名疑似儿童，许多人被处理成性姿势。

Musk 对众怒的回应，是转发一张 AI 生成的穿比基尼的烤面包机图，说自己「忍不住笑」。起诉书称，这次转发「引发了一波 Grok 生成的非自愿性化内容」。

条款写着禁止，诉讼仍接连不断

Doe 的案子不是 xAI 在圣何塞联邦法院面对的唯一一起。这家总部位于帕洛阿尔托的公司今年 2 月已作为子公司并入马斯克的火箭公司 SpaceX。同一法庭里，三名女性和一名男性声称 Grok 制作了他们的性化「深度伪造」（deepfake）图像，也在争取集体诉讼地位；今年 7 月，法官 Casey Pitts 驳回了 xAI 要求公开这四名原告身份的动议。

xAI 同时在以原告身份打官司。今年 7 月，它挑战明尼苏达州禁止「数字脱衣」应用和网站的法律，称该法过于宽泛、不公平地惩罚公司，并表示其服务条款和使用政策禁止用 Grok 给人脱衣或进行性化描绘。今年早些时候，一名德州男子因涉嫌性剥削未成年人被捕后，xAI 起诉了他，称他用 Grok 制作了儿童性虐待材料。

她的诉请：未定金额的赔偿加一道禁令

Doe 要求的救济包括未指明金额的赔偿，以及一道法院命令：禁止 xAI 生成、持有或分享展示她或其他据称受害者形象的儿童色情内容。她为案件申请集体诉讼地位，起诉书称，Grok 基于她和其他数千名儿童性虐待受害者的影像生成了儿童色情内容。

起诉书本周才提交至圣何塞联邦地区法院，指控均尚未经过法庭证实。