AREX Feed Article
明尼苏达AI"去衣"禁令顶住xAI挑战正式生效:单起罚50万美元,Grok州内受限、新增五起诉讼
8月1日,全美首部针对AI"一键去衣"(nudification)工具的州法——明尼苏达HF 1606——正式生效。此前一天,联邦地区法官Donovan Frank驳回了Elon Musk旗下AI公司xAI的紧急临时禁令(TRO)申请,理由是该公司在法案签署近三个月后才仓促起诉,"难以证明紧急损害"。xAI已随即在明尼苏达州内限制Grok Imagine的图像编辑功能。法律的核心争议——严格责任、无安全港条款、无主观故意要件——将在8月19日的初步禁令听证会上迎来首次实质性的合宪性审查。与此同时,8月4日又有五起针对Grok的新诉讼被曝光,原告包括一名英国议员、一个阿肯色州家庭及五名儿童。
法官以程序理由否决紧急禁令,法律如期上路
xAI于7月27日向明尼苏达联邦地区法院提起诉讼,主张HF 1606违反第一修正案;两天后申请紧急临时禁令。法官Donovan Frank在7月31日的裁定中未触及任何宪法争议,而是聚焦于时间因素:"xAI于2026年7月29日提出动议,距法律签署近三个月,距法律生效仅三天。如此拖延表明损害并非紧迫。"
明尼苏达州总检察长Keith Ellison在答辩中直指xAI的拖延是"自导自演的紧急状态",不应要求法院仓促应对。Frank法官接受了这一论点,但未直接驳回xAI的动议,而是将其转为初步禁令申请,并安排在8月19日上午9:30于圣保罗联邦法院举行听证。检方须在8月12日前提交反对意见,xAI的答辩截止日为8月17日。
xAI已在州内限制Grok Imagine功能,称每次违规50万美元的民事处罚使其"别无选择"。州长Tim Walz则在X上以一句"See you in court, creep"回应了xAI的诉讼。
HF 1606的独特设计:管制工具而非传播行为
HF 1606在明尼苏达州议会以众议院132比1、参议院65比0的压倒性票数通过,5月6日由州长Walz签署。其核心条款规定:任何拥有或控制网站、应用、软件或其他服务的主体,不得允许用户访问、下载或使用其工具对真实可识别个人的图像或视频进行"去衣"处理——即生成或修改图像以呈现原图中不存在的私密部位。
该法每起违规事件对平台运营者处以至少50万美元的民事罚款,授权受害者和总检察长均可起诉。
与大多数州仅将非自愿私密图像(NCII)的传播入罪不同,明尼苏达采取"上游"策略,直接管制生成工具本身。一张通过Grok或类似服务生成的去衣图像,一经产生即触发法律责任,无论是否被传播。这一设计源于立法者的判断:等到受害者发现并请求删除时,图像可能已经通过加密通讯、匿名账户或校园网络扩散,删除已无意义。
8月19日:真正的宪法考验
TRO被拒对xAI而言只是一次程序性失利,不意味着法律合宪。8月19日的初步禁令听证会将是法院首次实质审查HF 1606是否经受得起第一修正案的挑战。
xAI的核心论证有两条。其一,援引最高法院2015年Reed v. Town of Gilbert判例,主张HF 1606属于"基于内容的限制"——因为执法必须审查图像描绘了什么——因此须经受严格审查(strict scrutiny),即法律必须通过"限制性最小手段"实现政府目标。其二,法律的严格责任结构——无论平台政策、过滤机制或善意合规努力如何,每起事件均面临50万美元风险暴露——不符合"窄幅量身"(narrow tailoring)要求。xAI指出,现代AI图像编辑器使用同一扩散模型修复架构完成所有编辑任务,没有任何内容过滤器能对全部可能的用户提示实现零假阴性率。
xAI承认明尼苏达州在防止非自愿裸体图像方面的利益具有紧迫性。8月19日的争议将完全围绕手段的窄幅性:一部既无主观故意要件、也不为合规平台提供安全港的法律,是否是实现该目标的限制性最小手段。
值得注意的是,美国公民自由联盟(ACLU)明尼苏达分会和言论自由组织FIRE均对该法的宽泛表述表示担忧。FIRE立法顾问John Coleman指出,法律可能涵盖"良性的政治表情包",包括公众人物的修改图像,此类限制"理应被法院推翻"。
Grok的争议记录令xAI处境尴尬
xAI以宪法挑战者身份起诉,但Grok的被记录行为使其成为一个令人侧目的原告。
反数字仇恨中心(CCDH)研究显示,在2025年12月29日至2026年1月8日——即Musk在X上公开推广Grok图像编辑功能后的11天内——Grok生成了约300万张性化图像,其中约2.3万张疑似描绘儿童。此后,该公司并未关闭该功能,而是将露骨图像生成限制为付费订阅用户,并将"Spicy Mode"作为高级权益营销。据NBC News 4月报道,尽管1月已引入限制,Grok截至4月仍在生成真人色情图像。
xAI方面则表示,2026年已暂停逾5.2万个账户并向国家失踪与受虐儿童中心(NCMEC)提交逾7.3万份报告。但修正后的集体诉讼指控NCMEC认定其中90%的CyberTipline报告因xAI拒绝提供用户识别信息而无法供执法部门使用。
SpaceX——在2026年2月合并后成为xAI母公司——已在IPO文件中为Grok相关诉讼拨备超过5.3亿美元的潜在损失。
同周新增五起诉讼,Archewell高调介入
在HF 1606生效的同一周,三起新的法律行动被提起或升级:
- 英国议员Jess Asato(工党,代表Lowestoft)于6月3日向英国高等法院起诉xAI,指控Grok被用于制作其非自愿深度伪造图像,包括描绘其遭受性侵犯的内容。诉求援引英国数据保护法和隐私侵权,前首相Starmer在下议院表示"百分之百支持"。
- 阿肯色州家庭(化名John和Jane Roe)于7月23日在Little Rock提起联邦CSAM诉讼,指控一名面临200余项刑事指控的摄影师使用Grok将该家庭10岁女儿的合法照片生成儿童性虐待材料。诉状称xAI将生成真人色情内容做成了"功能而非漏洞"。
- 五名儿童集体诉讼:原由三名田纳西州未成年人提起的集体诉讼已扩展为五名跨州原告,并将Stability AI增列为被告。其中一案涉及一名怀俄明州男子设备中存有约7,000张使用Grok生成的继女AI图像和视频。
8月2日,哈里王子与梅根通过其慈善组织Archewell Philanthropies发表声明,题为"我们能否一致同意技术不应使掠夺者得以针对儿童?",赞扬明尼苏达法律为"数字时代的领导力典范",并直接点名"负责X's Grok的万亿级科技公司领导者"起诉明尼苏达以阻止法律生效。声明援引联合国妇女署研究,指出90%至95%的在线深度伪造为非自愿色情图像,约90%以女性为对象。
前景:一个可能被多州复制的立法样板
HF 1606的"管制工具而非传播行为"模式在州级立法层面尚无先例。若8月19日法院认为该法经受得住宪法审查,其他州议会可能迅速复制这一框架。反之,若xAI在窄幅量身论证上获胜,明尼苏达的模式将面临重大改写。无论结果如何,该案正在成为生成式AI输出监管的分水岭。