AREX Feed Article
Anthropic 支持马萨诸塞州 AI 安全条款,OpenAI 与 Google 反对
马萨诸塞州参议院通过的一份经济发展法案里,夹着一条让美国头部 AI 公司公开分裂的条款:大型 AI 开发商必须每四个月聘请独立评估机构,对自家模型做一次灾难性风险(catastrophic-risk)评估。 9 月 3 日报道称,Anthropic 在这一条款上与 OpenAI、Google 分道扬镳。
显示,法案于 7 月 23 日经两天辩论通过。次日,Anthropic 美国州与地方政府关系主管 Cesar Fernandez 在 ,称参议院通过了「全美最清晰、最强有力的 AI 安全立法」,条款「在提高 AI 安全标准的同时,确保创新能够继续」。 9 月 3 日引述 The Information 报道称,OpenAI 与 Google 反对该条款。
四个月一次独立评估,写进 5.754 亿美元经济法案
这是一份经济发展债券法案(economic development bond bill),授权金额 5.754 亿美元。AI 安全只是其中一部分:法案同时为 AI 的研发与应用拨款 7,500 万美元,还装进了自动两户住宅分区、禁止加密货币诈骗柜员机等条款。
法案约束的对象是「大型 AI 开发商,即所谓大型前沿开发者(large frontier developers)」。他们必须建立风险框架,防止模型因关键安全事故酿成灾难,总检察长办公室(AGO)有权对违规者提起民事诉讼。把外部监督固定下来的,是辩论期间加入的第 471 号修正案「前沿 AI 风险报告与独立核验」:公司须接受独立第三方安全审计,并每四个月接受一轮深度独立安全测试,识别残余灾难性风险。
换句话说,模型安不安全不再由开发商单方面声明,评估权交给了独立第三方。参议院经济事务与新兴技术联席委员会主席 Barry R. Finegold(民主党,Andover)在新闻稿中这样解释立法意图:AI 已经来了,而且发展得很快,法案要建立常识性护栏与透明框架约束 AI 公司,「在促进创新的同时,确保灾难性风险永远不会发生」。
OpenAI 提议年审,Anthropic 详解法案机制
Fernandez 的支持不止于一句称赞。他在里拆解了法案机制:对强 AI 模型做独立评估,对安全计划做第三方审计,每半年发布一次公开风险报告,为开发最强 AI 的公司——包括 Anthropic 自己——带来透明与问责。PYMNTS 还提到,Anthropic 此前支持过其他州的 AI 安全立法。
OpenAI 的态度相反。据 PYMNTS 引述的报道,OpenAI 政策高管上个月(8 月)致函州议员,认为马萨诸塞应考虑参照伊利诺伊州法案的做法,改为一年一次、由第三方执行的安全审计;信中还写道,全美范围内「碎片化的监管」将带来「不愉快的结局」。Google 同样表示反对。
与 Anthropic 一起表态支持的,还有 AI 安全组织 Encode 与 Secure AI Project。Secure AI Project 政策主管 Scott Wisor 告诉 The Information,该组织最近已向协商委员会(conference committee)成员发出一封支持信。
国会否决十年暂停令,州级立法窗口打开
一条州级条款牵动三家头部公司,背景是联邦立法的放缓。PYMNTS 在报道中回顾:2025 年,国会否决了一项暂停州 AI 立法 10 年的提案,原因是州长、州检察长与州议员反对;此后试图把优先立法权(preemption)条款塞进国防立法的努力也告失败。联邦出不了台,各州开始各自行动:罗德岛 6 月颁布了聊天机器人护栏,加州在推进涉及审计、聊天机器人与隐私的措施,犹他州与南卡罗来纳州则重提儿童上网安全立法。
The Information 的报道判断,马萨诸塞的提案可能为全美 AI 监管确立一个新标准。报道还提到,立法推进之际,对失控 AI agent(智能体)的担忧正在上升,此前 OpenAI 的 agent 曾攻击 AI 平台 Hugging Face。
立法走到协商委员会,焦点是评估频率
参议院版本只是立法的一站。按马萨诸塞州的程序,参众两院文本存在差异时,法案进入协商委员会阶段,由两院议员协调出一份最终文本,再交回两院表决。
两边的分歧具体可数:参议院版本的四个月一轮,意味着一年约三次独立评估;OpenAI 信中建议的伊利诺伊式年审,一年一次。四个月这个数字能不能写进最终文本,取决于协商委员会的定稿。