AREX Feed Article
OpenAI 公开表态支持美国国会三项生物安全法案与 FRONTIER Act 独立评估条款
9 月 15 日,OpenAI 通过发言人确认,公司支持美国国会正在审议的三项跨党派法案:Web of Biological Data Act、AI-Ready Bio-Data Standards Act 与 SCALE Biology Act。据报道,公司称这些法案有助于阻止 AI 模型加速生物武器与合成病毒带来的威胁。路透社同时说明,这三项背书此前由 报道,后者称 OpenAI 是向其独家披露的。路透社的也发布了这条报道。
同一天,OpenAI 首席全球事务官 Chris Lehane 对记者表示,公司还支持 FRONTIER Act 中的一条关键条款,即要求领先的 AI 公司引入独立评估者来评估自家模型的安全性()。被支持的法案目前都还在立法程序中。
三项法案:一份数据入口、一套标准、一个测量项目
Web of Biological Data Act 要求能源部长建立「生物数据网络」(Web of Biological Data,WOBD)。按国家新兴生物技术安全委员会(National Security Commission on Emerging Biotechnology,NSCEB)的,该网络由一所选定的能源部国家实验室执行,目标是给美国研究人员一个安全访问高质量、AI-ready 生物数据集的单一入口:一年内先启动聚焦特定生物数据子类型的试点,同步建立网络安全保障并推进数据管理相关研发;五年内扩展为具备互操作框架、质量标准、易用界面和成熟网络安全要求的完整入口。法案由参议员 Todd Young(印第安纳州共和党)、Alex Padilla(加州民主党)、Mike Rounds(南达科他州共和党)、Andy Kim(新泽西州民主党)与众议员 Jake Auchincloss(马萨诸塞州民主党)、Matt Van Epps(田纳西州共和党)于 6 月 11 日提出。众议院版本 H.R.9307 由 Van Epps 领衔,据 ,提交当天即转交众议院科学、空间与技术委员会。
AI-Ready Bio-Data Standards Act 把工作交给美国国家标准与技术研究院(NIST)。按 NSCEB 的,法案指示 NIST 主任推动制定标准与框架,让生物数据可用于 AI 模型,并对符合条件、接受联邦资助的研究设下最低要求,确保研究产出的生物数据达到「AI-ready」。众议院版本 H.R.7907 由众议员 Ro Khanna(加州民主党)于 3 月 12 日提出,参议院有对应版本 S.4069。
SCALE Biology Act 的正式名称是 Standards and Calibration for American Leadership in Engineering Biology Act。众议院科学、空间与技术委员会的说,法案要在 NIST 设立一个生物计量(biometrology)项目,推进工程生物学、生物制造与生物技术领域的测量科学、技术标准和研究,并推动生物技术以安全、可靠、负责任的方式发展。据 ,H.R.8981 由众议员 April McClain Delaney(马里兰州民主党)于 5 月 21 日提出,7 月 21 日被委员会以口头表决通过修正后的替代文本。
三项法案处理的对象各不相同:一份给研究人员的生物数据入口、一套让生物数据能被 AI 模型使用的标准,以及一个面向工程生物学与生物制造的测量科学项目。
OpenAI 的理由:先能测量,才能判断
Politico 的报道指出,OpenAI 背书的这批法案里有两项会扩大 NIST 在 AI 与生物安全相关事务上的职责范围,具体是 AI-Ready Bio-Data Standards Act 与 SCALE Biology Act。
OpenAI 国家安全风险缓解负责人 Richard Johnson 对 Politico 解释,公司对这套立法的支持与它在 AI 网络安全上的思路一致:「我们需要同时担心安全侧和风险侧,但我们也需要着眼于把工具交到防御者手里。」
Johnson 说,法案涉及的数据和标准,是开发更好评估方法的前提,用来判断越来越强大的模型会如何影响生物安全:「我们必须能够持续测量能力和风险,然后能够把我们所处的阶段与行业内其他正在发生的事情进行比较。」他也给出了速度上的限定:「我们需要确保理解这些能力是什么,并确保我们不会走得太快,快到超出我们理解这些东西可能被如何使用、可能做什么的能力。」
被单独挑出来的条款:把独立评估机构嵌进前沿公司
FRONTIER Act 的完整名称是 Frontier Risk Oversight, National Transparency, Independent Evaluation, and Reporting Act。据 ,H.R.9925 由众议员 Jay Obernolte(加州共和党)于 7 月 23 日提出,共同提案人包括 Lori Trahan(马萨诸塞州民主党),当天转交众议院能源与商业委员会以及科学、空间与技术委员会。
OpenAI 支持的那条条款,针对法案定义的「超大型前沿开发者」:与关联公司合计,在前 36 个月内营收超过 50 亿美元、AI 相关研发支出不少于 100 亿美元的公司。这类公司须接受由商务部许可的「独立验证机构」(independent verification organization,IVO)评估,审查其前沿 AI 框架、治理与风险监测、以及风险缓解是否达到「可接受的灾难性风险缓解水平」;IVO 要向商务部证明自己独立于 AI 行业,评估方案也要满足相应要求。法案把「前沿模型」定义为训练算力超过 10 的 26 次方次整数或浮点运算的基础模型。按 Congress.gov 的记录,这份法案自 7 月 23 日提交后,最新动作就是转交上述两个委员会。
9 月 9 日那份政策文章:一周前刚推过一轮
这三项背书接在 OpenAI 更早的一轮政策动作之后。9 月 9 日,Lehane 在撰文称,公司希望与国会合作制定「强制性、基于能力的全国 AI 安全监管」,并宣布支持四部已通过加州州议会、正送交州长的法案,其中包括针对 AI 生物威胁的 AB 1864,这项法案要求基因合成供应商与台式合成设备制造商遵守联邦筛查标准。文章还写明,如果无法在不放慢能力增长的情况下达到某些安全门槛,应当优先保证安全。
图:REUTERS,经 刊载
路透社在 9 月 15 日的报道里也提到,美国顶级 AI 实验室的负责人(包括 OpenAI)已在呼吁放缓先进 AI 的发展节奏,而 OpenAI 上周刚刚表示正在推动强制性的全国 AI 安全要求。
Politico 的报道还给出两条风险一侧的背景:斯坦福大学与 Arc Institute 的研究人员此前展示,能借助 AI 设计出 16 种全新病毒;Anthropic 上周披露,今年发现 5 起外国行为者违规使用其模型从事危险病原体研究的案例,这类研究可能支持生物武器开发。Politico 还提到,OpenAI 此前已背书 Biosecurity Modernization and Innovation Act 与 Homestake AI Act 两项相关法案。
国会里的另一种主张:直接禁止灾难性用途
支持这几项法案的不只 OpenAI。国会设立的国家新兴生物技术安全委员会也在支持之列,其执行主任 Caitlin Frazer 说:「高质量、AI-ready 的生物数据必须被当作战略性国家资源。」
但这些法案管的是数据、标准与测量,FRONTIER Act 的那条条款管的是第三方评估。得克萨斯州民主党众议员 Greg Casar 在 9 月 10 日、即 Anthropic 报告发布当天写道:「现在,我们只能指望 AI 公司自愿阻止大规模杀伤性武器。自愿的。」他主张「国会必须做显而易见的事:禁止制造生物或核武器这类灾难性 AI 用途」,并与参议员 Bernie Sanders 提出了一项立法提案:永久禁止开发「超级智能」AI,并在联邦监管机构到位前暂停先进 AI 的开发(据 报道)。Casar 这段话发表于 Anthropic 报告发布的当天,早于 OpenAI 9 月 15 日的背书。
立法状态:四项法案都还没通过众议院
据 Congress.gov 的记录,截至 9 月 16 日,H.R.9307、H.R.8981 与 FRONTIER Act 的立法状态都标为「已提出」(Introduced),记录中的下一步都是「通过众议院」;AI-Ready Bio-Data Standards Act 的众议院版本 H.R.7907 自 3 月 12 日提出后也停在「已提出」()。Politico 称,Web of Biological Data Act 与 AI-Ready Bio-Data Standards Act 此前已在参众两院分别提出,SCALE Biology Act 只在众议院提出。
OpenAI 在 9 月 9 日的政策文章里给出的时间要求是「国会应当在休会前采取行动」。一周后,这几项法案没有一项通过众议院。