AREX Feed Article
OpenAI 出资 500 万美元,支持监督机构审查政府 AI
OpenAI 于 8 月 18 日发布公告,宣布发起一项新倡议,帮助民主监督机构(democratic oversight bodies)建立理解与监督政府国家安全 AI 应用所需的能力和工具。按照口径,OpenAI 将在未来一年提供 500 万美元的培训、技术支持与 OpenAI 积分,并与监督机构试点可审计的 AI 辅助决策记录工具。
公告同时划出一条边界:OpenAI 不承担对政府的监督角色,也不应该承担("OpenAI does not perform an oversight role over the government, nor should it"),监督责任属于民选官员和为此设立的公共机构。这家公司一边向国家安全场景部署 AI,一边出资帮助审查这类部署的机构,公告用这句话回应了其中的角色问题。
500 万美元怎么花:培训、技术支援与积分
公告把未来一年的工作列成四件事。与经授权的官员(authorized officials)合作,找出 AI 工具或技术支持能让监督更有效的实际场景;向民主政府的监督机构提供 500 万美元的培训、技术支持与 OpenAI 积分,支持它们负责任地采用和评估 AI 工具;与监督机构试点审查 AI 辅助决策记录的工具;与公民社会和专家接触,让他们的视角进入 OpenAI 开发工具的方式和随之而来的责任。
公告没有披露 500 万美元在培训、技术支持与积分之间的分配比例,也没有点名任何将获得支持的监督机构。四项承诺均为计划时态,没有给出具体机构名单或执行时间表。
试点工具盯住输入、输出与工具使用
第三项是这次倡议里最有技术含量的一块。公告称,将与监督机构试点工具,帮助经授权的审查者检查 AI 辅助政府决策周围的记录,包括相关输入、输出与工具使用,以理解 AI 如何影响了结果。工具在可行处保持互操作或模型无关(interoperable or model-agnostic);参与机构而非 OpenAI 保留对证据、输出和结论的控制权,这些材料仅对经授权的政府官员可见。
公告给出的理由是国家安全场景的特殊性:这类决策必然涉及保密,且后果重大;AI 会以速度和规模放大缺失或过时的上下文、配置错误的目标、错位的假设,错误在扩散之前很难靠人工发现。
三条原则与一条边界
OpenAI 用三条原则框定这项工作:AI 应强化而非取代人类和机构的判断;政府使用 AI 应对授权监督可追溯、可读(traceable and legible);AI 应被用来增强民主监督机构,因为人工监督政府中的 AI 无法规模化。
边界写在同一份公告里:OpenAI 不承担对政府的监督角色,也不应该承担,该责任属于民选官员和为此设立的公共机构。公告还交代了 OpenAI 自己与国家安全部署的关系:依据其 National Security Principles,它以保障措施、有意义的人类判断和适当监督对待国家安全部署;在其 Preparedness Framework 下,先进模型部署前经过严格审查,部署后继续监控和事件复盘,以反哺防护措施与后续模型开发。
纸笔时代的方法,审不动机器速度的系统
公告从两个角度解释为什么需要这项倡议:一方面,AI 正在改变民主政府保护国民的方式:拦截网络攻击、保护关键基础设施、更早发现威胁、在危机中给公职人员更清晰的图景。另一方面,监督机制没有跟上:传统监督高度依赖人力,当使用纸笔时代方法(paper-era methods)的小团队要审查以机器速度运行的系统时,几乎不可能完成。
OpenAI 给这项倡议设定了两个衡量标准:经授权的审查者是否更能履行职责,公众是否有更强的理由相信政府 AI 系统正按预期使用。公告还写道:AI 可以集中权力,也可以帮助民主制度更有效地行使和制衡权力;技术本身不会决定最终走向,现在人类机构和公司的选择才会。
政策文件连发两天,资助对象扩大到监督机构
这项倡议发布的前一天,OpenAI 刚发布两份政策文件。一份是《》:向 14 个独立组织提供总计 100 万美元资助和最高 100 万美元 API 积分,项目分布在美国、欧盟、巴西、新加坡和韩国,其中延世大学(Yonsei University)的项目将测试透明、经人工验证的 AI 方法能否帮助评估韩国国会的监督质量。另一份是 :OpenAI 与 SB Energy、NVIDIA 和美国能源部就俄亥俄州约 8 吉瓦 IT 容量的数据中心达成协议,并配套 4000 万美元社区基金和 8400 万美元 Codex 积分。
与资助独立研究组织和社区相比,监督倡议把资助对象换成了政府监督机构本身。这三笔钱的共同点是都花在 OpenAI 直接业务之外的地方。
试点机构还没有名字
公告没有点名任何试点机构,也没有给出时间表。"与监督机构试点"具体落在哪几家机构、审查者最终能看到什么,是这项倡议最直接的待验证项。在试点机构名单和首批工具的具体形态出现之前,500 万美元的承诺还停留在计划层面。