AREX Feed Article
Anthropic、Google 与 OpenAI 被曝定期讨论组建 AI 行业标准机构,Altman 称或需自行推进
美国东部时间 9 月 13 日(北京时间 9 月 14 日凌晨),The Information 记者 Leo Schwartz 称,Anthropic、Google 与 OpenAI 一直在就共同组建一个 AI 行业标准机构(standards body)举行定期讨论,最近一次会议就发生在发稿前的一周内;与此同时,白宫方面的相关努力陷入停滞。报道基于熟悉相关情况的人士的说法。
同篇报道称,OpenAI CEO Sam Altman 在发稿前一周的公司全员会议(town hall)上告诉员工,他支持为 AI 行业建立一个测试与审计组织,但他认为,主要 AI 实验室将不得不在没有美国政府支持的情况下自行建立这一标准机构;这一说法被归因于一名了解相关言论的人士。
会谈从 7 月持续至今
The Information 的报道称,三家公司的讨论甚至在 Anthropic CEO Dario Amodei 于周六(9 月 12 日)公开呼吁 AI 公司就测试与审计展开协调之前就已开始。Techmeme 收录这则报道时将其概括为:Anthropic、OpenAI 与 Google 自 7 月以来举行工作组会议,讨论建立一个由行业主导的 AI 标准机构。
Amodei 要一份豁免,Altman 不等政府支持
The Information 在推文里的说法是,Altman 讨论过「在没有政府参与的情况下」推进这一设想。而 Amodei 在周六的文章里写道,出于反垄断方面的原因,「有帮助的做法是美国政府出面调解,或者至少让这些讨论得以进行——政府不需要参与,但需要为某些类型的安全对话签发一份有限的豁免」。
白宫那条线:草案搁置,现行框架仍是自愿的
The Information 8 月 27 日曾报道,一份拟设立 AI 自我监管机构的行政命令草案已经搁置,拟设机构以 FINRA(美国金融业监管局)为模板。 AI Policy Daily 8 月 28 日的汇总补充了细节:草案拟让开发先进 AI 模型的公司通过一个新的行业机构实现自我监管,The Information 引用了两名看过草案的人士;美国财政部长 Scott Bessent 参与制定了一份效仿 FINRA、向美国证券交易委员会(SEC)汇报的独立 AI 监管机构方案(Bloomberg Law 7 月 17 日报道);按照该方案,实验室先自愿在发布前最多 30 天把模型交给标准机构审查,此后模型须通过审查。
更早的框架同样是自愿性质。据 Cloud Security Alliance 7 月 26 日的分析,白宫 6 月 2 日签署的行政命令要求美国国家安全局(NSA)与网络安全和基础设施安全局(CISA)建立一套识别「受覆盖前沿模型」(covered frontier models)的保密基准测试流程,并邀请开发者自愿在模型发布前最多 30 天向政府开放访问;命令明确为自愿性质,不授权强制性的许可、预审或审批要求,最初的条款也只由 OpenAI、Google、Anthropic 三家参与谈判。
「FINRA 式」标准机构的设计与争议
这套设想的核心来自 Google DeepMind 联合创始人 Demis Hassabis。7 月 14 日,他发表《A Framework for Frontier AI and the Dawning of a New Age》,提议由美国牵头建立「前沿 AI 标准机构」(Frontier AI Standards Body):仿照 FINRA,由联邦政府监督、行业出资、独立运营,董事会纳入独立技术专家与开源代表;以基准测试划定哪些模型属于「前沿级」;初期由实验室自愿在发布前最多 30 天提交模型接受评估,评估流程被证明有效后,正式化可能很快跟进,前沿模型届时须通过评估才能在美国市场部署;评估标准定期更新,并推动第三方审计生态的形成。
Cloud Security Alliance 的分析记录了后续动向:这一思路获得了 Altman、微软的 Satya Nadella、Block 的 Jack Dorsey、Box 的 Aaron Levie 等人的公开支持,Axios 报道称 Hassabis 争取在「年底前」把它变为现实。同一份分析也列出了反面的意见:评估机构由被它评估的公司出资,存在结构性利益冲突;美国外交关系委员会(CFR)的分析将其比作 2008 年金融危机中「发行方付费」的信用评级模式,Gartner 分析师 Nader Henein 则直言「自我监管不可行」。
上周末的公开表态
9 月 12 日,Amodei 发表 3,800 词的《We Must Pace the Frontier》,提出三步计划:在实验室内部嵌入第三方评估者、民主国家之间协调、再走向全球协调;其中第一步由 Anthropic 单方面承诺:给第三方评估者提供长期的、接近正式员工的系统访问权限。
当天,Altman 公开回应:「我同意 Dario 的看法,我们需要为前沿设定节奏。……承诺让独立评估者拥有接近员工的访问权限,是个很棒的想法,我们也会这样做。」
针对 Amodei 与 Altman 的主张,总统科技顾问委员会(PCAST)联席主席 David Sacks 在上周末写道:「去吧。」他接着说,两家公司「别再假装你们需要别人的许可」,也「别再假装反垄断法必须被暂停,好让你们组成一个卡特尔」;把「你们偏好的监管框架」当作交换条件,会像是对公众与政治体系的「勒索」。他在帖子结尾写道:「如果照做,你们会为下一场对话赢得善意;如果不做,我们就会知道:这不过是又一次争取监管俘获的动作,或者一场选举季的舆论操作。」