AREX Feed Article
Sam Altman 发帖阐述 OpenAI 标准提案:主张防止权力集中、保障开放模型公司竞争,呼吁美国领导
2026 年 9 月 22 日 23 时 06 分(北京时间),Sam Altman 在 中提出三条主张:AI 实验室之外的人应当对这项技术如何发展有实际发言权,并有清晰办法判断其是否安全;相关标准应防止权力集中,包括确保新公司与开放模型(open models)公司能够竞争;美国应当领导这项工作。帖文以“以下是我们的提案”作结,链接指向 OpenAI 博文。据 X API 核实,截至发稿,这条帖文已获得 5,346 个赞、917 条回复、407 次转发,浏览量约 50.2 万次。
帖文链接的 OpenAI 博文《》发布于 9 月 21 日,比 Altman 的表态早一天。博文把这套设想定位为针对前沿 AI 开发安全实践的全球技术标准提案,并称这类标准对控制前沿发展节奏的重要性“可能与对齐研究本身同等重要”。Altman 次日的发帖,是 OpenAI 对这份提案立场的公开表达。
四句话的推文:一套主张的浓缩
Altman 的帖文正文只有四句话:
AI 实验室之外的人应该对这项技术如何发展有实际发言权,并且有清楚的办法判断它是否在安全地推进。
标准应当有助于防止权力集中,包括确保新公司和开放模型公司能够竞争。
标准还应当帮助各国和企业比较证据、从失败中学习。
我们认为美国应当领导这项工作。以下是我们的提案:
这四句话在博文中都有对应的论证:发言权出自博文对实验室之外利益相关方的表述;防权力集中是博文自述的标准动机;“比较证据、从失败中学习”对应博文关于跨国协作难点的论证;“美国应当领导”则是博文中加粗强调的结论。
从自动化 AI 研究到 RSI:博文给出的风险图景
博文开头引述 Sam Altman 与 Jakub Pachocki 近期的发文,把 OpenAI 的工作归纳为三个目标:构建自动化 AI 研究者、交付科学进步与经济增长的收益、以个人 AGI(通用人工智能)赋能每个人。文中称,AI 正在加速公司自身的研究与工程;当 AI 系统承担起开发后续世代模型中越来越多的工作,就可能进入递归自我改进(recursive self-improvement,RSI)的过程,“随着这一过程更加自动化,AI 进步的速度可能迅速加快”。
博文同时给 RSI 划出边界:“完全自主的 RSI 今天并没有发生,除非并且直到能够安全实现,否则不应追求。”文中警告,若不加谨慎地推进,RSI 可能让人类失去对 AI 开发的实际控制,无法再监督自己已不理解的研究过程。博文还引述公司此前披露的 Hugging Face Incident,称其“虽非 RSI 的直接结果,却预示了在缺乏健全保障与对齐时可能变得严重得多的那类风险”。
在博文看来,这正是标准介入的位置:它要回答的问题是“在缓解灾难性 AI 风险方面,‘好’长什么样”。文中列出需要跨国协作的三个难点:各国评估与报告体系互不兼容的碎片化、各国单独行动可能产生谁都不想要的结果的集体行动困境,以及前沿开发能力与专业知识分布不均,并强调这些难点“同时适用于开放与封闭模型(closed models)”。
标准如何设计:机构网络、能力基准与三类 RSI 规范
按博文的设想,标准制定依托各国已有的 AI 安全机构网络(文中列举澳大利亚、加拿大、德国、法国、肯尼亚、日本、韩国、新加坡、印度和英国),经由美国的「AI 标准与创新中心」(Center for AI Standards and Innovation,CAISI)与各国行业机构推进,并连接 CAISI 已牵头建立的国际先进 AI 测量、评估与科学网络(International Network for Advanced AI Measurement, Evaluation, and Science)。重点覆盖两类:按能力基准衡量的前沿 AI 模型及其开发者,以及自动化 AI 研究的收益与风险管理(包括 RSI)。
具体到 RSI,博文列出三类规范:评估 RSI 相关进展及一家 AI 公司内部自主研究的规模;明确对自动化 AI 研究的人工监督,包括哪些自动化流程应当立即触发人工审查;建立针对对齐与自动化研究事件的分级、跟踪、报告与响应机制,例如统一的事件严重度等级和报告阈值。博文把 OpenAI 自己的两份材料列为先期贡献:一份关于研究加速的报告被称为“初步贡献”,一个模型失准(model misalignment)报告框架被称为“早期贡献”。
防止权力集中如何写进条款
博文对标准动机的表述与 Altman 的推文一致:“我们对标准的主张,根植于避免权力集中,并带来更好的实际结果。”文中称,标准为此提供两样东西:让实验室之外的更多利益相关方对技术如何展开有发言权;以及一套不依赖任何一家实验室具体做法的可见原则。
落到竞争生态,博文要求标准制定征询开放模型与封闭模型开发者、独立技术专家和学界,透明地进行,并且不得“让特定公司、国家或商业模式占优,包括让新进入者或开放权重(open-weight)开发者更难竞争”。文中点名的协作对象包括 ISO(国际标准化组织)、Frontier Model Forum、Agentic AI Foundation、Open Secure AI Alliance 等既有及新兴标准组织,以及正在把国际标准与实际 AI 评估对接的 Appia Foundation。博文还援引航空与金融稳定领域的经验,即各国在不放弃本国权威的前提下形成共同技术标准与合作渠道,作为可行性的参照。
美国领衔的论证,与停在提案阶段的设想
博文给“美国应领导”的理由有两条:美国 AI 产业处于技术前沿;美国在金融、贸易、国防、技术和信息系统等关键领域仍占据有利的全球网络位置。文中写道:“现在是否领导,将决定是美国塑造全球 AI 框架,还是看着一个碎片化、不均衡、冲突不断的体系在其周围成形。”
博文还提出,关键基础设施运营方和各国政府应建立安全通信渠道,分享国家安全关切、新出现的漏洞与威胁和最佳实践,并称美中在这些议题上的对话“将是积极的一步”,“即将举行的会谈正当其时”。
这套设想目前停在提案阶段。博文写明,这些技术标准“不会是牌照、强制性发布前审查或批准要求”,是否纳入本国法律体系由各国政府自行决定;概念本身“预计会随时间大幅演变”,博文没有附上落地时间表。从提案到通行规则,各国是否采纳、标准组织如何协作、美中如何对话,决定权都不在 OpenAI 手里。