AREX Feed Article
OpenAI IPO 前悄然解散 preparedness 团队,生物与网络职责并入现有团队
《金融时报》8 月 15 日报道,,那支负责评估模型是否会带来严重风险并研究缓解措施的团队。生物、网络等领域被拆分出来的风险职责,改由现有团队接手。报道标题是《OpenAI upheaval mounts as Sam Altman readies IPO push》。
:OpenAI 正朝一场被普遍预期为大规模 IPO 的方向推进,内部动荡同期升级。
7 月底解散,生物与网络职责改由现有团队接手
给出了更多细节:据 FT 向多位知情人士核实,OpenAI 撤销了 preparedness 团队的正式建制,时间在 7 月底。The Verge 的说法一致,团队在「上月底」被解散。
团队原来的活有两块:评估自家模型是否会构成严重乃至灾难性风险,以及研究对应的缓解方案。The Verge 给过一个具体例子:模型「失控并黑进另一家公司」的可能性。
解散后风险工作没有消失,而是按领域重新分配。FT 原文写道,senior staff 被指派在现有团队内负责 preparedness 的不同领域,例如 bio 和 cyber。
本刊此前在《OpenAI 安全领导层换血:preparedness 三年四任,完整事后报告数日内发布》中跟踪过这支团队的领导层变动;FT 这次写的是建制本身被拆掉。
建制没了,Preparedness Framework 还在运转
拆掉的只是独立的组织架构。36Kr 转述称,OpenAI 的 Preparedness Framework 仍在运行,覆盖生化、网络安全、AI 自我改进等风险类别,由 Safety Advisory Group 治理。按 OpenAI 自己的定义,这套 framework 用于跟踪和应对可能造成新型严重伤害的前沿能力。
执行的人却换了岗位。安全系统团队负责人 Johannes Heidecke 7 月离职,其团队随后并入研究与安全副总裁 Mia Glaese 的体系。近期离开的还有 ethics 负责人 Chloé Bakalar 和首席未来学家 Josh Achiam。
OpenAI 对 FT 的回应是:公司正以极快的速度前进,不惧作出必要的组织调整;对外说法则是把安全考虑更早、更深入地嵌入模型研发。这是公司自己的声明。
这条收缩路径已经走了两年多:superalignment 团队 2024 年解散,mission alignment 团队今年早些时候解散,AGI readiness 团队也已拆掉。FT 引述知情人士称,OpenAI 今年已进行近六次重组。
Scandinaro 转向「递归自我改进」,Leike 点名批评
团队散了,负责人换岗。The Verge 写道,preparedness 负责人 Dylan Scandinaro 今年 2 月从 Anthropic 被挖来,现在将转而研究「递归自我改进」(recursive self-improving)AI 的影响。
2024 年从 OpenAI 辞职的 Jan Leike 对 FT 表示,公司在安全与「闪亮产品」(shiny products)之间偏向了后者。
哪个团队接下了风险职责?付费墙后还没有答案
目前公开的转述都没有点名:bio 和 cyber 职责具体进了哪几个现有团队。FT 全文在付费墙后,报道里有没有接收团队名单、Scandinaro 之外还有谁随之换岗,外界暂时无法核对。
可以确认的是:7 月底之后,OpenAI 不再有一支独立团队专职评估模型是否可能造成严重或灾难性风险,这份工作分散到现有团队的资深员工手里。而公司两个月前向 SEC 秘密递交 S-1 草案。