AREX Feed Article
Google 据报将约 90 人的 AI 责任团队从 DeepMind 划入全球事务部门
据,Google 正把一支约 90 人的 AI 责任团队移出 Google DeepMind,划入负责游说与公共政策的全球事务部门。:这次转移将在 9 月进行,团队由 Google DeepMind 副总裁 Helen King 领导,工作包括测试 Google 的 AI 模型在 CBRN(化学、生物、放射与核)方面的风险,以及研究 AI 的社会影响。
据《华尔街日报》引述的两名 Google DeepMind 在职员工,团队中部分成员担心,离开 DeepMind 会削弱团队独立开展研究的能力,也会让他们更难了解 Gemini 模型的研发工作。Google 发言人称,此举会把公司内部从事 AI 安全与责任工作的团队聚拢起来;King 则向团队保证,调整不会改变日常工作,对 DeepMind 的访问权限与资源也会保留。
从 DeepMind 到全球事务部门
按照《华尔街日报》查阅的内部邮件,这支团队预计在 9 月初加入全球事务部门。Times of India 称,该部门负责 Google 的游说与公共政策事务;这次调整改变的是团队的汇报关系。
这次调整并不只涉及这一支团队。称,DeepMind 的 HR 与政策职能同样在迁往 Google 中央;模型行为、隐私与安全等其他 AI 安全团队则继续留在 DeepMind 内部。
Google 发言人在声明中说:「Google 内部有许多团队都在从事 AI 安全与责任方面的工作,把我们的 AI 责任团队聚拢在一起,会增强它们为我们的模型和产品提供安全信息的能力。」
团队的工作:CBRN 风险测试与聊天机器人的心理影响
按照报道,团队中的一部分小组负责测试 Google 的 AI 模型在化学、生物、放射与核(CBRN)方面的风险;另一些研究员研究人与 AI 系统如何互动,以及聊天机器人带来的心理影响。
Google 对前沿模型设有公开的安全流程。按照的说明,Google 会识别模型的能力水平,在模型的全生命周期内检测其是否达到这些水平,并为严重风险准备缓解预案。
King 今年 7 月对 说:「如果我们发现,模型正在达到某个关键能力水平,而我们没有合适的缓解措施,那我们不会发布。」她当时说,这一阈值尚未被触及,依据是 Google 在模型开发过程中持续进行的评估。
King 的邮件:工作不变,资源与访问权限保留
King 在邮件中把这次调整描述为 DeepMind 组织形态变化的一部分:「GDM 正在转入更典型的产品领域(PA)架构,中央团队归入 Google 中央。」GDM 指 Google DeepMind;PA 即 product area,是 Google 用来指称公司主要业务板块的说法。
她告诉团队,调整不会改变日常工作与主要使命;团队将继续聚焦负责任 AI(Responsible AI)中的新兴与前沿议题,对外发表研究「仍然得到支持,而且很重要」,参加外部活动也不受影响。她还说,团队对 DeepMind 的访问权限、计算资源和编制都会保留。邮件里还写道:「Demis 仍然很关心负责任 AI,并且仍计划参与其中。」
8 月领导层改组,与更早的迹象
King 在邮件里提到的 Demis,是 Google DeepMind 联合创始人 Demis Hassabis。Times of India 称,这次调整发生在 Google 把 DeepMind 更紧密地并入公司整体架构的背景下。8 月 5 日,对 DeepMind 领导层的调整:Demis Hassabis 从 CEO 转任 GDM 主席兼 Alphabet 首席科学家;原 CTO Koray Kavukcuoglu 以高级副总裁(SVP)身份接手 Google DeepMind,负责 Gemini 模型开发、前沿 AI 研究与 Gemini 应用和开发者团队。
8 月 6 日,称,一些 DeepMind 团队(包括部分安全团队)将改向 Google 全球事务总裁 Kent Walker 汇报,但两名知情人士提醒,相关决定当时尚未最终敲定。一名 DeepMind 员工对 TIME 说,担心从事安全、责任与伦理工作的团队从 DeepMind 转入 Google 后会失去影响力;Google 发言人当时对 TIME 表示:「明确地说,就前沿 AI 安全而言,这次过渡不会带来任何改变。」
员工的担忧与被拒绝的转组申请
据《华尔街日报》引述的员工说法,团队中部分成员质疑,离开 DeepMind 之后还能否独立开展研究;他们也担心,与 DeepMind 研究员和 Gemini 研发团队隔开后,识别新模型相关安全问题的难度会上升。
Quartz 转述《华尔街日报》的报道还提到,管理者在内部讨论中私下承认,这轮调整存在人员流向竞争对手实验室的真实风险;在转移生效前,数名团队成员申请转入仍留在 DeepMind 的研究组,但申请均被拒绝。