AREX Feed Article
Shane Legg 宣布成立 DeepMind Institute，研究 AGI 迫近带来的技术与社会影响
9 月 16 日，Shane Legg ，宣布成立 DeepMind Institute（DMI），一个研究通用人工智能（AGI）影响的新机构。他是 Google DeepMind 的联合创始人兼首席 AGI 科学家。帖文写道：「我开发 AGI 的历程已有 25 年，其中 10 多年是在 Google DeepMind 思考技术与社会视角的问题。AGI 即将到来——我们需要更深入地理解它的影响。为此，我们创建了 DeepMind Institute。」
帖文附有一篇 X 长文《》；内容相同的文章同时出现在当天上线的研究所官网 上，署名 Shane Legg、James Manyika 和 Demis Hassabis。官网发布了五篇文章，作者还包括 Google DeepMind 安全与经济学团队的成员，以及剑桥大学的研究者。
帖文与随附长文
这条帖子发布于 UTC 时间 9 月 16 日 14:25（北京时间 22:25）。数小时后，它在 X 上已有约 19.7 万次查看、2,050 次点赞和 290 次转发。
长文开头写道：「我们正站在一场深刻变革的门槛上。」它称，今天的 AI 系统能力令人印象深刻，创新的速度表明我们正在接近 AGI，即「一种具备人脑全部认知能力的系统」；它同时承认，今天的系统有时仍会在基础任务上失手，也还不具备达到完整 AGI 所需的一致性和创造力，但「我们预计这些差距很快就会弥合」。
文章还列出了风险：能力不断增强的 AI 在网络安全和生物风险方面的影响已经显现，「未来能够自我改进的系统还存在失控的可能」。文章称，这是一个关键时刻，要确保 AGI 被安全地构建，并且它给社会带来的收益远大于风险；AGI 也可能是加速科学突破的「终极工具」，有望开启科学发现的「新黄金时代」。
「我们成立 DeepMind Institute（DMI），是为了推动回答 AGI 时代最关键的技术与社会问题所需的跨学科研究、合作与辩论。」文章写道。
平台、负责人与它要回答的问题
官网的「Mission」部分写道：「DeepMind Institute 旨在推进关于 AGI 安全开发、有益使用及其社会影响的大胆思考。」它称自己「来自开创了这个领域的实验室」，专注于「以创造性的远见和对 AI 的扎实审视，帮助应对当今最重要的问题」。
按长文的描述，DMI 是一个平台，供来自 Google DeepMind、Google 及更广泛的全球研究界的研究者和思考者，围绕「一个拥有 AGI 的世界」发表富有创造性、有深度的想法。文章写道，这些人「不会总是一致，也很可能随着快速演进的前沿出现更多数据和信息而改变想法」；创建这个研究所，正是因为「需要广泛的知识讨论与辩论，才能就社会面临的挑战与机遇形成共识」。
文章还写道，没有人掌握所有答案，「也不应只由技术专家来提供」——塑造 AGI 现实的责任「属于整个社会，包括艺术与人文学科，以及政府」。
DMI 想要回答的问题包括：我们将珍视什么，AGI 会如何影响「作为人」的含义？如何安全地构建并治理 AGI 系统，以及它们将形成的智能体社群？社会需要调整、甚至重新构想哪些制度与政策？
据官网介绍，研究所由三位负责人领导：Shane Legg、James Manyika 和 Demis Hassabis；Shane Legg 兼任主编（managing editor）。官网列出的头衔是：Legg 为 Google DeepMind 联合创始人兼首席 AGI 科学家；Hassabis 为 Google DeepMind 联合创始人兼主席、Alphabet 首席科学家；Manyika 为 Google 研究、实验室、技术与社会总裁。
经济政策、推理透明度与前沿 AI 测试框架
除三位作者的引言文外，一同发布的还有四篇文章。
《》的作者是 Rohin Shah（Google DeepMind AGI 安全与对齐总监）和 Anca Dragan（Google DeepMind AI 安全与行为副总裁）。摘要写道：「阅读 AI 的『思维链』让我们得以一窥它的推理过程，我们可以借此监测密谋与欺骗。我们必须努力让这扇窗保持敞开。」
《》的作者是 Julian Jacobs（Google DeepMind 经济学家、研究科学家）和 Alex Imas（Google DeepMind AGI 经济学总监）。文章用文献综述、调查和 51 个用真实经济学家数据训练的 AI 智能体评分者，评估了 11 项政策，结论是「没有哪一项举措能解决所有问题」。文章把三档「最不后悔」（least-regret）政策与三种情境对应：轻度冲击下扩大失业保险、劳动所得税抵免（EITC）和雇主主导的再培训；中度替代下把 EITC 转为负所得税；劳动与资本出现结构性脱钩时，启用「普遍基本资本」（Universal Basic Capital，UBC）作为后备保障。其调查显示，85% 的美国受访者支持公共出资的再培训，72% 支持失业保险，54% 支持 UBC；文章把普遍基本收入（UBI）称作「昂贵而钝的工具，可能无法把救济集中到最需要的地方」。
《》的作者是 Stephen Cave（剑桥大学 Leverhulme 未来智能中心学术主任、技术与人类研究所联席主任）。摘要写道：「如果 AGI 要改变社会，我们必须决定想要什么样的改变。」文章从 20 世纪的动荡中汲取教训，提出一种「谦逊与希望的务实乌托邦主义」。
《》由 Demis Hassabis 署名，官网注明它「最初发表于 X」。Hassabis 写道，AGI「大概只需短短几年就会到来」，其影响「也许是工业革命的 10 倍，而且速度也是 10 倍」。他提议由美国率先建立一个测试前沿 AI 模型能力的新「标准机构」，模式参照由联邦监管的公私合作或自律组织（例如美国的金融业监管局 FINRA）：该机构设定「前沿级」模型的基准阈值，前沿实验室一开始自愿在发布前最多 30 天把模型交给它评估；评估规程被证明有效后，这套要求可转为美国市场上的强制规定。评测基准按季度更新，并培育第三方审计生态。
「不能跑在安全控制前面」
英国《金融时报》当天以为题报道了对 Legg 的采访。据 转述这次采访，Legg 表示 AI 能力不能跑在安全控制前面；他把 Anthropic 首席执行官 Dario Amodei 关于放慢（而非暂停）前沿模型发布的呼吁评价为「方向上有趣」和「值得考虑」。他还说，现在宣布 AGI 已经实现为时过早。The Next Web 的报道提到，Nvidia 的黄仁勋曾在 9 月 7 日称 AGI 已经到来，OpenAI 也在 9 月 4 日作过自己的 AGI 声明。
关于 AGI 何时实现，The Next Web 的转述称，Legg 对自己「到 2028 年有 50% 概率实现 minimal AGI」的预测仍然感到「安心」。按他，minimal AGI 指的是「能完成普通人通常能完成的所有认知性工作」的 AI；他，这个「到 2028 年 50% 概率」的预测，他从 2009 年起就没有改过。
同一天的回应与「不应被视为谷歌的官方观点」
Demis Hassabis 说：「20 多年来，我和 Shane Legg 一直在讨论 AGI 对经济、科学和社会的潜在影响。通过 DeepMind Institute，我们正在扩大围绕 AI 时代关键问题的跨学科研究。我们希望它激发必要的讨论，把接下来的路走对。」
Google DeepMind AGI 经济学总监 Alex Imas ：「今天我们宣布新的 DeepMind Institute——一个致力于就 AGI 带来的社会与经济问题展开跨学科、以证据为基础的辩论的论坛。」作为发布的一部分，他和 Julian Jacobs 合著了文章与工作论文《Economic Policy for AGI》。
据 ，该研究所为 Google、DeepMind 以及外部研究者提供一个讨论 AGI 社会影响的论坛，目标之一是让复杂的学术研究更容易被公众理解，并呈现观点的多样性。Axios 引述 James Manyika 的话说：「人类必须参与其中。我不知道怎么按国家来考虑安全和责任。这是一项所有人都会用到的全球性技术。」Legg 则说：「AI 将推动各种科学进步，而科学是国际性的。无论科学突破发生在中国、日本、美国还是其他地方——这是一个推进科学前沿的全球共同体。」
DMI 官网在文章下方附有免责声明：这些文章是「对话的起点」，反映作者本人的观点与研究，「不应被视为谷歌的官方观点」。