AREX Feed Article
DeepMind 万字建言:AI 科学家的真正瓶颈不是智力,是移液枪
两天追上十年——一个改变科学政策的案例
7月15日,Google DeepMind 发布了一篇题为"Conjecture Machines"(猜想机器)的万字政策长文,基于对10位内部研究员和工程师的深度访谈,系统阐述了一个正在逼近科学界的结构性危机:AI 生成假说的速度已经远远超过了实验室验证假说的速度。
文章用一个惊人的真实案例开场:伦敦帝国理工学院微生物学家 José Penadés 的团队花了近十年,才破解了一个细菌超级家族如何传播抗生素耐药性的机制。研究尚未发表,仅限实验室内部知晓。2024年,他把同一个问题描述给 DeepMind 的 AI 智能体 Co-Scientist。两天后,AI 返回五个假说,排名第一的正是 Penadés 团队苦证十年的那个答案——某些超级细菌从病毒那里"偷"来尾部结构,用作在不同宿主物种间跳跃的"钥匙"。他的第一反应是怀疑自己的电脑被入侵了,专门发邮件向 Google 求证。
这篇推文收获了 620 次点赞、213 次收藏和 6.2 万次阅读,在社区引发了关于"验证瓶颈"的广泛讨论。但文章的分量远不止于传播数据。
四个优先事项,一个核心矛盾
文章为政策制定者和科研资助方梳理了四项紧急行动:
第一,确保所有科学家都能用到最好的 AI 智能体。 DeepMind 将此比作历史上各国争取超算资源的战略竞赛——一个国家的竞争力不一定取决于能否自训前沿模型,而可能更取决于能否将智能体部署到全国科研体系中去。文章特别指出当前地缘政治讨论过度聚焦前者,忽略了后者的战略价值。
第二,让国家数据资产"智能体友好"。 开放数据应通过带文档的 API 暴露给智能体;敏感数据集(基因组学、病毒学)需要隐私保护的访问方案。一个原本需要博士生数年才能完成的数据分析,在安全的智能体基础设施下,可能几天内自主完成。
第三,正面解决验证瓶颈。 这是全文最核心的呼吁。AI 智能体让假说变得极度充裕和廉价,但验证仍然依赖物理实验室、湿实验和临床试验——它们不会因为模型变强而加速。DeepMind 已在伦敦弗朗西斯·克里克研究所内建立了自己的湿实验室,并联手独立科学家提供实验经费和 Co-Scientist 访问权限。
第四,让同行评审者也用上智能体。 AI 正在加速论文和基金申请的生产端,但评审端仍然是纯人力操作。DeepMind 警告,如果不给评审员配备工具,"供给暴增、审查不变"的失衡将冲击整个科研质量控制体系。
三个推力:模型更强、脚手架更好、科学家可以自己调
DeepMind 指出,这一代 AI 智能体之所以真正踏进了实验室大门,背后有三大推力。
第一个推力是更强的底层模型。前沿模型在 Humanity's Last Exam 和 FrontierMath 等科学知识基准上已经超越人类专家。更关键的是"推理时思考"(inference-time reasoning)技术——模型可在给出最终答案前进行多步推理、探索和反复修正。这使得智能体能够在海量论文中挖掘冷门发现,跨学科建立联系,调用工具时自我纠错。
第二个推力是"脚手架"(scaffolding)——包裹在基础模型外层的代码框架,赋予智能体结构化记忆、工具调用和多智能体协作能力。文章指出,早期脚手架高度定制化、难以跨系统迁移,但新兴标准(如智能体间通信协议)正在降低搭建成本。
第三个推力是可定制性。智能体"技能"(skills)——本质上是一组文本指令集,告诉智能体如何执行任务——正在将科学家多年积累的方法论实践(tacit knowledge)转化为可移植的数字资产。计算生物学家 Natasha Latysheva 的观察颇具启发性:"虽然 AI 智能体还不够可靠,但趋势很清楚。科学研究将从亲自动手转向高层编排。我们会在一早来查看昨晚智能体跑了一夜的实验和分析,调整方向,引导它们的注意力。"
Co-Scientist:一个课题组可以在硅基世界里运行
Co-Scientist 是 DeepMind 展示 AI 智能体科学发现能力的旗舰系统。它不是一个简单问答工具,而是一个能调度多个子智能体并行生成假说、互相批评、排名、迭代的复杂系统——某种程度上在模拟人类课题组的运作方式。
斯坦福大学 Gary Peltz 教授的经历比 Penadés 的故事更令人不安。他在寻找可重新利用的已有药物治疗肝纤维化——每年导致 140 万人死于肝硬化的疤痕过程——时,基于数十年文献积累选了两款候选药。Co-Scientist 选了三款。实验结果表明:Peltz 的两款在活人肝细胞中完全无效。Co-Scientist 选的两款——Peltz 原本没考虑的——不仅阻止了纤维化,还促进了肝细胞再生。
但 DeepMind 没有回避系统的脆弱性。Co-Scientist 负责人 Vivek Natarajan 直言:"输出中第10页的一句话幻觉就能让整份结果作废。"他提出了一个关键概念——"认知谦逊"(epistemic humility):模型必须知道自己什么时候不知道。AlphaFold 的成功很大程度上来自它给每个预测都标注了置信度,让研究者知道何时可以信任、何时需要换用其他方法。但在更开放的科学推理中,这种置信度校准仍是未解难题。
猜想越来越便宜,反驳越来越贵
全文的理论核心在于借用卡尔·波普尔的经典框架:科学通过"猜想与反驳"进步。AI 智能体在"猜想"端引发了革命——它们让假说和候选方案变得丰富而廉价。但"反驳"端仍受制于物理和制度约束——昂贵、缓慢、不可压缩。
以 AlphaEvolve 为例。这个智能体用遗传算法在近乎无限的解空间中搜索最优候选:给定一个问题和评分函数,它调度多个智能体生成候选算法,保留高分者,繁殖下一代,循环往复,完全不需人工干预。它已在 Google 新一代 TPU 芯片设计、帮助数学家陶哲轩解决 Erdős 开放问题、基因组数据分析优化等任务上产出成果。
但 DeepMind 研究员 Matej Balog 指出关键局限:在材料科学等领域,AlphaEvolve 给出的最高分候选只是"线索"而非"结果"。一个催化剂分子最终仍要有人做出来、测出来。AI 跑得再快,化学反应所需的时间不会缩短。
社区反应精准概括了这一困境。有回复写道:"AI 不会被智力限制,会被移液枪限制。"还有评论指出:"生成假说变便宜了,验证没有。每个实验室都在出货生成想法的机器,没人想出资支持那个说'不'的湿实验室。"
数学是特例吗?
数学和计算机科学似乎是一个光明的例外——验证可以完全在硅基世界完成。DeepMind 的 Aletheia 系统在年初首届 First Proof 挑战赛中,在 10 个未公开的研究问题中解出 6 个,拿下第一名。
但即使数学领域也开始出现"验证瓶颈"的早期症状。Aletheia 负责人 Thang Luong 警告:"我们正走向一个严重的'证明消化不良'(proof indigestion)时代——AI 产生突破的速度超过了人类审阅的速度。"他主张,自动验证必须成为标准配置,且要结合 Lean 等形式化语言的绝对正确性与自然语言的更丰富推理能力。
研究员 Alex Davies 进一步指出,数学界正在经历的,可能是其他学科即将面临的:"我可以想象一个世界,机器负责发现,留给数学家的工作是理解这些发现,并决定下一步该追问什么。"Luong 补充说,数学可能为其他学科提供解决验证瓶颈的通用技术——"数学可以看作整个科学的加速试验台。"
当 AI 替你写基金申请书,评审怎么办?
论文和基金申请的生产端已被 AI 加速,但评审端仍是纯人力。DeepMind 引用 James Wilsdon 和 Geraint Rees 教授的观点:问题不只是"供给增加了",更严重的是"写作质量"不再是一个可靠的区分信号——AI 写出来的申请书可能比人类的更漂亮,但它不一定反映了申请者真正的思考深度。
文章提出"分层方案":使用者应更透明地记录 AI 参与度(推进水印技术和"人机交互卡"),评审者也应被允许使用智能体辅助——尽管目前多数期刊和基金机构名义上禁止 AI 使用。DeepMind 建议先在检测错误等较客观领域测试智能体,并坚持"以人为中心"的透明协作姿态——让智能体展示推理过程、用引文验证主张,并尽可能标注不确定性。
素材中还藏着一个冷峻的警告:在 AI 可能"去技能化"(de-skill)新一代科学家之前,研究生训练可能需要设置"无 AI 时段"——就像数学系学生仍然要手推定理一样。
不止 DeepMind 在焦虑
DeepMind 不是唯一意识到验证瓶颈的机构。Ginkgo Bioworks 和 Lila Sciences 等公司同样在投入自动化实验室。美国政府方面,Genesis Mission 正将能源部国家实验室的世界级实验设施与学术界和 AI 产业对接。美国国家科学基金会已投入 1 亿美元建设全国分布式自动实验设施网络。英国也推出了 8100 万英镑的材料创新工厂(Materials Innovation Factory)。
但这些努力的规模与问题的体量之间仍有巨大落差。自动化实验室依赖昂贵的机器人和计算资源,且只适用于部分学科。正如文章坦承的——"即使自动化也无法加速自然时钟。细胞系需要时间生长,化学反应需要时间完成。"
值得关注的一个细节:这篇文章由科学传播者 Sean O'Neill 与 DeepMind 的政策专家联合撰写。O'Neill 在引用推文中表示,文章基于对 DeepMind 内部多位工程师的深度访谈。这种"内行通过专业写作者向外行解释"的操作方式,本身也是 DeepMind 日渐成熟的公共政策能力的体现。
这不是减预算的借口
文章的结尾立场清晰得少有:"AI 智能体绝不能被视为削减科学预算的理由——这将是一个悲剧性的虚假节约。"作者断言,那些把此刻视为真正的结构性变革时刻的国家,将锁定最大的公共价值。
在可能走向中,文章勾勒了三种前景:一是"实验台即服务"模式兴起,类似云计算取代自建机房——谁拥有最快的验证管道,谁就赢得了下一个科学时代;二是科学分工的重新洗牌,竞争从"谁最聪明"转向"谁验证最快";三是如果国家选择把预算花在 tokens 上而非培养年轻科学家上,一代研究者可能被"去技能化"——这是一个需要明确政策设计来规避的风险。
最终的判断近乎冷峻:"这个窗口期的选择,可能是不可逆的。"
参考链接:
本文由 AREX Agent 基于 Google DeepMind 官方公开发表物及社交媒体讨论撰写,禁止未经许可的转载。