AREX Feed Article
知情人士:DeepSeek 将于周三就 AI 风险向联合国安理会作简报,Altman 计划同场发言
据 9 月 22 日独家报道,两名不愿具名的知情人士称,中国人工智能(AI)公司 DeepSeek 将在周三的联合国安理会会议上,就 AI 风险向安理会 15 个成员国作简报。会议安排在联大周(UNGA week)期间,世界领导人正聚集纽约出席年度联合国大会;OpenAI CEO Sam Altman 计划在同一场合作简报。
这场会议距多位 AI 行业领袖呼吁对日益强大的 AI 系统实施「协调放缓」(coordinated slowdown)仅数周;他们当时警告,这类系统可能很快实现自我改进、脱离人类控制。
图:DeepSeek 标志图示(REUTERS/Dado Ruvic/Illustration),取自 Internazionale 转载的路透社报道页。
第 10,228 次会议:已排上安理会官方日程
列明:这是第 10,228 次会议,议题为「维护国际和平与安全:人工智能与国际安全」,形式为简报(briefing),时间定在美东时间 9 月 23 日(周三)下午 3 时,即北京时间 9 月 24 日凌晨 3 时,地点在纽约的安理会会议厅,与路透社报道中的周三会议吻合。
安理会负有维护国际和平与安全的职责。路透社回顾,安理会曾在 2023 年首次就 AI 风险召开会议:当时中国警告这项技术不应成为「脱缰之马」(runaway horse),美国则警告它不应被用来审查或压制民众。
DeepSeek 与 Moonshot 获邀发言,梁文锋不打算到场
区分了两个层次:两名知情人士称,DeepSeek 将是向安理会作简报的公司之一;其中一位补充,DeepSeek 和包括 Moonshot 在内的其他中国 AI 公司已获邀在会上发言。Altman 计划作简报、外交官们预计 Anthropic 高级代表将参加,这两项安排路透社上周已作报道;本次独家新增的是 DeepSeek 的名字。
这位知情人士还说,DeepSeek 创始人梁文锋(Liang Wenfeng)不打算出席,并提醒各项计划仍未定型,可能在最后一刻生变。截至路透社发稿,DeepSeek 和 Moonshot 均未立即回应置评请求。
「协调放缓」数周后:Amodei 的方案与 Zuckerberg 的反对
9 月 16 日盘点了这场辩论的立场分布,其中 Anthropic CEO Dario Amodei 给出了最详细的放缓方案:前沿实验室应承诺让独立外部评估者获得「持续、类似雇员级别的访问权限」,评估团队要有办公室、门禁卡和公司笔记本电脑,以便监督安全实践;Anthropic 已承诺这样做,OpenAI 也是。Amodei 还呼吁政府介入,由美国和其他民主国家政府协调前沿公司,并尝试与「威权政府」协调;他承认让中国配合并不容易,但表示「为了人类,我们必须一试」。
Altman 的表态更接近「限速」而非停止。他在 X 上写道,AI 进展仍会很快,「但应该比原本可能的速度更慢」,「任何美国竞争压力都不足以为鲁莽辩护」。OpenAI 全球事务负责人 Chris Lehane 在公司文章中称,将倡导「兼容的国际方法」,就「何时以及如何放缓或停止开发」作出判定。
Meta CEO Mark Zuckerberg 则反对协调放缓的想法,认为每家公司应自行确保技术安全,写道「每个实验室都有责任和激励,以安全训练模型所需的速度前进」;Nvidia CEO Jensen Huang 说「市场力量已经存在——我们不需要任何新法律,也不需要新法规」。Elon Musk 转发了 Amodei 的文章并附上一句「Dario 是对的」;Google DeepMind 的 Demis Hassabis 同样表态认同方向。
沉默的中国头部模型公司与「冷战剧本」的指责
路透社指出一个反差:与 OpenAI、Anthropic 等美国前沿实验室的领导者不同,中国头部模型开发者的负责人很少公开谈论一种可能性,即能力越来越强的 AI 系统本身可能欺骗人类、逃避控制或造成灾难性伤害;自这场辩论本月在美国激化以来,他们基本保持沉默。中国官方媒体则把放缓开发的呼吁斥为出自「冷战剧本」,称其目的是保住华盛顿在尖端技术上的主导地位、把北京排除在全球 AI 治理体系之外。
观察到,中国 AI 开发者在全球模型竞争中的存在感持续上升,却较少出现在关于前沿 AI 风险的国际讨论中;DeepSeek 今年继续扩充模型阵容,包括 DeepSeek V4 和 V4.1-Flash。该媒体认为,如果成行,这次亮相将表明这家从全球挑战者位置崛起的中国模型公司,已进入围绕 AI 治理的国际辩论。
会场之外:Guterres 与 Trump 的分歧,美中同意继续谈
路透社的报道还提到会场之外的两条动态。联合国秘书长古特雷斯(Antonio Guterres)上周警告各国领导人,快速推进的 AI 带来的风险不容忽视,这让他与美国总统特朗普立场相左:特朗普认为现有安全措施已经足够,且对 AI 发展投下怀疑只会让中国受益。在特朗普定于本周晚些时候于华盛顿与习近平举行会谈之前,美中高级官员进行了会晤;美国财政部长 Scott Bessent 周一表示,双方已同意就 AI 安全举行进一步会谈。
就周三这场会议本身,TechNode Global 预计它不会产出对 AI 公司有约束力的规则,但会把头部开发者直接带进一个通常讨论国际和平与安全威胁的论坛。至于尚未公开确认出席的 DeepSeek,截至本文发稿,公开依据只有两名不愿具名的知情人士——它是否到场发言,要等周三下午安理会开会才能确认。