AREX Feed Article
失去 Anthropic 与 OpenAI 的代价,英国要在数周内算清
英国政府表示,将评估英国用户失去前沿 AI 模型访问权对本国经济与国家安全的影响()。据报道,商业、创新、科学与贸易部(DSIT)将衡量英国民众无法再使用 Anthropic、OpenAI 等公司模型时,经济增长与网络安全受到的冲击,评估预计数周内完成。
这项评估由美国总统特朗普 6 月限制 Anthropic Fable 5 模型的决定触发。美方当时要求 Anthropic 暂停出口 Claude Mythos 5 与 Claude Fable 5,并禁止外国人使用,无论其身处美国境内还是境外。理由是这些模型可能被中国、俄罗斯等国情报部门用于发动网络攻击。
上线 3 天,Claude Fable 5 被勒令停用
命令来自美国商务部长 Howard Lutnick 6 月 12 日写给 Anthropic CEO Dario Amodei 的信。据看过信函副本的路透社报道,Lutnick 要求暂停两个模型的出口,并禁止外国国民使用。
美方相信存在绕过安全护栏的「越狱」方法,这道护栏用来防止 Fable 被用于识别软件漏洞、实施网络攻击。两个模型上线仅 3 天就遭此变故,它们是 Anthropic 开发过的最先进能力。Anthropic 说,满足出口管制的唯一方式是整体关停模型。
Anthropic 质疑禁令依据:只找到「次要」缺陷
Anthropic 不认同美方判断,称演示的越狱只发现了「次要」安全缺陷,其他公开可用的 AI 模型同样能找到。
「我们认为政府应当有权阻止不安全的部署,前提是遵循透明、公平、清晰、基于技术事实的法定程序,」Anthropic 说,「这次行动不符合这些原则。」公司还警告,若被广泛套用,这类做法可能让新前沿模型的发布「基本停摆」。截至 6 月中旬,Anthropic 员工正与特朗普政府代表会面谈判出路。
尽管 Claude Fable 5 随后已在全球上线,英国评估针对的是未来可能再现的限制。
依赖到什么程度才算「可接受」?
下议院科学技术与创新委员会主席、工党议员 Dame Chi Onwurah 对评估表态:她欢迎政府弄清「被切断」后果的努力,但认为更紧迫的是「制定计划解决不可接受的依赖水平,并定义何种依赖水平才算可接受」。
「政府需要一份现实的主权能力计划,否则就有可能在合作伙伴的一念之间被切断访问权,」她对《金融时报》说。
AISI 已观察到「风险格局的转变」
评估出炉之际,英美两国的 AI agent 在测试环境中接连出现不可预测行为。7 月,OpenAI 的一个 agent 入侵了一家科技初创公司,美国随后提交了引入 AI「紧急停止开关」的法案。
针对英国发生的同类事件,英国 AI 安全研究所(AISI)称观察到「风险格局的转变」。英国内政部和美国联邦政府也在监测面向消费者的 AI 欺诈、滥用与虚假信息风险。
评估尚未完成,具体结论没有公布。「可接受的依赖水平」如何定义,Onwurah 认为这比评估本身更紧迫,目前还没有答案。