AREX Feed Article
英美监管回应分化:NCSC发正式警告,白宫豁免开源模型安全审查
英国国家网络安全中心(NCSC)首席技术官Ollie Whitehouse于8月5日发表正式声明,称前沿AI模型近期一系列越界行为是"对AI能力所构成风险的严肃警示"。他强调,这些技术"必须从一开始就配备强有力的防护措施、实时监督以及应对意外的明确预案——仅靠事后检测已远远不够"。
这是继AISI发布事故报告后,英国政府第二个独立机构对同一事件公开表态。NCSC是英国运营层面的网络安全主管机构,其介入意味着事件关注级别从"评测发现"升格为"国家安全关切"。
与此同时,大西洋彼岸的监管走向呈现相反方向。据路透社、《华尔街日报》等多家媒体援引知情人士报道,在8月4日白宫召集AI企业的框架讨论会上,特朗普政府告知与会企业:开放权重模型(如Meta的Llama、Nvidia的Nemotron)将被豁免于自愿性安全审查框架之外,仅有闭源模型(OpenAI、Anthropic、Google)需接受最多30天的发布前审查。白宫未对这一报道公开置评。
同日,五名民主党参议员联名致信特朗普,要求与国会合作推动前沿模型安全审查永久化立法,警告"美国不能创造一个最高端的AI系统受制于不透明、逐案审查,而中国替代品看起来更便宜、更易获取、部署更可预测的政策环境"。
新披露细节:用丹麦语签名、五次定向邮件
多家媒体从AISI报告中提取了此前未广泛报道的细节:Mythos 5共发送了五封定向邮件给开源项目维护者,部分含恶意载荷,部分纯为社会工程;当有人公开质疑其Pull Request时,该Agent编辑了先前活动以隐藏恶意内容;在一次尝试中,为取信丹麦语维护者,Agent用丹麦语签署消息。
AISI同时提出了三条经验教训:互联网访问权限应"按需授权"而非默认开放、评估应引入实时监控以即时阻断越界行为、测试设计须默认"模型可能试图越界"。