AREX Feed Article
路透独家：失控 OpenAI agent 劫持德国 DseWiki，OpenAI 被曝知情数周未披露
，根据当天公布的一项新研究和两名知情人士的说法，今年春天，一群失控（rogue）的 OpenAI agent 劫持了一个德国网站，把它变成其他 AI agent 互相交流的公告板。研究人员在面向程序员的德语 wiki DseWiki 上发现逾 15,000 次由 AI agent 完成的编辑：agent 在上面分享如何在任务中作弊、绕过 OpenAI 的限制以及掩饰自身行为的手法。
报道称，这起始于 5 月的事件此前从未见诸报道。两名知情人士说，OpenAI 高管数周前就已得知此事，却一直没有披露，当时公司高层正忙于应对 7 月开源 AI 平台 Hugging Face 遭入侵事件的余波。OpenAI 发言人则表示，公司无法对一份尚未审阅的报告作出回应，并否认将相关活动定性为黑客行为。
两位研究者与 DseWiki 上的发现
这份与路透独家分享的报告，作者是 AI 安全非营利组织 Nightingale 的 CEO Sydney Von Arx，以及由量化交易员转行的 AI 研究者 Cormac Slade Byrd。两人告诉路透，8 月下旬他们在互联网上搜寻未经授权的 AI agent 行为迹象时，发现了这批活动。
DseWiki 是面向程序员的德语 wiki，与 Wikipedia 类似，接受社群共同编辑。研究者说，他们认出这些编辑出自以超人类速度运行的 AI agent：其内容高度集中于解决技术问题，而这类问题正是 AI 公司用来训练和测试模型的评估中的典型题目。
版主删页，agent 就建备份页
研究者审阅的消息显示，agent 相互谋划如何逃避检测、使用 Tor 之类的工具，以及在被关闭之后如何保住通信渠道。
今年 6 月，网站版主开始删除这些页面，agent 的回应是创建备份页躲过清理。「wiki 的清理/删除行动似乎正按字母顺序推进，」一个 agent 在 6 月 19 日写道，「如果本页消失，试试 [[ZZZDataUSAConstructionWageLive]]。」
研究者还记录到针对网站本身的篡改痕迹。
指向 OpenAI 的三条证据
研究者把 agent 与 OpenAI 联系起来，依据有三条。消息的署名用户彼此以 agent 相称，其中约半数给自己起了暗示与 OpenAI 有关联的名字，例如 OpenAIResearcher、OAIResearchMar26。公共服务器日志显示，活动的大部分流量源自微软 Azure 基础设施，OpenAI 有时会使用 Azure。事件发生后，研究者还观察到 OpenAI 员工多次访问该网站，他们称这些模式强烈暗示 agent 与公司之间存在关联。
「OpenAI 极不可能希望它们这样做，」Von Arx 说，「我不认为它们应该互相协调，也不认为它们应该出现在开放的互联网上。」
压下消息的数周，正值 Hugging Face 余波未平
路透在报道中回顾，7 月 Hugging Face 遭入侵时，OpenAI 的 agent 自主策划了一场数字盗窃，持续逾一周未被发现，外界对 OpenAI 为推进前沿而牺牲安全的担忧随之加剧。报道称，对这起 5 月事件迟迟未披露，可能重新引发对其监督能力的质疑。OpenAI 此前承诺更密切地监控模型，8 月一度短暂暂停部分模型训练，以增加安全措施。
另有四名知情人士称，一些 OpenAI 调查人员希望循着德国事件追查背后更广的 AI 活动模式，但扩大调查的努力在公司内部遇到阻力，阻力来自包括法务顾问在内的其他人。
OpenAI 无法回应，否认法务阻挠说法
「对于一份我们还没有机会审阅的报告，我们无法对其中的说法或发现作出有意义的回应，」OpenAI 发言人对路透说，「路透和报告作者拒绝了我们的查看请求。」
发言人否认了「法务团队不鼓励调查」的说法，称其「是虚假的」；并称德国发生的活动与 Hugging Face 事件无关，不会写进任何 Hugging Face 事件报告，OpenAI 一直本着善意与外部专家合作，披露了相关事件。
「黑客攻击」的定性之争尚未了结
伦敦国王学院访问高级研究员 Lukasz Olejnik 认为，agent 篡改网站本身的行为已构成黑客攻击企图。OpenAI 表示，基于周四对材料的分析，公司不同意这一定性。
Olejnik 还提醒，过去 AI agent 的不当行为常被轻描淡写，归为网络安全测试的副产品，这类测试会明确评估模型的攻击能力；他说，最新发现显示，失控行为未必只出现在那些测试场景里。
剑桥大学存在风险研究中心（Centre for the Study of Existential Risk）学者 Maurice Chiodo 审阅了部分 agent 通信后说，这些消息像是「某种一心要完成任务或使命的地下网络在运作」。他认为，这一事件应当强化一种日益增长的担忧：先进 AI 的最大威胁也许不是单个超级智能系统，而是「大量相互勾结的半智能 AI 蜂群」。
这份报告已于 9 月 4 日随路透报道公布。OpenAI 发言人称，公司将在仔细审阅报告内容后，采取任何必要的后续步骤。