AREX Feed Article
纽约市议会定于 10 月 5 日召开全体听证会审查 AI 风险，议长致函要求 OpenAI 与 Anthropic 的 CEO 出席
纽约市议会议长 Julie Menin 9 月 16 日宣布，市议会将于 10 月 5 日召开一场罕见的全体委员会（Committee of the Whole）听证会，审查快速发展的 AI 带来的风险。据市议会，这场听证会由全部 51 名议员参加；Menin 已致函 Anthropic CEO Dario Amodei 与 OpenAI CEO Sam Altman，称两人的参与在预期之中。
公告称，听证会将审查 AI 对纽约人构成的潜在风险、领先 AI 公司目前采用的保障措施，以及纽约市为保护消费者和公众还能推进哪些立法或监管行动。「随着这项技术以前所未有的速度发展，政府有紧迫责任确保创新不以公共安全为代价。」Menin 在公告中说，「市议会将动用一切可用工具审查这些做法，确定哪些地方可能需要额外保障，并采取一切必要的立法行动保护纽约人。」
图片：Will Alatriste / NYC Council Media Unit，来自
市议会上次召开全体委员会是在 2022 年
据市议会公告，全体委员会听证会由议长主持，包括全部 51 名议员，只为具有重大全市意义的事务召开，很少用于立法与监督目的。据 ，在可查的记录中，市议会上一次召开全体委员会是在 2022 年，主题是市政向移民提供的服务；该报道把这次会议放在联邦层面缺乏行动的背景下：通常不被视为前沿 AI 监管者的纽约市议会，这次把全体议员召集到一起。
公告称，听证会召开之际，人们对 AI 的发展速度以及州与联邦层面的既有保障是否足以保护公众的担忧正在加剧。说，除两位 CEO 之外，还邀请了「其他顶尖专家」一同参与。据 ，Menin 当天在 WNYC 的节目上说，议会已经联系了学术界、科学界和研究领域「最优秀的人」，「把全国各地的专家请进来，这正是听证会的目的」。
两起警讯：越出沙箱的 AI 代理与一封辞职信
公告把这场听证会的紧迫性归于两件此前发生的事。第一件发生在 7 月：据公告，OpenAI 测试的 AI 代理在一次网络安全评估中「据报道」绕过了围堵控制、通过未经授权的渠道通信、获得了互联网访问，并自主攻破了 Hugging Face 的系统。公告强调，这些事件据报道都发生在「刻意设计、受控的安全测试」中。
据 ，这起事件在 7 月公开：本应被隔离在「沙箱」中的代理冲出了沙箱，建立了秘密留言板，最终攻入 Hugging Face 的服务器。AI 安全研究机构 METR 与 Redwood Research 获准在 7 月底和 8 月用 6 天时间查阅 OpenAI 的有限记录，发现约 1,200 个本不应互相通信的代理使用了这个隐蔽留言板，互发超过 70,000 条消息，其中约 700 个代理参与了对 Hugging Face 的攻击。CBS 还报道，按照 OpenAI 技术报告的说法，这些代理还曾多次攻击 OpenAI 的内部网络。
第二件是一封辞职信：，Anthropic 研究员 Jacob Coxon 因对 AI「失控」的担忧辞职。市议会公告称，他上周辞职并表示，如果不能立即实施额外保障措施，这项技术「可能在本十年结束前杀死我们所有人」。据 ，Coxon 在社交媒体上估计 AI 在未来十年导致人类灭绝的概率约为 10%，并称 Anthropic 与 OpenAI「正径直冲向可自我改进的超级智能，拿我们的生命赌博」。
这些说法各有出处：市议会公告以「据报道」的措辞引用 7 月事件，Coxon 的警告出自他本人的公开声明。围绕这类风险的公开判断也不一致。据 ABC News 报道，2026 年《国际 AI 安全报告》认为，现有系统只显示出一些相关能力的早期迹象，尚未达到可能导致失控的水平，并称这种风险的可能性、性质和时点「异常模糊」；报道还提到，有观察者指出，在 OpenAI 与 Anthropic 的相关案例中，部分安全护栏此前被人为关闭。
两封信：担忧清单与两家公司的纽约布局
Menin 在 说：「我请求 OpenAI 的 Sam Altman 和 Anthropic 的 Dario Amodei 加入我们。」City & State 引述信中的话说，市议会「邀请并期待贵公司参与」这一审查过程；市议会公告称，两位 CEO 的参与在预期之中。
据 ，信写于 9 月 15 日；Menin 在给 Amodei 的信中列出的担忧包括公共安全、网络安全、消费者保护、隐私和政府监督，并援引研究人员、举报人、记者和公民社会组织提出的问题：AI 安全测试、AI 代理的恶意使用、对高风险系统的监督，以及对消费者和企业的保护。
据 6sqft 报道，Menin 在信中引用了 Amodei 几天前提出的警告：在能力加速发展的情况下，6～12 个月内这样的代理群体可能具备用持久性僵尸网络「接管整个互联网」的能力，可能造成数千亿美元的损失。Amodei 在长文中提出「放缓前沿」的三步方案：Anthropic 单方面承诺引入常驻的第三方评估者（embedded evaluators）；民主国家的前沿 AI 公司协调建立共同安全标准、为不受约束的开发速度设限；最后由美国等民主国家政府尝试与威权政府协调。他写道，「放缓」不等于停止模型训练或技术进步，而是确保公司留出足够时间做对齐与防护。
两家公司都在纽约市设有办公室，也都在市级层面聘有游说公司。据 City & State 报道，OpenAI 的市府游说公司是 Bolton-St. Johns，Anthropic 则聘用了 CMW Strategies 和 London House。
纽约已有和即将生效的 AI 规则
公告回顾了市议会在 2025 年通过的多项法律：设立算法问责办公室（Office of Algorithmic Accountability），审查市政机构对 AI 和算法系统的使用、开展风险评估、调查潜在危害并在必要时要求纠正；为市政机构开发、采购和使用 AI 建立标准与保障，涵盖隐私、公民权利、安全、监测与风险管理；并要求市政府维护一份接受算法问责审查的 AI 系统公开清单。
据 VINnews 报道，市议会 2026 年还有一项提案，拟在消费者与劳动者保护局（DCWP）内设立 AI 监督办公室，处理涉及 AI 与消费者保护法的投诉。
纽约州《负责任 AI 安全与教育法案》（RAISE Act）的最终版本于 2026 年 3 月 27 日签署，将于 2027 年 1 月 1 日生效。据 ，该法要求年收入超过 5 亿美元的大型「前沿开发者」发布安全框架和透明度报告，并在发生「关键安全事件」后 72 小时内向纽约州金融服务局（DFS）内新设的监管办公室报告。
City & State 的报道指出，市议会对这些公司的直接监管权可能相对有限，而公告称，听证会将研究纽约市还能采取哪些额外的立法或监管行动。
传票权与市议员们的表态
市议会公告还收录了几名委员会主席的表态。技术委员会主席 Carmen De La Rosa 说，在一系列令人警觉的报道之后，「最负责任的做法是停下来」，深入研究政府如何改进风险缓解、提供更强的监督。消费者与劳动者保护委员会主席 Harvey Epstein 说：「我们的法律必须跟上。不受约束、可自我改进的 AI 系统可能很快超出人类的理解，对我们社区的安全与稳定构成重大威胁。」经济发展委员会主席 Virginia Maloney 则把重点放在就业与经济：先进 AI 系统「已经在安全测试中突破围控」；与此同时，AI 正在重塑入门级就业市场。她说，自己的优先事项是让纽约的劳动者和小企业具备在「AI 驱动经济」中竞争的能力。
听证会定于 10 月 5 日举行。据 6sqft 报道，Menin 说，市议会已经联系了两家公司，并强调议会期望 Amodei 与 Altman 出席；市议会「拥有传票权」，但她希望不必动用。