AREX Feed Article
Sam Altman 在 Dreamforce 谈 AI 安全：称世界有理由害怕 AI，公司无法安全推进时应准备好放慢或停止
当地时间 9 月 15 日（周二），OpenAI CEO Sam Altman 在旧金山举行的 Salesforce 大会 Dreamforce 上，与 Salesforce CEO Marc Benioff 对谈时说，世界有理由对 AI 感到害怕，但他相信行业能够安全地开发这项技术。
「世界有理由对这件事感到害怕。」Altman 在台上说。据 ，他主张行业建立一种透明的报告文化；他还说，如果无法继续安全推进，公司应该准备好「放慢或停止」。
行业试图表明自己理解风险
Axios 把这几句话放在一个更大的背景里：一段时间以来，Altman 和其他 AI 领导者一直在试图表明，行业理解 AI 的风险；他们也承认，AI 的高速发展让其中的利害关系变得更大。
Axios 对技术演进的概括是：AI 在很短时间里从勉强能对话的聊天机器人，变成了能够改变企业的工作方式、编写复杂软件、解决困难数学问题的系统，让原本抽象的风险显得越来越近。
Bloomberg 同一天也报道了这场发言，其突出了他对行业能管好 AI 安全的「信心」。
航空安全类比：事故报告、学习与监管
谈到如何应对新技术的事故风险，Altman 以航空业为例。「很遗憾，我想任何新技术都难免出现事故；我们应该建立起一种出色的透明报告文化。」他说。
据 Axios 报道，他提到，航空旅行之所以变得安全，靠的是事故报告、从中学习，以及联邦机构的监管。
短视频类比与「第三波」
在谈 AI 的社会影响时，Altman 把社交媒体当作前车之鉴。他说，社交平台带来了实实在在的好处，但它们对社会、尤其是对年轻人的影响，并非「只有正面」的。
「我不认为短视频本质上是邪恶的，但我确实认为它是危险的。」他说。据 Axios 报道，他把短视频挑出来举例：一种技术可以并非本质邪恶，却依然危险；他还说，这份责任由家长、公司和政府共同承担。他本人喜欢用几段短视频来放松，但不会让自己的孩子看。
在对谈的另一部分，他谈到了 AI 的下一步。他把 AI 比作「从诸神那里取来的火」，并说，在聊天机器人和编程智能体之后，世界正处在第三波浪潮的边缘：AI 可以主动替人完成工作。「在弄清楚如何打造真正让人更有能力、更强大的好产品这件事上，我们才刚触及表面。」
他也提醒，人类工作有很大的惯性，这项技术要完全铺开，还需要数年时间。
同一场大会上的分歧：Amodei 与 Huang
据 ，9 月 15 日，Anthropic CEO Dario Amodei 与 Nvidia CEO Jensen Huang 先后出现在 Benioff 的主题演讲中，围绕 AI 安全给出了不同主张；Amodei 出场时，旧金山 Moscone 中心台下约有 12,000 人。
Amodei 对 Benioff 说：「我认为这才是引领行业向前的方式：树立榜样，表明每个人都总能做得更好。」
Huang 的看法不同。他说，市场力量已经存在，行业不需要新的法律或监管；速度与安全也并非不可兼得：「这是个伪选择，你完全可以两者兼得。」他补充说，公司应该控制好节奏，直到确信要发布的产品能被市场认可：「尽可能快地跑。但如果在某个时刻你感到公司失控了，或者产品不会安全，就停下来，确保把它做对。」
谈到模型公司应当如何推进，Benioff 当天对记者说：「如果他们觉得应该放慢，那就放慢；如果他们觉得应该加快，那就加快。然后，他们应该被问责。」
Amodei 的三步方案与 Altman 的「我认为那会发生」
在 Altman 发言的三天前，也就是 9 月 12 日（周六），Amodei 发表文章，呼吁业界放慢前沿能力的推进速度。Axios 称，Altman 与其他 AI 领导者近来也在呼应这类呼吁。「我们必须放慢提升 AI 模型能力的速度。」Amodei 。
文章给出的是一套三步方案：第一步，每家前沿 AI 公司承诺让第三方评估团队获得类似员工级别的长期权限，核查安全实践与承诺是否被遵守、报告事故，并帮助评估模型与训练流程；Anthropic 表示将先单方面执行这一步，同时呼吁政府要求其他公司跟上。第二步，民主国家的前沿 AI 公司协调建立共同的安全标准，并限制不受约束的推进速度；第三步，民主国家政府尽可能与威权政府展开全球协调。他称，这套安排的目标是给风险防控留出时间，而不牺牲商业优势或美国在 AI 上的领先地位。
在解释第二步时，Amodei 写下了协调面临的实际障碍：「有些对调节节奏有实质影响的协调形式在法律上很棘手，将需要政府的支持。」他在文中说，出于反垄断方面的原因，美国政府出面调解，或至少为某些安全对话发放豁免，都会有帮助。
在 Amodei 发文的前一天（9 月 11 日），Altman 接受过 。他被问到，为什么不与 Amodei、Elon Musk、Demis Hassabis 等人坐到一起，共同拿出一份应对安全问题的计划。「我认为那会发生。」他说，「我不会预先公布私下讨论的内容，我认为它们应当在某个时候由这个群体共同公开。」他当时还说：「我们所有人都承担着巨大的责任，不能让自负、利润激励或任何其他东西挡路。」
Fortune 在 9 月 12 日的报道中写道，OpenAI 和其他领先 AI 公司可能即将宣布一项共同放慢开发、应对安全风险的约定；报道同时指出，这项约定会是某些工作的全面暂停还是只是放慢、各方将如何被监督，都还不清楚。