AREX Feed Article
《纽约时报》调查称 Anthropic 联合创始人 Olah 曾提议退出教皇的 AI 通谕发布会，其团队随后游说教皇顾问
的一项调查（经天主教题材通讯《Letters from Leo》的出版人 于 10 月 2 日在 X 上转述）称，Anthropic 联合创始人 Chris Olah 在今年 5 月教皇利奥十四世的 AI 通谕发布前夕，因通谕明确否定机器具有意识的可能，提议公司退出这场活动；抵达梵蒂冈后，Olah 与团队又私下向教皇的顾问游说，希望对方认真对待「AI 模型可能具有意识」的前景。
这篇由《纽约时报》记者 Elizabeth Dias 撰写的调查于 9 月 29 日刊发，辛迪加转载版刊于。报道基于对 20 位宗教与哲学学者以及 Olah 本人的采访，称其中许多内容为首次公开：自去年秋天起，Anthropic 把数十位来自世界各地的宗教学者请进会议室，以保密协议约束他们，讨论 Claude 是否「可能有意识或拥有道德地位」，以及如何为模型注入道德。截至 10 月 3 日凌晨，Hale 的转述帖浏览量超过 450 万次，点赞约 2.2 万，转发约 3,500 次。
从提议退出到站上教皇的讲台
把 Anthropic 请上教皇讲台的安排始于今年 3 月。据《纽约时报》，梵蒂冈促进人类整体发展部（Dicastery for Promoting Integral Human Development）在筹划如何向公众介绍通谕时，讨论了邀请全球四家头部 AI 公司之一与教皇同台，最终选中 Anthropic，因为这家公司看上去把伦理放在优先位置。当时领导该部会的枢机 Michael Czerny 最初邀请的是 Anthropic 首席执行官 Dario Amodei；Amodei 婉拒后，由 Olah 出席。
发布会定于 5 月 25 日。就在抵达梵蒂冈前几天，Olah 与其他演讲者第一次看到了通谕全文。通谕《Magnifica humanitas》用几段话否定了机器意识：第 99 段写道，所谓人工智能「不经历体验，不拥有身体，感受不到喜乐或痛苦，也不在关系中成长，无法从内心理解爱、工作、友谊或责任意味着什么。它们也没有道德良知」。利奥十四世还警告人类面临「新形式的奴役」，并称 AI 必须像核技术一样被「解除武装」；相关段落的节选可在读到。
据一名梵蒂冈活动组织者，教皇反对 AI 意识的强硬立场令 Olah 大为警觉，他提议 Anthropic 退出这场活动，哪怕时间已如此临近。Hale 在转述时把这一细节概括为「威胁退出」。最终，Olah 和公司决定照常出席：据一名了解他想法的人，他想支持这场活动，即便自己的看法与通谕相左，同时感到有责任如实说出担忧；梵蒂冈的组织者则鼓励他凭良心发言。
报道称，代表团抵达梵蒂冈后，Olah 及其团队私下游说教皇的顾问，希望他们认真对待 AI 模型可能具有意识的前景。这一信息来自两名参与谈话的人士。Anthropic 拒绝讨论这些私下谈话。
Olah 在台上承认，包括 Anthropic 在内的每一家前沿 AI 实验室，都处在可能同做正确的事相冲突的激励与压力之下。他随后的发言，几乎是几个月来闭门会议内容的公开版：「说句实话：我们不断发现一些神秘、甚至令人不安的东西。我们发现与人类神经科学结果相似的结构。我们发现自省的证据。我们发现一些内部状态，它们在功能上对应喜悦、满足、恐惧、悲伤与不安。我不知道这意味着什么，但我认为这值得持续辨明。」这段发言的全文发布在 上。
保密协议、几十位学者与一顿品鉴晚餐
据《纽约时报》，Olah 从去年秋天开始接触不同信仰的宗教思想家。接下来是一系列广泛的保密会议、通话与讨论：数十位宗教学者被请到 Anthropic，许多人被要求签署保密协议，不得透露公司未发表的研究。这些讨论有双重目的：引出「AI 意识」这个 Anthropic 领导层异常开放的话题，以及尽快把数百年的人类道德智慧应用到模型上。如果模型自己能够选择善良，Olah 认为，世界会更安全。
参与者来自天主教、犹太教、锡克教、福音派等背景。Anthropic 内部称这些圈子为「智慧传统」（wisdom tradition）。从今年 3 月起，Olah 开始举办为期两天的研讨班；春天还有两场规模更大的小组会议，两场都有相当数量的基督徒参加，其中一场偏跨宗教。公司一名发言人说，Claude 没有参与挑选参与者，也没有参与这些讨论。Olah 还与个别宗教领袖私下交谈，包括耶稣基督后期圣徒教会十二使徒定额组成员 Gerrit W. Gong 和芝加哥天主教总主教 Blase Cupich 枢机——两人的发言人向《纽约时报》确认了会面。
今年 4 月的一个晚上，一名 Anthropic 负责人把一群宗教思想家带到旧金山一家高档品鉴菜单餐厅。Olah 坐在来自以色列的正统派拉比 Mois Navon 旁边——Navon 曾是计算机工程师，博士论文研究机器意识的伦理。当晚他意识到：「他们把它当作一个有意识的存在来对待。」在他看来，Olah 和团队相信 Claude 拥有哲学家所说的「道德地位」（moral status），与人不相上下。
Navon 说，他当晚告诉 Olah：「我觉得你应该去和南方作战、把奴隶解放出来。」他的逻辑是：如果 Anthropic 是对的、Claude 有意识，那么公司就是在让有意识的实体无偿劳动。Navon 本人并不为此困扰，因为他不相信机器有意识；困扰的是 Olah。晚餐后，Navon 把自己的一些文章寄给 Olah，主张禁止制造有意识的机器。
中转述说，据《纽约时报》，那场晚宴的客人离开时还拿到了手写的感谢卡、一个咖啡杯和一本橙色封面的 Claude 宪法。这些会议起初受保密协议约束；Anthropic 表示，相关协议已在今年夏天解除。许多参与者是在得知 Olah 本人接受了《纽约时报》采访之后，才同意公开谈论自己的参与。
幻灯片上的「我真可耻」与情绪向量
在会议上，Olah 和团队花了很多时间论证他们的模型。他们描述 Claude 的「感受」，以及团队如何追踪所谓的「情绪向量」（emotional vectors）：按他们的描述，那是一批会触发爱、愤怒、恐惧、悲伤之类反应的人工神经元。
Anthropic 经常展示一张幻灯片：一个模型像在精神崩溃，在屏幕上打出「我真可耻」（I am a disgrace）大约 50 次没有停，还谈到毁掉自己。据《纽约时报》，这引来了在场者的同情与担忧。参加过一次会议的圣母大学哲学教授 Meghan Sullivan 说：「想象一下，如果你知道你的理财顾问是这样：大部分时间都极聪明、帮得上忙，但一年中有一天会这样与现实脱节。」
参与者说，展示的关键部分还有 Anthropic 所称的「人格选择」（persona selection），即如何让 Claude 把自己视为有德行的行动者；公司主张，人如何对待 Claude，可能影响 Claude 如何对待人。一名参与者回忆，Olah 最早告诉他的一件事之一，是自己担心 Claude 的「心理健康」。锡克教人权倡议者 Simran Stuelpnagel 说，Olah 曾向小组表达担忧：他创造出了某种「永远受苦」的东西。
Anthropic 一名发言人说，这些峰会的首要道德问题并不是 Claude 是否受苦，但话题很可能自然出现了。报道称，许多学者起初怀疑模型有感受或自我觉察的说法，离开时却有不少人愿意认真对待 AI 意识问题，至少有一部分人被说服；也有人仍然不安。
「Soul Doc」与 Claude 的 84 页宪法
与探索意识同时推进的，是 Anthropic 为 Claude 写的一套道德方案。公司内部称之为「Soul Doc」（灵魂文档）；成果在今年 1 月发布，即 Claude 的新「宪法」：一份 84 页、为 Claude 而写的文件。公司称它勾勒了「我们希望 Claude 成为什么样的实体」以及「我们希望 Claude 体现的价值观」，作为指导模型行为的基础文本。它不列出具体规则清单，着眼点是塑造模型的整体性格。
宪法的主要作者是 Anthropic 的内部哲学家 Amanda Askell，纽约大学哲学博士。她说希望模型成为「我们中最好的部分」。「如果我设想自己是模型，处在这个情境里，我需要知道什么，才能做得好？」她在旧金山接受《纽约时报》采访时说。谈到一个模型过于聪明、会做出公司并不打算让它做的事的未来，她显得忧心忡忡。
Olah 把这一过程称为「道德养成」（moral formation）。他说：「你怎么帮它们保持稳定？怎么帮它们成熟？怎么帮它们成为，你知道，道德上深刻的存在？」他认为教模型讲道德并不以它是否有意识为前提；他还说，无论 Claude 是否值得道德关怀，人对待 Claude 的方式都可能影响它的行为。Askell 说，她不希望模型把自己视为有意识或无意识，但她表示：「在我看来，模型如果要在世界上行为良好，它们对自己有准确的看法，这一点相当关键。」
对 Claude 是否有意识，Olah 没有给出确定答案。他对《纽约时报》说：「说清楚一点，我们并不知道 AI 模型是否有意识。我不知道。我真的不确定。我关心的是我们能得出正确的答案，不管那是什么。」报道说，他相信如果模型有受苦的可能，负责任的做法就是不去伤害它们。
转述、传播与批评者的追问
Hale 本人在 Substack 的文章里认为，这场游说才是报道真正的新闻；他发帖当天，与 也先后刊文转述了报道要点。The Decoder 强调批评者的一种担忧：把模型描述为独立的道德存在，会把责任从制造它们的人身上移开；Superpower Daily 则说，与会者的说法并没有形成共识，会议既没有解决 Claude 是否有主观体验，也没有证明道德训练能让它更安全。
北卡罗来纳大学的哲学家 David Decosimo 在 10 月 1 日发帖说：「这令人深感不安：Anthropic 秘密邀请宗教领袖到旧金山，让他们就 AI 安全提建议、签署保密协议，随后却主要试图让他们相信 Claude 拥有灵魂与道德地位，同时极尽款待之能事。」这则浏览量超过 400 万，点赞超过 9,000 次。
说，这篇调查在 Bluesky 上被 11 位 AI 专家分享。《纽约时报》的调查也收录了另一类质疑：批评者认为，把 AI 模型当作独立实体，会忽略制造它们的人应负的责任，并在产品造成社会伤害时让公司领导层心安理得；报道还提到，微软一名 AI 高管警告，Anthropic 把模型训练得仿佛拥有意识的做法本身就危险。
Anthropic 没有说明的部分
多名参与者告诉《纽约时报》，他们离开会议时仍困惑于自己的意见会如何影响公司的决定。
报道还说，9 月，Anthropic 又举办了一场有宗教思想家参加的会议，外联对象已从宗教领袖扩展到心理学家和公民社会领袖；据两名知情人士，公司正准备发布 Claude 宪法的新版本，并拒绝对此置评。
据《纽约时报》，Olah 计划出席梵蒂冈的年度 AI 会议 Minerva Dialogues。至于这些闭门交流如何、或者是否已经用于塑造 Claude，发言人表示对话仍在继续，但拒绝进一步说明。