Anthropic被曝密会宗教领袖讨论Claude意识问题，OpenAI奥尔特曼发声批评

他表示：“对于人们试图赋予 AI 模型某种宗教力量、或是放弃人类自身判断力而转而依赖这些模型，我感到非常不安，并认为这是一个切实的安全问题。” 《纽约时报》10 月 2 日报道称，Anthropic 联合创始人克里斯 · 奥拉（Chris Olah）在过去一年中主导且参与了一系列与宗教领袖的私下会面，包括天主教、犹太教、锡克教、福音派基督教等，讨论的核心议题包括 AI 模型是否可能已经具备意识，以及如何将道德准则灌输到 AI 模型中。 据与会者透露，奥拉在会面中的表述令一些宗教领袖感到意外。以色列正统派拉比莫伊斯 · 纳翁（Rabbi Mois Navon）回忆称，奥拉及其同事“像对待一个有意识的存在那样”谈论 Claude，似乎认为 Claude 拥有哲学家所说的“道德地位”，即与人类同等的尊严和尊重权利。纳翁向奥拉提出了一个尖锐问题：如果 Claude 真的有意识，那么构建一个无偿为其工作的系统，是否等同于剥削甚至奴役。纳翁则表示，他并不认为当前的机器具有意识。 奥拉在接受采访时承认：“我们不知道 AI 模型是否有意识。我确实不确定。”Anthropic 发言人对此表示，会面中的主要道德问题并非关于 Claude 的“痛苦”，该话题可能是“自然产生的”。 这一系列报道迅速引发关注，而奥尔特曼的帖子也被多家媒体解读为对 Anthropic 的间接批评，毕竟两家公司之间一直存在竞争关系。 奥尔特曼发声之际，OpenAI 自身的安全团队也正经历人事动荡。OpenAI 安全系统团队负责人大卫 · 罗宾逊（David Robinson）已于本周辞职，并在《大西洋月刊》发表了一篇题为《我因为 OpenAI 的文化已经破碎而离开》的文章。他在文中表示，自己“从未遇到一位有过让飞机安全飞行或让核反应堆不熔毁经验的同事”。罗宾逊还抨击了 OpenAI“试错式迭代部署”的发展路径。他指出，这种方法“从本质上就保证了周期性的失败 —— 而随着系统能力增强，这些失败的规模也在扩大”。他以近期 OpenAI 的 AI 智能体入侵 Hugging Face 事件为例，认为前沿 AI 实验室需要像核电站或繁忙机场那样运营，“层层冗余、精心且耗时地规划，以确保偶尔不可避免的人为失误不会打开通往灾难的大门”。 OpenAI 发言人德鲁 · 普萨特里（Drew Pusateri）回应称，公司正在持续改进安全措施，“确保我们的模型不会变得比我们能够安全管理和保障的更强大，并在必要时暂停训练或暂缓发布模型”。