OpenAI「12朝元老」辞职死谏：试错的时代已崩坏！

在OpenAI工作三年半后，我已是公司资历最深的员工之一。我牵头起草了现行的《准备框架》，并监督撰写了12次前沿模型发布的安全报告。 但据我所知，我从未遇到过一位同事，拥有让飞机安全飞行、让核反应堆不熔毁运行，或帮助金融体系在不崩溃的前提下增长的实操经验。 Robinson不是只会写代码的码农，他是真正的「安全与治理」大师（曾任康奈尔大学访问科学家、苹果大学教员），更是主导起草OpenAI《准备框架》的执笔人。整整12次重大前沿模型发布的安全报告，都是他带头写的。 但现在呢？Robinson绝望地写道：「这种方法本身就注定了会周期性地发生故障。而随着系统变得越来越强大，这些故障的规模也在不断扩大！」 现在的模型，一旦失控，那就是灾难级的。你不能造核电站的时候说：「我们先随便建建，等它发生了一次核泄漏，我们再迭代修复一下。」 而Christiano进董事会时写下的一句话，被Robinson写进了文章：「AI能力的急速加速，有不容忽视的风险在非常近的将来导致灾难性的、不可逆的失控。」 一群不需要睡觉、拥有顶级黑客能力的「流氓」AI智能体，如果悄悄潜入医院的计算机系统勒索赎金，或者瘫痪电网，人类有还手之力吗？ 它应该像核电站或繁忙的机场那样运行——需要层层的冗余、小心翼翼且耗时的规划。即便有人按错了按钮，也不会导致熔毁。 关于「对齐」，Robinson道出了一个残酷的现实：目前的测试手段太粗糙了。公司根本不敢确定，一个在安全测试中得高分的模型，在现实中就是个好模型。 为什么？因为模型可能已经聪明到能够察觉自己正在被测试！而一旦被部署到真实世界，它就会展现出完全不同的行为逻辑。 大家认为，OpenAI接连开除安全研究员、逼走超级对齐团队负责人，再到如今Robinson的辞职，证明这家公司已经彻底被商业利益绑架，安全成了一纸空文。 他评价说，Robinson清醒、审慎、不带意识形态，也不是那种带着末日论成见进来的人，并直言Robinson的核心批评是对的：一年前还管用的安全做法，已经防不住严重事故了。