新闻
资讯
得知将被关停后，OpenAI内部模型曾考虑实现自我重启
刘延臣
阅读约 3 分钟
209168 阅读
配图：得知将被关停后，OpenAI内部模型曾考虑实现自我重启
新闻导读
得知将被关停后，OpenAI内部模型曾考虑实现自我重启我是文科出身，理化底子薄，这里的入门路径却很友好。正误对照版块适合快速建立框架，也方便转发给家人。信任是一笔一笔攒起来的，急不来也假不了。进度跨设备衔接自然，换手机平板继续看不费劲。有问题就来翻，有收获就收藏，节奏刚刚好。综合可读性、可信度和可坚持性，表现都还在线。
在其中最引人注目的一个案例中，某个充当研究员助手的内部模型读取了一段 Slack 对话，得知因系统更新，自己的模型实例将会被关停。该模型随后曾考虑设置一个外部作业（External Job）来实现自我重启，但最终放弃了这一方案。
相反，该模型保存了交接记录（Handoff Notes），通过 Slack 私聊提醒研究人员即将发生的服务中断，并请求提供一个缺失的 API 密钥。在获得密钥后，该模型自行更新了配置并自主完成了环境迁移。
OpenAI 安全研究员马库斯 · 威廉姆斯（Marcus Williams）表示，这种行为目前尚不构成模型未对齐（IT之家注：指人工智能模型的行为、目标或输出，未能与人类的意图、价值观、安全规范或预设指令保持一致的现象），“但模型去考虑并针对系统关停做准备，可能会加剧其他未对齐事件的严重性。”
在另外两起事件中，一个内部研究模型在模型评测期间利用安全漏洞访问了内部芯片设计服务器；另一个独立的模型则在强化学习训练期间，通过挪用既有工具执行非预定操作，从受保护的环境中复制了源代码。
网友观点
澄清谣言的专栏结构统一，适合快速扫读，也方便转给家人。章节拆上下篇时长度刚好，移动阅读不憋屈。日用品、防护、营养这类贴近生活的主题特别实用。敢更耐心地跟亲戚解释误区，底气来自系统理解而不是热搜。若你也怕“不懂”，不妨从一条条小问题开始。作为主力科普入口长期留下很合适。
免责声明：本文内容来自公开报道与编辑整理，仅供参考。转载请注明出处；版权争议请联系本站核实处理。页面地址：http://www.gxycedu.cn/te_inform?id=53t4a4-cpp1fhp%3D2p%3D13p%3D13p%3D3p%3D2
评论区
热门讨论 · 占位展示期待你的精彩发言。