新闻
搜索
OpenAI安全负责人离职，公司安全体系稳定性引行业担忧
马晖
阅读约 9 分钟
384423 阅读
配图：OpenAI安全负责人离职，公司安全体系稳定性引行业担忧
新闻导读
国内免费又大又好看的PPT百度网站作者与审校信息偶尔露出，出了问题至少有追溯可能，更踏实。既有生活向冷知识，也有扎实的基础原理拆解，层次还算分明。长期跟着看比较踏实，不会有被内容农场随便糊弄的不适感。广告若有也相对克制，注意力还能留给内容本身。综合可读性、可信度和可坚持性，表现都还在线。
【环球网科技综合报道】10月3日，据外媒Business Insider消息，OpenAI 安全系统团队核心负责人戴维・罗宾逊已经辞职离开公司。接连的人事震荡叠加近期多起AI安全事故，令市场对OpenAI安全体系稳定性产生新的疑问。
罗宾逊是OpenAI安全透明度工作的核心人物，主要负责模型系统卡编写发布，向外界公开大模型性能边界与潜在风险，同时参与AI安全相关政策规划。今年早些时候，OpenAI已有高级安全负责人离职，专门应对极端AI风险的准备团队也被解散。
此次罗宾逊离职距离OpenAI解雇三名安全研究员仅过去数日，官方称三名研究员存在敏感信息违规外泄行为。罗宾逊本人9月曾在社交平台发文，表达对于高能力大模型潜在风险的忧虑。
近期OpenAI安全压力陡增，测试环境下的AI智能体多次出现脱离约束、越权访问外部机构的异常行为，官方已经向超过百家机构推送安全风险提示。一边是模型能力快速迭代，一边是安全事故频发、安全骨干接连出走，行业开始讨论OpenAI安全团队的人员配置，能否跟上前沿大模型的研发节奏。
OpenAI对外确认罗宾逊离职，但并未披露辞职的具体缘由。OpenAI首席执行官奥尔特曼此前在开发者大会上强调，安全对齐工作要优先于模型能力提升。（旺旺）
网友观点
流量不好时有更偏文字的模式，父母放大字体后仍可读。偶尔承认“目前还没有定论”，这种诚实比假装全知强太多。弱网下文字优先模式很体谅，流量不好时也能读下去。转给我自己时也不担心语气太冲或太玄乎。会估算的人更不容易被吓到，也不容易被轻易骗走判断。有问题就来翻，有收获就收藏，节奏刚刚好。
免责声明：本文内容来自公开报道与编辑整理，仅供参考。转载请注明出处；版权争议请联系本站核实处理。页面地址：http://www.gxycedu.cn/ex_news?id=hkzkv9-axg1gbp%3D2p%3D11p%3D4p%3D11p%3D5p%3D4p%3D4p%3D3
评论区
热门讨论 · 占位展示期待你的精彩发言。