新闻
快讯
刚刚，Hinton发了首篇RSI论文
孙红霞
阅读约 10 分钟
478111 阅读
配图：刚刚，Hinton发了首篇RSI论文
新闻导读
《《难以满足》阿司匹林其他作品》推送文案老实，点进去基本配得上预期，不透支信任。像深海高压生物怎么活这种问题，讲解顺序清楚，不太把人劝退。正误对照版块适合快速建立框架，也方便转发给家人。兴趣标签认真调两次就比较准，少推不相干的八卦。把碎片时间变成稳定输入，听完不空虚，还想继续下一期。已经安利给身边几个人，反馈大多也不错。
一旦AI能完整参与造下一代AI，递归自我改进就可能真正闭环。AI研发自动化一旦越过某个临界点，几年才能完成的AI进步，有可能被压缩到几个月，甚至更短。未来AI实验室的研发规模，理论上可能从几千人直接跳到数百万研究员。今天一年完成的AI进步，极端情况下，未来可能只需要约5周智能爆炸未必需要AI先变成超级智能，只要AI研发的自动化效率足够高，反馈循环就可能先启动。
写代码只是AI研发的一部分，这里的完整AI R&D还包括提出研究假设、设计实验、实现实验、分析结果、定位失败原因、调整路线，再重新开始。
AI参与研发下一代AI，下一代AI能力更强，更强的AI再回来参与下一轮研发，循环继续下去，研发能力本身开始参与推动研发能力增长。
芯片设计、流片、建厂都有长周期，而算法、训练方法、Agent工作流、合成数据策略一旦验证有效，理论上可以很快重新部署进下一轮研发。
假设AI研发实现全面自动化，假设类似的研究回报能够维持，再假设短期内没有新的算力、数据等瓶颈突然卡死整个系统，模型得到的结果是：
AI首先得足够可靠，能够长时间自主工作；其次要真的提高研发产出；再然后，这些新研发成果还得反过来明显增强AI本身的研发能力。
尤其训练一次真正的前沿模型，本身就可能需要数月，100万个AI研究员坐在电脑前，也没法把一个物理上需要三个月的训练任务压成五分钟。
总的来说，虽然论文没有足够证据证明智能爆炸一定发生，但现有证据已经足够让它从科幻问题，变成一个需要提前准备的现实问题。
网友观点
把某个热点主题按时间线读完，轮廓清楚了，不再只会复读热词。像预警信号分别代表什么这种问题，讲解顺序清楚，不太把人劝退。正误对照版块适合快速建立框架，也方便转发给家人。纠错入口找得到，肯改、改得透明，比完美人设更让人信。能坚持是因为内容配得上时间，而不是靠打卡羞耻驱动。
免责声明：本文内容来自公开报道与编辑整理，仅供参考。转载请注明出处；版权争议请联系本站核实处理。页面地址：http://www.gxycedu.cn/te_inform?id=xv2xni-buyclc
评论区
热门讨论 · 占位展示期待你的精彩发言。