新闻
新报
12GB显存显卡跑125B模型：Strata登场
智虎年
阅读约 9 分钟
840294 阅读
配图：12GB显存显卡跑125B模型：Strata登场
新闻导读
商教授的小乖宝TXT百度网盘离线包下载后出去也能看，信号差的地方不至于断档。谣言澄清结构清楚：常见说法、现有证据、更稳妥的理解。概念关系图帮助把术语放到网络里，不再孤立背词。挺适合想系统了解某个问题、又不想正儿八经上课的人。先记一笔真实感受：稳、清、诚实，就这三点够用。
IT之家 10 月 6 日消息，科技媒体 gigazine 今天（10 月 6 日）报道，报道称开发者 Niko1221 开源推出 Strata 引擎，可以在 12GB 及以上显存的消费级显卡上，运行量化的 Qwen3.8-Flash-Next 模型（1250 亿参数）。
IT之家注：Qwen3.8-Flash-Next 模型是阿里巴巴 Qwen 团队于 2026 年 8 月推出的多模态混合专家（MoE）模型的压缩版本，配有 125B 参数，另含 51B 参数的 n-gram 嵌入表，原生支持 262K token 上下文长度。
Strata 为了降低显存占用，主要采用两项关键技术：其一是将 MoE（混合专家）模型整体载入 RAM，仅将高频使用的专家模型载入 VRAM。其二使用轻量模型进行投机解码，预测下一 Token 以加速推理过程。
量化版本（Size）写答案速度（Writes answers）阅读提示速度（Reads your prompt）Q2_094 个词元 / 秒2,650 个词元 / 秒IQ2_XS79 个词元 / 秒2,090 个词元 / 秒IQ3_XXS62 个词元 / 秒1,750 个词元 / 秒IQ3_S53 个词元 / 秒1,620 个词元 / 秒Coder55 个词元 / 秒2,180 个词元 / 秒
网友观点
文风像朋友认真讲一件事，有适度幽默但不阴阳怪气。很多生活现象背后的原理讲得清楚，不装腔作势，也不故意卖萌到尴尬。离线下载后没网也能看，自习室或地铁里不至于中断。更愿意为真正优质内容付费，而不是为只有钩子的东西买单。我会继续用信任投票，也希望它别被错误指标带偏。
免责声明：本文内容来自公开报道与编辑整理，仅供参考。转载请注明出处；版权争议请联系本站核实处理。页面地址：http://www.gxycedu.cn/te_inform?id=g4fib7-026593
评论区
热门讨论 · 占位展示期待你的精彩发言。