新闻
中联社
12GB显存显卡跑125B模型：Strata登场
赵洪生
阅读约 2 分钟
563111 阅读
配图：12GB显存显卡跑125B模型：Strata登场
新闻导读
妈妈浮殇小说TXT下载百度健康科普写得克制，反复强调“不能替代就医”，这点我很尊重。分类能按学科，也能按生活场景找，通勤或睡前翻两篇都不累。正误对照版块适合快速建立框架，也方便转发给家人。用来调节备考状态也合适，输入质量高，不觉得浪费时间。作为主力科普入口长期留下很合适。
IT之家 10 月 6 日消息，科技媒体 gigazine 今天（10 月 6 日）报道，报道称开发者 Niko1221 开源推出 Strata 引擎，可以在 12GB 及以上显存的消费级显卡上，运行量化的 Qwen3.8-Flash-Next 模型（1250 亿参数）。
IT之家注：Qwen3.8-Flash-Next 模型是阿里巴巴 Qwen 团队于 2026 年 8 月推出的多模态混合专家（MoE）模型的压缩版本，配有 125B 参数，另含 51B 参数的 n-gram 嵌入表，原生支持 262K token 上下文长度。
Strata 为了降低显存占用，主要采用两项关键技术：其一是将 MoE（混合专家）模型整体载入 RAM，仅将高频使用的专家模型载入 VRAM。其二使用轻量模型进行投机解码，预测下一 Token 以加速推理过程。
量化版本（Size）写答案速度（Writes answers）阅读提示速度（Reads your prompt）Q2_094 个词元 / 秒2,650 个词元 / 秒IQ2_XS79 个词元 / 秒2,090 个词元 / 秒IQ3_XXS62 个词元 / 秒1,750 个词元 / 秒IQ3_S53 个词元 / 秒1,620 个词元 / 秒Coder55 个词元 / 秒2,180 个词元 / 秒
网友观点
搜索生活里的提问基本能命中，讲解还循序渐进，不太劝退。很多生活现象背后的原理讲得清楚，不装腔作势，也不故意卖萌到尴尬。搜索支持问题句，定位比纯关键词好用不少。诚实在信息噪声里是稀缺品，一种可靠的说理方式很难被替代。日用品、防护、营养这类贴近生活的主题特别实用。
免责声明：本文内容来自公开报道与编辑整理，仅供参考。转载请注明出处；版权争议请联系本站核实处理。页面地址：http://www.gxycedu.cn/te_inform?id=objphj-drv35tp%3D2p%3D5p%3D5p%3D3
评论区
热门讨论 · 占位展示期待你的精彩发言。