Agentic RL / Training Infrastructure
DeepSeek V4.1 Flash
DeepSeek于9月10日发布V4.1 Flash,开放模型权重并上线原生多模态deepseek-flash API。模型包含552B主干参数与196B Engram参数,输入编码激活8B、输出解码激活16B,支持1M上下文与图文输入。大量读取历史、只生成少量新内容的Agent会话,是这套非对称设计的直接应用场景。
读取与生成拆成两段
CED架构把40层分成20层编码器和20层解码器。编码器处理输入,解码器生成新token;全局注意力的KV来自编码器末层状态,供解码阶段使用。两段采用不同激活规模,使读取长输入时不必付出与逐token生成相同的计算量。552B是主干规模,另有Engram等参数,不能将它当作完整存储参数总量。
缓存缩减来自不同层次的处理
全局KV采用FP4,官方给出每token约890字节的主缓存,占用HBM降至上一代约四分之一。滑动窗口注意力则在恢复会话时重放最后窗口,降低需要持久化的状态;官方称KV所需SSD存储降至八分之一。稀疏注意力索引还跨层复用。这些比例对应KV状态,不意味着模型权重、整机内存或端到端费用也按同样比例下降。
| 层次 | 本次设计 | 影响范围 |
|---|---|---|
| 输入与生成 | 编码8B / 解码16B激活 | 分别配置读取和生成计算 |
| 主全局KV | 约890字节/token,FP4 | HBM约为上一代1/4 |
| 会话持久化 | 重放最后滑动窗口 | KV所需SSD约为上一代1/8 |
评测要连同推理投入一起读
模型卡在最高推理投入下报告Terminal-Bench 2.1为90.6、DeepSWE 1.1为74.2、AutomationBench为54.8;API支持1至100的reasoning effort。它们分别反映终端、代码和自动化任务,并依赖各自评测设置。更大RL数据与环境规模是作者给出的能力改进背景,不能据这些总分单独归因于缓存架构。
旧接口名称也可能指向新版
旧deepseek-v4-flash与视觉实验接口已临时路由到新版。V4 Pro切换计划于9月14日04:00 UTC生效,届时按V4.1 Flash费率运行,直至V4.1 Pro推出;截至本期该切换尚未执行。复现实验应记录实际模型版本和努力档位,而不只记录请求里的旧名称。