Prefill 与 Decode 曲线是同一 DeepInfer 引擎的两个阶段——不是两个产品。跨机器的 PD 分离属于生产服务胶水，完整方案尚未开源。
同一引擎，两个阶段
| 阶段 | 关注点 | README sweep 拓扑 |
|---|---|---|
| Prefill | 输入吞吐 vs 延迟 | 4× SM100 · 单一 scale-up 域 |
| Decode | 输出吞吐 vs 每用户速度 | 64× SM100 · 单一 scale-up 域 |
开源 vs 生产缺口
| 层次 | 开源 DeepInfer | 生产系统（Q&A） |
|---|---|---|
| 引擎内 P/D 阶段 | 同一二进制 / 离线路径 | 同一概念阶段 |
| 跨机器 PD + 负载均衡 | 未包含 | E/P/D 分离 + 均衡器 |
| 长保留 KV（3FS） | 未包含 | 独立存储集群 |
| Wide-EP decode | 离线示例含 EP/DP API | 常见 EP64–128 |
并行度区间（Q&A — 含免责）
注意。下表描述的是 inference_deployment_qa.md 中的生产部署讨论，是规划上下文，不是
./build.sh 后的默认值。| 阶段 | 并行度（生产 Q&A） | 指引 |
|---|---|---|
| Prefill | EP2–8 / DP2–8 | 在 HBM 允许下取尽量小的 EP/DP |
| Decode | EP64–128 / DP64–128（Wide-EP） | 在可用 GPU 下取尽量大的 EP/DP |
| VE | 常见每实例 1 GPU | 可用更便宜 GPU |
| TP / CP | Q&A：暂未使用 | 开源离线示例仍暴露 --cp |
引擎旁的三层
| 层 | 职责 | 是否推理 |
|---|---|---|
| DeepInfer | 离线跑 V4.1-Flash | 是 |
| deepseek-recipe | 协议 / 提示词 / 分词 | 否 |
| DeepSeek Harness | 智能体运行时 | N/A · dshbase.com |