把 README 加速器列表变成 ./build.sh 之前的决策门槛。Prefill 与 Decode 仍是同一引擎的两个阶段。
今日已支持
| 硬件 | 软件 | 环境变量 | 状态 |
|---|---|---|---|
| NVIDIA SM100 | CUDA 13 · GCC ≥ 13 · Python 3.12 · Linux | DEEPINFER_ACCELERATOR=nvidia | 已支持 |
| 华为昇腾 950 | CANN 9.2 · 同上主机依赖 | DEEPINFER_ACCELERATOR=ascend | 已支持 |
910C 与 H20 — 仅草稿 RFC
尚未支持。社区 RFC 在提案扩展；不要按“已在 README 列表中”去安装。
| RFC | 目标 | 容量 / 阻塞 | 链接 |
|---|---|---|---|
| #46 | 昇腾 910C/A3 · CANN 9.1 · 离线优先 | 超出今日 950 + CANN 9.2 的平台扩展 | PR #46 |
| #47 | SM90 · 4× H20-3E（141 GB） | FP4 约 499/564 GB；需 FP8 grouped GEMM；FlashMLA 2026.09.30 移除 Hopper | PR #47 |
服务缺口
| 开源缺失 | 为何重要 |
|---|---|
| KV cache 系统 | 在线多轮 / 高 QPS |
| VE/Prefill/Decode 分离服务 | 完整胶水未开源 |
| DP 负载均衡 | P/D 副本均衡 |
跳过清单
- 确认 SM100 或昇腾 950（否则跳过 / 跟踪 RFC）
- 确认 CUDA 13 或 CANN 9.2
- 按离线 V4.1-Flash 规划，除非自备服务胶水
- 智能体 → dshbase.com · 协议 → recipe
基准拓扑：Prefill 4× SM100 · Decode 64× SM100（README）。下一步：安装 · 硬件。