Compare MTP steps and prefill batches; retain qualified MTP 2 baseline

2026-09-18 23:22:45 +08:00
parent 918b78a3b8
commit c8bfe6b9ab
45 changed files with 3785 additions and 3 deletions
@@ -6,6 +6,8 @@

 ## 仓库导航

+- [参数筛选结果](docs/mtp-tuning.md)：已比较 MTP 1/2/3 和 prefill batch 1024，继续保留 MTP 2＋2048。
+
 - `compose.yaml`、`Dockerfile`：已验收部署配置与固定镜像。
 - `patches/`：最小补丁、精确源码保护及许可证。
 - [MTP 完整验证](docs/mtp-qualification.md)：长解码提升约 58%–67%，98 个负载请求及两组各 7 个质量任务通过；包含缓存延迟取舍。