Set 128K eager baseline and organize deployment documentation

2026-09-18 01:33:57 +08:00
parent d7e1e745c3
commit e290793f2b
15 changed files with 98 additions and 11 deletions
@@ -1,5 +1,7 @@
 # 优化结果：采用 eager + 前缀缓存

+> 历史实验记录：保留当时的配置和恢复状态。当前部署已改为 128K eager 基线，见 [当前状态](README.md)。
+
 2026-09-17，单台 DGX Spark / GB10，固定模型与镜像版本不变。
 最终启用前缀缓存及两处 Mamba 块对齐修正；保持原始权重、BF16 KV、MTP=2、
 262144 上下文、GPU 内存比例 0.80、并发 4、batch token 上限 2048、eager 执行。