Enable validated prefix caching and record DGX Spark optimization benchmarks

This commit is contained in:
2026-09-17 22:09:58 +08:00
parent 5f3030260e
commit 1e2f48d1a4
28 changed files with 707 additions and 8 deletions
+12
View File
@@ -11,3 +11,15 @@
线上服务没有被重建。此轮验证覆盖项目构建、配置等价性与测试脚本;
没有从空缓存重新下载 124 GiB 权重,也没有再次完整加载模型。
## 前缀缓存优化的最终打包验证(同日)
- 默认、no-prefix、baseline 三套 Compose 配置均在 Spark 上解析成功。
- 默认配置的镜像和展开后的启动参数与正在运行的优化容器一致(归一化 Compose 的美元符号转义后比较)。
- 从最终项目目录构建 `local/qwen38-optimized-repo-check:0bfc7a15` 成功;使用同一固定版本的本地基础镜像。
- 新构建镜像中 `mamba_hybrid.py``scheduler.py` 的 SHA256 分别与线上优化容器一致。
- 最终线上容器为 running / healthy;采用 `unless-stopped` 重启策略。
- Python 语法、Shell 语法、vendor 文件摘要及 Git 空白检查通过。
本节验证项目可以构建且配置与线上对应;临时构建镜像未另行加载全模型。
线上优化配置的推理、缓存正确性及性能验收见 `optimization-results.md`