Enable validated prefix caching and record DGX Spark optimization benchmarks
This commit is contained in:
@@ -11,3 +11,15 @@
|
||||
|
||||
线上服务没有被重建。此轮验证覆盖项目构建、配置等价性与测试脚本;
|
||||
没有从空缓存重新下载 124 GiB 权重,也没有再次完整加载模型。
|
||||
|
||||
## 前缀缓存优化的最终打包验证(同日)
|
||||
|
||||
- 默认、no-prefix、baseline 三套 Compose 配置均在 Spark 上解析成功。
|
||||
- 默认配置的镜像和展开后的启动参数与正在运行的优化容器一致(归一化 Compose 的美元符号转义后比较)。
|
||||
- 从最终项目目录构建 `local/qwen38-optimized-repo-check:0bfc7a15` 成功;使用同一固定版本的本地基础镜像。
|
||||
- 新构建镜像中 `mamba_hybrid.py`、`scheduler.py` 的 SHA256 分别与线上优化容器一致。
|
||||
- 最终线上容器为 running / healthy;采用 `unless-stopped` 重启策略。
|
||||
- Python 语法、Shell 语法、vendor 文件摘要及 Git 空白检查通过。
|
||||
|
||||
本节验证项目可以构建且配置与线上对应;临时构建镜像未另行加载全模型。
|
||||
线上优化配置的推理、缓存正确性及性能验收见 `optimization-results.md`。
|
||||
|
||||
Reference in New Issue
Block a user