1.8 KiB
1.8 KiB
项目整理验证(2026-09-17)
- 全部 Python 文件通过语法解析;全部 Shell 脚本通过 bash -n。
- vendor/vllm_ple_mmap.py 的 SHA256 与部署时使用的文件一致。
- Spark 上 docker compose config 验证默认及 baseline 两套配置成功。
- 将两套配置展开后的 command、entrypoint 与原部署逐项比较,完全一致。
- 新目录结构在 Spark 上成功 docker build,临时镜像为 local/qwen38-git-check:0bfc7a15。 构建使用已经核对的本地基础镜像 tag,没有重新拉取浮动 nightly。
- 新版 smoke-test.py 对现有线上容器执行成功:算术 1.76 秒、中文回答 5.18 秒、工具调用 1.92 秒。
- 检查 Git 待提交文件:不含 .env、密钥文件、原始日志、模型权重或原主机/代理地址。
线上服务没有被重建。此轮验证覆盖项目构建、配置等价性与测试脚本; 没有从空缓存重新下载 124 GiB 权重,也没有再次完整加载模型。
前缀缓存优化的最终打包验证(同日)
- 默认、no-prefix、baseline 三套 Compose 配置均在 Spark 上解析成功。
- 默认配置的镜像和展开后的启动参数与正在运行的优化容器一致(归一化 Compose 的美元符号转义后比较)。
- 从最终项目目录构建
local/qwen38-optimized-repo-check:0bfc7a15成功;使用同一固定版本的本地基础镜像。 - 新构建镜像中
mamba_hybrid.py、scheduler.py的 SHA256 分别与线上优化容器一致。 - 最终线上容器为 running / healthy;采用
unless-stopped重启策略。 - Python 语法、Shell 语法、vendor 文件摘要及 Git 空白检查通过。
本节验证项目可以构建且配置与线上对应;临时构建镜像未另行加载全模型。
线上优化配置的推理、缓存正确性及性能验收见 optimization-results.md。