28 lines
2.0 KiB
Markdown
28 lines
2.0 KiB
Markdown
# 项目整理验证（2026-09-17）
|
||
|
||
> 历史实验记录：保留当时的配置和恢复状态。当前部署已改为 128K eager 基线，见 [当前状态](README.md)。
|
||
|
||
- 全部 Python 文件通过语法解析；全部 Shell 脚本通过 bash -n。
|
||
- vendor/vllm_ple_mmap.py 的 SHA256 与部署时使用的文件一致。
|
||
- Spark 上 docker compose config 验证默认及 baseline 两套配置成功。
|
||
- 将两套配置展开后的 command、entrypoint 与原部署逐项比较，完全一致。
|
||
- 新目录结构在 Spark 上成功 docker build，临时镜像为 local/qwen38-git-check:0bfc7a15。
|
||
构建使用已经核对的本地基础镜像 tag，没有重新拉取浮动 nightly。
|
||
- 新版 smoke-test.py 对现有线上容器执行成功：算术 1.76 秒、中文回答 5.18 秒、工具调用 1.92 秒。
|
||
- 检查 Git 待提交文件：不含 .env、密钥文件、原始日志、模型权重或原主机/代理地址。
|
||
|
||
线上服务没有被重建。此轮验证覆盖项目构建、配置等价性与测试脚本；
|
||
没有从空缓存重新下载 124 GiB 权重，也没有再次完整加载模型。
|
||
|
||
## 前缀缓存优化的最终打包验证（同日）
|
||
|
||
- 默认、no-prefix、baseline 三套 Compose 配置均在 Spark 上解析成功。
|
||
- 默认配置的镜像和展开后的启动参数与正在运行的优化容器一致（归一化 Compose 的美元符号转义后比较）。
|
||
- 从最终项目目录构建 `local/qwen38-optimized-repo-check:0bfc7a15` 成功；使用同一固定版本的本地基础镜像。
|
||
- 新构建镜像中 `mamba_hybrid.py`、`scheduler.py` 的 SHA256 分别与线上优化容器一致。
|
||
- 最终线上容器为 running / healthy；采用 `unless-stopped` 重启策略。
|
||
- Python 语法、Shell 语法、vendor 文件摘要及 Git 空白检查通过。
|
||
|
||
本节验证项目可以构建且配置与线上对应；临时构建镜像未另行加载全模型。
|
||
线上优化配置的推理、缓存正确性及性能验收见 `optimization-results.md`。
|