Files
..

当前基线与证据索引

当前默认:单台 DGX Spark,固定 nightly / 模型 revision131072 总 tokens、eager、前缀缓存、MTP=2、BF16 KV、GPU memory=0.80。 128K 是输入与输出共享的上限。例如预留 2048 输出时,输入不能超过 129024 tokens。 max_num_seqs=4 是调度上限,尚未验证四路同时满 128K;有限合成检索通过不等于长期稳定性保证。

文档 用途
运维说明 Spark 项目结构、升级、归档与回退
版本清单 固定镜像、模型、适配来源
前缀缓存优化 缓存正确性与首次性能改善
图复测 2048 输出预算下的小尺寸图验证
容量边界 64K/128K 通过、接近 260K 主机 OOM
Nsight 剖析 图真实生效但约 4.5% 收益的证据
迁移验收 本次 main 整理及 Spark 128K 部署验证

历史报告中的 262K、旧镜像和“恢复原配置”仅描述测试当时状态。 默认配置及 no-prefix 回退现均为 128K;更保守的 baseline 回退为 32K、无 MTP。 实验图覆盖仍是可选项,不自动作为生产默认。