Qualify and enable MTP 2 with paired workload evidence and fallback
This commit is contained in:
@@ -27,6 +27,6 @@
|
||||
|
||||
实测:VMware 虚拟机、16 vCPU、247 GiB RAM、85651 MiB GPU 显存。原项目 96GB 显卡的显存预算和速度数据不作为本机验收证据。虚拟 PCIe 配置显示的链路不用于推断实际带宽。
|
||||
|
||||
已验证 CUDA 运算、PLE 锁页查表及量化缩放;依次完成 32K BF16 eager、128K FP8 eager、128K FP8 FULL CUDA Graph 验收。最终启用 128K 和 CUDA Graph;MTP 未启用。文字、工具调用、图片、视频、127988 token 输入检索均通过。详见 [验收结果](results.md)。
|
||||
已验证 CUDA 运算、PLE 锁页查表及量化缩放;依次完成 32K BF16 eager、128K FP8 eager、128K FP8 FULL CUDA Graph 验收。初始启用 128K 和 CUDA Graph;随后完成扩展 MTP 验证并启用 MTP 2,见 [完整验证](../docs/mtp-qualification.md)。文字、工具调用、图片、视频、127988 token 输入检索均通过。详见 [验收结果](results.md)。
|
||||
|
||||
本审计是所选执行路径的代码审查和测试计划,不是全部第三方依赖的安全认证。
|
||||
|
||||
Reference in New Issue
Block a user