Skip to content

[2026-summer-project] MXFP8 / NVFP4 低精度模拟与反量化 (ID: 佳得乐) - #104

Open
111hyq111 wants to merge 3 commits into
InfiniTensor:2026-summer-projectfrom
111hyq111:submit/佳得乐

Hidden character warning

The head ref may contain hidden characters: "submit/\u4f73\u5f97\u4e50"
Open

111hyq111 wants to merge 3 commits into
InfiniTensor:2026-summer-projectfrom
111hyq111:submit/佳得乐

Conversation

@111hyq111

@111hyq111 111hyq111 commented Sep 20, 2026 •

Copy link
Copy Markdown
  • 选题:MXFP8 / NVFP4 低精度模拟与反量化
  • ID:佳得乐

本次补充

完成摩尔线程 MTT S4000 的 MUSA 后端适配,并与 NVIDIA RTX 3090 进行相同输入、配置和测量流程下的性能对比。

  • 实现 CPU、CUDA、MUSA 三个后端,支持 E4M3、E5M2、E2M1。
  • MUSA scale归约改为共享内存实现,消除对物理warp宽度的依赖。
  • 统一正负零处理,并增加直接回归测试。
  • CUDA、MUSA均通过3项CTest,包含1728个主配置用例及附加检查。
  • 两平台分别完成18组配置,每组5轮完整预热、20轮正式测量。
  • 保存原始CSV、配置、环境、构建与测试日志,并提供复现脚本。

报告与分析

报告解释了位域解码优化及其对量化、反量化的影响,比较了两个平台的优化收益,并说明负零问题的处理过程和下一步验证方案。

当前结果是软件低精度模拟的实测表现,不代表原生FP8/FP4 Tensor Core性能。跨平台性能差距的具体原因尚未定位;报告区分event-span、完整API和文件E2E的计时范围。

阅读入口

最新提交:3a83373dd06d6a7b1d327d98b27b9b52e40a09d9

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant