MENU

扭曲的 IMG DDK Vulkan subgroupSize

November 20, 2026 • Nico的日常生活 • 阅读设置

前几天和nihui在聊momoten( https://github.com/nihui/momoten )在powervr小板子上的表现,发现在spacemit k3或者th1520这类板子上可以得到较大的vulkan性能提升,但是在EIC7700或者象帝先XDX130这类东西上就没有多大提升,或者说差不多,于是调查了一下为什么会发生这种情况。

本文的环境均为闭源IMG DDK驱动+vkpeak得出的数据

首先得到较大的vulkan性能提升都是PowerVR Rouge架构的GPU,如此处的spacemit k3/th1520 都是 BXM-4-64 , 默认情况下跑不到标称的fp32性能,而EIC7700(AXM-8-256)或者象帝先XDX130(BXT-32-1024)属于Volcanic系列,他们直接跑出来的数据就是达到预期的fp32性能的。

所以问题就锁定在IMG DDK对于Rouge的处理或者实现上

其实问题也很好定位,我们只需要打开vulkaninfo,然后把没问题的和有问题的对比一下就能发现

在 BXM-4-64 下 vulkaninfo 回报的 subgroupSize 是 1

在 AXM-8-256 下 vulkaninfo 回报的 subgroupSize 是 128

根据开源驱动那边拆出来的定义 subgroupSize = ROGUE_MAX_INSTANCES_PER_TASK = 一个 PDS task 能装的 instance 上限

那 BXM-4-64 应该也有 32 ,所以进行一些操作之后:

CASE A:sg=1 B:sg=32 C:sg=32 @1.2288 GHz
fp32-scalar 9.06 46.78 65.63
fp32-vec4 1.92 48.61 72.98
fp16-scalar 8.25 48.13 67.02
fp16-vec4 4.67 83.42 125.25
int32-scalar 14.92 25.53 38.33
int8-dotprod 98.86 17.16 25.74

在spacemitk3上测试了 原样/800M情况下/1.2G情况下 的数据

会发现确实这么改了之后就可以达到标称值了,还发现一个很奇怪的情况 就是int8,默认情况下数据可能是有问题的

经过调查发现 数据被两层错误相叠

时间虚缩:vkpeak 的 int8 shader 用 b=int(lx),lsx=1 时 lx 恒为 0 → dot(a,0,c)=c 恒等式 → DDK 把整条 dot 链折叠成空操作,kernel 退化为纯 store。板上证明:store-only 空内核 465.5ms vs vkpeak 形态 dot 链 464.4ms(完全一致)

分子虚翻:vkpeak 的 int8 MAC 公式恰好多算 2×(fp32 口径正确,int8 特有的 packing×FLOP 重复计数——vkpeak 上游 bug,对所有 GPU 成立)。

所以说之前得出的那个int8数据纯属无稽之谈.jpg

相关修复:
https://github.com/Tencent/ncnn/pull/7313

Leave a Comment

已有 1 条评论
  1. subgroupSize 在闭源驱动上的差异确实容易被忽略,你从 momoten 实测反推原因的思路很有启发。