前几天和nihui在聊momoten( https://github.com/nihui/momoten )在powervr小板子上的表现,发现在spacemit k3或者th1520这类板子上可以得到较大的vulkan性能提升,但是在EIC7700或者象帝先XDX130这类东西上就没有多大提升,或者说差不多,于是调查了一下为什么会发生这种情况。
本文的环境均为闭源IMG DDK驱动+vkpeak得出的数据
首先得到较大的vulkan性能提升都是PowerVR Rouge架构的GPU,如此处的spacemit k3/th1520 都是 BXM-4-64 , 默认情况下跑不到标称的fp32性能,而EIC7700(AXM-8-256)或者象帝先XDX130(BXT-32-1024)属于Volcanic系列,他们直接跑出来的数据就是达到预期的fp32性能的。
所以问题就锁定在IMG DDK对于Rouge的处理或者实现上
其实问题也很好定位,我们只需要打开vulkaninfo,然后把没问题的和有问题的对比一下就能发现
在 BXM-4-64 下 vulkaninfo 回报的 subgroupSize 是 1
在 AXM-8-256 下 vulkaninfo 回报的 subgroupSize 是 128
根据开源驱动那边拆出来的定义 subgroupSize = ROGUE_MAX_INSTANCES_PER_TASK = 一个 PDS task 能装的 instance 上限
那 BXM-4-64 应该也有 32 ,所以进行一些操作之后:
| CASE | A:sg=1 | B:sg=32 | C:sg=32 @1.2288 GHz |
|---|---|---|---|
| fp32-scalar | 9.06 | 46.78 | 65.63 |
| fp32-vec4 | 1.92 | 48.61 | 72.98 |
| fp16-scalar | 8.25 | 48.13 | 67.02 |
| fp16-vec4 | 4.67 | 83.42 | 125.25 |
| int32-scalar | 14.92 | 25.53 | 38.33 |
| int8-dotprod | 98.86 | 17.16 | 25.74 |
在spacemitk3上测试了 原样/800M情况下/1.2G情况下 的数据
会发现确实这么改了之后就可以达到标称值了,还发现一个很奇怪的情况 就是int8,默认情况下数据可能是有问题的
经过调查发现 数据被两层错误相叠
时间虚缩:vkpeak 的 int8 shader 用 b=int(lx),lsx=1 时 lx 恒为 0 → dot(a,0,c)=c 恒等式 → DDK 把整条 dot 链折叠成空操作,kernel 退化为纯 store。板上证明:store-only 空内核 465.5ms vs vkpeak 形态 dot 链 464.4ms(完全一致)
分子虚翻:vkpeak 的 int8 MAC 公式恰好多算 2×(fp32 口径正确,int8 特有的 packing×FLOP 重复计数——vkpeak 上游 bug,对所有 GPU 成立)。
所以说之前得出的那个int8数据纯属无稽之谈.jpg
subgroupSize 在闭源驱动上的差异确实容易被忽略,你从 momoten 实测反推原因的思路很有启发。