想在黑豹 X2(RK3566)上用 NPU 跑点东西,第一步就撞上一个玄学问题:
cat /proc/misc | grep -i npu 没有结果,
/dev 下面也找不到任何叫 rknpu 的设备。驱动到底装没装?
这篇记录从「证明 NPU 存在」到「YOLOv5 检出行人」的完整路径,以及中间的三个坑。
01NPU 不在 /dev/misc 里,在 DRM 里
先给出答案:RKNPU 的驱动走的是 DRM 子系统,不是 misc 字符设备。
所以在 /proc/misc 里翻不到它是正常的,别在这里浪费时间。
看这两个地方:
$ ls -l /sys/class/drm/
card0 -> ../../devices/platform/fde40000.npu/drm/card0 # ← NPU
card1 -> ../../devices/platform/fde60000.gpu/drm/card1 # ← GPU
renderD128 -> ../../devices/platform/fde40000.npu/drm/renderD128
renderD129 -> ../../devices/platform/fde60000.gpu/drm/renderD129
$ dmesg | grep -i rknpu
[ 16.436148] RKNPU fde40000.npu: Adding to iommu group 0
[ 16.437021] RKNPU fde40000.npu: RKNPU: rknpu iommu is enabled, using iommu mode
[ 16.438825] [drm] Initialized rknpu 0.9.8 20240828 for fde40000.npu on minor 0
三条关键信息:fde40000.npu 的设备节点存在;
驱动版本是 rknpu 0.9.8(记下来,后面要和运行时对账);
IOMMU 已启用。ls -l /dev/dri/ 里的
renderD128 就是用户态访问 NPU 的入口,
权限组是 render——非 root 跑推理时记得把用户加进这个组。
可以复用的判断:在 Linux 里找加速器,先看它挂在哪个子系统。 GPU/NPU 这类设备现在普遍注册成 DRM 渲染节点,而不是独立的字符设备。 找不到设备时先
dmesg,再/sys/class/drm, 最后才是/dev。
02运行时:librknnrt.so 和驱动要能对上账
板端推理只需要一个运行时库 librknnrt.so(模型转换在 x86 PC 上做)。
从 rknn-toolkit2 仓库的
rknpu2/runtime/Linux/librknn_api/aarch64/ 里取出它:
cp librknnrt.so /usr/lib/
ldconfig
# 核对版本,记下这串数字
$ strings $(find . -name "librknnrt.so" -path "*aarch64*" | head -1) | grep -i "librknnrt version"
librknnrt version: 2.3.2 (429f97ae6b@2025-04-09T09:09:27)
这里有个后来才意识到的对照关系:跑 demo 时输出的
sdk version: 2.3.2 ... driver version: 0.9.8,
其中 driver version 正是第 01 节 dmesg 里的 0.9.8。
运行时和内核驱动各自有版本号,能对上账才算装对了一套。
如果 sdk 报 driver version 是 0.9.8 之外的值或者干脆读不到,
优先怀疑内核里跑的不是配套的 rknpu 驱动。
03编译示例的两个坑
拿 rknpu2/examples/rknn_yolov5_demo 当验金石。
在板子上本机编译(不是交叉编译),也要设 GCC_COMPILER:
$ ./build-linux.sh -t rk3566 -a aarch64 -b Release
Please set GCC_COMPILER for rk3566
such as export GCC_COMPILER=~/opt/gcc-linaro-.../bin/aarch64-linux-gnu
报错文案有误导性——它举的例子是交叉编译工具链的路径, 让人以为必须先去下载 Linaro 工具链。实际上板子上有原生 aarch64 gcc 的话,直接指过去就行:
apt install -y gcc g++ make cmake
export GCC_COMPILER=aarch64-linux-gnu
which aarch64-linux-gnu-gcc # 确认存在,如 /usr/bin/aarch64-linux-gnu-gcc
./build-linux.sh -t rk3566 -a aarch64 -b Release
第二个坑在 3rdparty/mpp/Linux/aarch64/:
目录里只放了 librockchip_mpp.so.0,没有不带版本号的
.so 本体,链接阶段找不到 -lrockchip_mpp。
手动补两个软链接:
cd rknpu2/examples/3rdparty/mpp/Linux/aarch64/
rm -f librockchip_mpp.so librockchip_mpp.so.1
ln -s librockchip_mpp.so.0 librockchip_mpp.so
ln -s librockchip_mpp.so.0 librockchip_mpp.so.1
这两个软链接在仓库里缺失是有意为之还是疏忽不重要——
重要的是看到 cannot find -lrockchip_mpp 时知道来这里补。
04跑通,以及一份性能账本
$ ./rknn_yolov5_demo model/RK3566_RK3568/yolov5s-640-640.rknn model/bus.jpg
sdk version: 2.3.2 (...) driver version: 0.9.8
index=0, name=images, dims=[1, 640, 640, 3], fmt=NHWC, type=INT8
index=0, name=output0, dims=[1, 255, 80, 80], fmt=NCHW, type=INT8
...
person @ (209 243 286 510) 0.879723
bus @ (91 129 555 464) 0.692042
loop count = 10 , average run 159.732400 ms
模型是 int8 量化、640×640 输入的 yolov5s。单次推理 164 ms, 10 次平均 159.7 ms,折算大约 6 FPS。这个数字的意义在于定位: RK3566 的 NPU 是 1 TOPS 量级的东西,6 FPS 意味着做「检测 + 简单跟踪」 的低速场景够用,做视频级实时还不够——和 CPU 推理比, 它已经把主核解放出来了。
从 dmesg 到 out.jpg,整条链路是:DRM 渲染节点(驱动 0.9.8) → librknnrt.so(sdk 2.3.2)→ .rknn 模型(转换时目标芯片选 RK3566)。 三者版本对上账,链路就通。
05报错速查表
| 现象 | 原因 | 处理 |
|---|---|---|
| /proc/misc 和 /dev 里找不到 NPU | RKNPU 注册为 DRM 设备,不走 misc | 看 /sys/class/drm/ 和 dmesg | grep rknpu |
| Please set GCC_COMPILER for rk3566 | 构建脚本要求显式指定工具链前缀 | export GCC_COMPILER=aarch64-linux-gnu(板载原生 gcc 即可) |
| cannot find -lrockchip_mpp | 3rdparty 目录缺 .so 软链接 | ln -s librockchip_mpp.so.0 librockchip_mpp.so |
| sdk 报 driver version 异常 | 内核 rknpu 驱动与 librknnrt 不配套 | 对照 dmesg 的 rknpu 版本,换配套 runtime |
| 推理结果全错或花屏 | 模型转换时目标芯片选错 | 在 PC 端用 rknn-toolkit2 重新转换,target 严格选 RK3566 |
- 关于本文
- 整理自 2026 年 10 月在黑豹 X2(Armbian,内核 6.1)上的部署记录。 librknnrt 版本会持续更新,命令请按自己手上的 toolkit 版本调整。
- 2026.10.10 整理
- 最大的认知修正:我一开始在 /proc/misc 里找了很久 NPU, 把「找不到设备」当成了「驱动没装」。实际上证据链从头到尾都躺在 dmesg 里——先看内核说什么,再去用户态找对应物,这个顺序不能反。
留言
正在载入留言…