RK3588 NPU 快速上手指南

1

核心架构概览

原始模型格式

Pytorch

ONNX

TensorFlow

TFLite

Caffe

Darknet

↓

RKNN-Toolkit2

模型转换 · 量化 · 仿真

↓

→ .rknn 模型

板端运行时

AI Apps

RKNN API

RKNPU Driver

RKNPU Hardware

2

连接转换服务器（RKNN-Toolkit2）

服务器地址

192.168.51.246复制

用户名

root复制

SSH 密码

Rknn-2.3.2复制

连接命令： ssh root@192.168.51.246 -p 8105 （内网环境）

⚙️ 该服务器已预装 RKNN-Toolkit2 v2.3.2，专用于将训练好的模型 转换为 .rknn 格式，并支持在 PC 端仿真推理验证。

3

完整开发流程

准备原始模型

选取你的 PyTorch / ONNX / TFLite 等格式模型，或直接从 Model Zoo 下载已有的示例模型。

在转换服务器上运行 RKNN-Toolkit2

SSH 登入 192.168.51.246:8105，使用 Python 脚本调用 rknn.load_*() → config() → build() → export_rknn() 完成模型转换与量化，输出 .rknn 文件。

将 .rknn 文件推送到 RK3588

使用 adb push 或 scp 将转换好的模型传到开发板。

在板端使用 RKNN API 推理

调用板端 rknn-toolkit-lite2 或 C/C++ RKNN Runtime API，加载 .rknn 模型，执行 NPU 推理，获取结果。

4

从 Model Zoo 快速开始示例

⚡

airockchip / rknn_model_zoo

github.com/airockchip/rknn_model_zoo → examples/

↗

可用示例模型：

yolo11

yolov10

yolov5

yolov5_seg

yolo_world

ppyoloe

mobilenet

resnet

deeplabv3

mobilesam

ppseg

RetinaFace

LPRNet

PPOCR

clip

whisper

wav2vec2

mms_tts

yamnet

lite_transformer

💡 建议新手从 yolo11 或 yolov5 的 example 开始，每个目录下都包含完整的转换脚本和推理代码。

快速上手 RKNN NPU 开发