Skip to content

Commit 767aeea

Browse files
authored
[Doc] Add SSD-MobileNetV1-int8 and ResNet-50 support, and fix the command used to query Galcore kernel version (#7726)
1 parent 1df3385 commit 767aeea

File tree

2 files changed

+31
-9
lines changed

2 files changed

+31
-9
lines changed

docs/demo_guides/amlogic_npu.md

Lines changed: 16 additions & 7 deletions
Original file line numberDiff line numberDiff line change
@@ -16,6 +16,8 @@ Paddle Lite 已支持晶晨 NPU 的预测部署。
1616
#### 模型
1717

1818
- [mobilenet_v1_int8_224_per_layer](https://paddlelite-demo.bj.bcebos.com/models/mobilenet_v1_int8_224_per_layer.tar.gz)
19+
- [resnet50_int8_224_per_layer](https://paddlelite-demo.bj.bcebos.com/models/resnet50_int8_224_per_layer.tar.gz)
20+
- [ssd_mobilenet_v1_relu_voc_int8_300_per_layer](https://paddlelite-demo.bj.bcebos.com/models/ssd_mobilenet_v1_relu_voc_int8_300_per_layer.tar.gz)
1921

2022
#### 性能
2123

@@ -45,7 +47,9 @@ Paddle Lite 已支持晶晨 NPU 的预测部署。
4547
|模型 |C308X||A311D||S905D3(Android 版本)||
4648
|---|---|---|---|---|---|---|
4749
| |CPU(ms) | NPU(ms) |CPU(ms) | NPU(ms) |CPU(ms) | NPU(ms) |
48-
|mobilenet_v1_int8_224_per_layer| 167.6996 | 6.982800| 81.632133 | 5.607733 | 280.465997 | 13.411600 |
50+
|mobilenet_v1_int8_224_per_layer| 167.6996 | 6.982800| 81.632133 | 5.607733 | 280.465997 | 13.411600 |
51+
|resnet50_int8_224_per_layer| 695.527405| 20.288600| 390.498300| 18.002560| 787.532340 | 42.858800|
52+
|ssd_mobilenet_v1_relu_voc_int8_300_per_layer| 281.442310| 18.015800| 134.991560| 15.978300| 295.48919| 41.035610|
4953

5054
### 已支持(或部分支持)NNAdapter 的 Paddle 算子
5155

@@ -65,6 +69,12 @@ Paddle Lite 已支持晶晨 NPU 的预测部署。
6569

6670
<img src="https://paddlelite-demo.bj.bcebos.com/devices/amlogic/A311D.jpg" alt="A311D" style="zoom: 33%;" />
6771

72+
73+
74+
- S905D3开发板
75+
76+
<img src="https://paddlelite-demo.bj.bcebos.com/devices/amlogic/S905D3.jpg" alt="A311D" style="zoom: 35%;" />
77+
6878
### 准备设备环境
6979

7080
- C308X
@@ -73,10 +83,10 @@ Paddle Lite 已支持晶晨 NPU 的预测部署。
7383
- 注意是 64 位系统。
7484
- 将 MicroUSB 线插入到设备的 MicroUSB OTG 口,就可以使用 Android 的 `adb` 命令进行设备的交互,当然也提供了网络连接 SSH 登录的方式。
7585

76-
- 可通过 `dmesg | grep -r Galcore` 查询系统版本:
86+
- 可通过 `dmesg | grep Galcore` 查询系统版本:
7787

7888
```shell
79-
$ dmesg | grep -rsn Galcore
89+
$ dmesg | grep Galcore
8090
[ 23.599566] Galcore version 6.4.4.3.310723AAA
8191
```
8292

@@ -88,10 +98,10 @@ Paddle Lite 已支持晶晨 NPU 的预测部署。
8898

8999
- 将 MicroUSB 线插入到设备的 MicroUSB OTG 口,就可以使用 Android 的 `adb` 命令进行设备的交互,当然也提供了网络连接 SSH 登录的方式。
90100

91-
- 可通过 `dmesg | grep -r Galcore` 查询系统版本:
101+
- 可通过 `dmesg | grep Galcore` 查询系统版本:
92102

93103
```shell
94-
$ dmesg | grep -rsn Galcore
104+
$ dmesg | grep Galcore
95105
[ 24.140820] Galcore version 6.4.4.3.310723AAA
96106
```
97107

@@ -101,8 +111,7 @@ Paddle Lite 已支持晶晨 NPU 的预测部署。
101111
- `adb root + adb remount` 以获得修改系统库的权限。
102112

103113
```shell
104-
# dmesg | grep version
105-
[ 9.020108] <4>[ 9.020108@0] npu_version: 3
114+
$ dmesg | grep Galcore
106115
[ 9.020168] <6>[ 9.020168@0] Galcore version 6.4.4.3.310723a
107116
```
108117

docs/demo_guides/rockchip_npu.md

Lines changed: 15 additions & 2 deletions
Original file line numberDiff line numberDiff line change
@@ -83,6 +83,11 @@ Paddle Lite 已支持 Rockchip NPU 的预测部署。
8383
- 由于 RK1808 EVB 在刷 firmware 后,只是一个纯净的 Linux 系统,无法像 Ubuntu 那样使用 `apt-get` 命令方便的安装软件,因此,示例程序和 Paddle Lite 库的编译均采用交叉编译方式;
8484
-`MicroUSB` 线插入到设备的 `MicroUSB OTG` 口,就可以使用 Android 的 `adb` 命令进行设备的交互,再也不用配置网络使用 `ssh` 或者通过串口的方式访问设备了,这个设计非常赞!
8585
- **将 rknpu_ddk 的 `lib64` 目录下除 `librknpu_ddk.so` 之外的动态库都拷贝到设备的 `/usr/lib` 目录下,更新 Rockchip NPU 的系统库。**
86+
- **注意确认 Galcore 驱动版本,需为 6.4.0.X 方能正常运行。 Galcore 由开发板/解决方案厂商提供,在刷新固件时也会同时刷新 Galcore 驱动**
87+
```shell
88+
$ dmesg | grep Galcore
89+
[ 15.978465] Galcore version 6.4.0.227915
90+
```
8691

8792
- TB-RK1808S0 AI 计算棒
8893

@@ -96,7 +101,11 @@ Paddle Lite 已支持 Rockchip NPU 的预测部署。
96101
toybrick-server-1.4.1-2.rk1808.fc28.aarch64
97102
```
98103
- **将 rknpu_ddk 的 `lib64` 目录下除 `librknpu_ddk.so` 之外的动态库都拷贝到设备的 `/usr/lib` 目录下,更新 Rockchip NPU 的系统库。**
99-
104+
- **注意确认 Galcore 驱动版本,需为 6.4.0.X 方能正常运行。 Galcore 由开发板/解决方案厂商提供,在刷新固件时也会同时刷新 Galcore 驱动**
105+
```shell
106+
$ dmesg | grep Galcore
107+
[ 7.919345] Galcore version 6.4.0.227915
108+
```
100109
- RV1126 EVB
101110

102111
- 需要升级 1.51 的 firmware(下载和烧录方法请联系RK相关同学),可通过以下命令确认 librknn_runtime.so 的版本:
@@ -108,7 +117,11 @@ Paddle Lite 已支持 Rockchip NPU 的预测部署。
108117

109118
- 示例程序和 Paddle Lite 库的编译需要采用交叉编译方式,通过 `adb` 进行设备的交互和示例程序的运行。
110119
- **将 rknpu_ddk 的 `lib64` 目录下除 `librknpu_ddk.so` 之外的动态库都拷贝到设备的 `/usr/lib` 目录下,更新 Rockchip NPU 的系统库。**
111-
120+
- **注意确认 Galcore 驱动版本,需为 6.4.0.X 方能正常运行。 Galcore 由开发板/解决方案厂商提供,在刷新固件时也会同时刷新 Galcore 驱动**
121+
```shell
122+
$ dmesg | grep Galcore
123+
[ 5.809874] Galcore version 6.4.0.227915
124+
```
112125

113126
### 准备交叉编译环境
114127

0 commit comments

Comments
 (0)