暫時簡單整理一下：

1.在邊緣設(shè)備上配置相關(guān)環(huán)境。

2.配置完成后，獲取模型中間的輸入輸出結(jié)果，保存為npy格式。

3.將onnx格式的模型，以及中間輸入輸出文件傳送到邊緣設(shè)備上。

4.編寫一個python文件用于轉(zhuǎn)換模型格式，dataset作為測試可以是隨便的數(shù)據(jù)。

5.將python傳送到邊緣設(shè)備上并運(yùn)行。

注意：所有文件要在同一目錄下。

參考代碼一：

# Author:SiZhen
# Create: 2024/7/15
# Description: ONNX轉(zhuǎn)RKNN
import os
import numpy as np
from rknn.api import RKNNdef convert_onnx_to_rknn(onnx_path,rknn_path,input_data,output_data):#創(chuàng)建RKNN對象rknn = RKNN()rknn.config(target_platforms='rk3588',quantized_algorithm='mmse',optimization_level = 2)#加載ONNX模型print('loading ONNX model...')ret = rknn.load_onnx(model=onnx_path)if ret !=0:print("load failed!")return#構(gòu)建模型，進(jìn)行RKNN模型轉(zhuǎn)換print('building rknn model...')ret = rknn.build(do_quantization=False,dataset='/home/DiTing/sizhen/dataset.txt')if ret !=0:print('Build RKNN model failed!')#導(dǎo)出RKNN模型print('Exporting RKNN model...')ret = rknn.export_rknn(rknn_path)if ret != 0:print('Export RKNN failed!')returnprint('RKNN model is successfully exported to ',rknn_path)rknn.init_runtime()outputs=rknn.inference(inputs=[input_data],data_format='nchw')try:if np.test.assert_almost_equal(outputs[0],output_data,decimal=1)is None:print('模型輸出與預(yù)期一致。')except AssertionError as e :print("不一致，詳細(xì)信息：",e)#轉(zhuǎn)換模型
i = 0
onnx_path = r'/home/DiTing/sizhen/resNet34.onnx'
rknn_path = onnx_path.replace('.onnx','.rknn')
input_data = np.load('/home/DiTing/sizhen/input_data.npy')
output_data = np.load('/home/DiTing/sizhen/output_data.npy')
convert_onnx_to_rknn(onnx_path,rknn_path,input_data,output_data)

問題及解決方法

問題一

安裝失敗。

解決方法：這個地方，諦聽盒子應(yīng)該是arm的版本而不是x86:（Lite版本）

問題二

安裝成功找不到屬性

解決方法：用如下包替代

問題三

lite版本缺少屬性

初步討論結(jié)果：lite版本應(yīng)該是只包含運(yùn)行環(huán)境的，最好不要在盒子上進(jìn)行模型轉(zhuǎn)換，會又慢又卡，可能利特版本就是沒有模型轉(zhuǎn)換的功能的。

解決方法：在其他環(huán)境轉(zhuǎn)換。（待更新）可能的解決辦法：https://bbs.eeworld.com.cn/thread-1283146-1-1.html

問題四

在上面鏈接的指導(dǎo)進(jìn)行windows環(huán)境下安裝toolkit時，出現(xiàn)如下錯誤：

原因是沒有安裝Cmake。在安裝Cmake后，又出現(xiàn)如下錯誤：

NMake Makefiles does not support platform specification, but platform x64 was specifced

CMake Error: CMAKE_C_COMPILER not set, after EnableLanguage

CMake Error: CMAKE_CXX_COMPILER not set, after EnableLanguage

-- Configuring incomplete, errors occurred!

解決方法：https://blog.csdn.net/qq_42276781/article/details/88594870

1.打開 Visual Studio Installer -> 修改 -> 單個組件 -> 勾選 用于 CMake 的 Visual C++ 工具 -> 修改

? ?2.Visual Studio Installer -> 修改->工作負(fù)荷?-> 使用C++的桌面開發(fā) -> 修改】

3.配置一下path 環(huán)境變量? 計算機(jī) -> 屬性 -> 高級系統(tǒng)設(shè)置 -> 環(huán)境變量 -> Path -> 編輯 -> 加入

自己的路徑\Microsoft Visual Studio\2017\Community\Common7\IDE\CommonExtensions\Microsoft\CMake\CMake\bin ?

后確定

重啟電腦之后，再次安裝即可。

問題五

rknn-toolkit在windows系統(tǒng)沒有2代版本（1代版本不兼容rk3588），2代版本目前只有l(wèi)inux系統(tǒng)。

解決方法：搭一個虛擬環(huán)境然后用虛擬機(jī)安裝rknn-toolkit2