環境構築

環境構築手順はこちらをご参照ください。

モデルを変換する

モデル変換を行います。

...

Preparation

...

Please refer here for the environment construction procedure.

Convert

...

Convert the model.

Please change the parameter "setting.conf" of the argument according to the model to be converted.

Code Block
$ cd /home/cvtool/conversion/onnx $ ./onnx_conversion.sh setting.conf

変換後のモデルは以下のディレクトリに出力されます。The model after conversion is output to the following directory.

${OUTPUT_DIR}/${NET_NAME}/${PARSER_OPTION}/[モデル名]

Note
PyTorchのモデルは事前にONNXに変換が必要です。Pytorch model needs to be converted to ONNX in advance

Setting.

...

conf

...

Code Block

# Network Name
NET_NAME=mobilenet_v2

# SSD Model or Not (0:not SSD, 1:SSD)
IS_SSD=0

# Path to Directory for ONNX Models
MODEL_DIR=./sample/mobilenet_v2/models

# Path to Directory for DRA Images
DRA_IMAGE_DIR=../../dra_img

# Path to Directory for Output Data
OUTPUT_DIR=./out

# Quantization Mode
#  FIX8  : Fixed-point  8bit
#  FIX16 : Fixed-point 16bit
#  MIX   : FIX8/FIX16 mixed
PARSER_OPTION=MIX

# Input Data Format (0:NHWC, 1:NCHW)
IN_DATA_FORMAT=1

# Input Data Channel
IN_DATA_CHANNEL=3

# Input Data Width
IN_DATA_WIDTH=224

# Input Data Height
IN_DATA_HEIGHT=224

# Input Data Mean Vector
IN_MEAN=103.94,116.78,123.68

# Input Data Scale
# IN_SCALE=1/Scale
IN_SCALE=58.823529411

# RGB or BGR (0:RGB, 1:BGR)
IS_BGR=1

# Output Layers Name
OUT_LAYER=mobilenetv20_output_flatten0_reshape0

#cavalry version
#if not specified -> ""
CAVALRY_VER="2.1.7"

# Unique preprocess
# if use im2bin -> NONE
# if use unique preprocess -> script path
PREPRO=NONE
PREPRO_ARG=""

# Input file data format
IN_DATA_FILEFORMAT=0,0,0,0

# Transpose indices(NONE:without transpose , 0,3,1,2:transpose (EX))
IN_DATA_TRANSPOSE=NONE

...

NET_NAME：ネットワーク名
任意の名前を設定できます。
: The name of network
- Any name can be set.
IS_SSD：使用しません。: Not used.
MODEL_DIR：onnxファイルが格納されたディレクトリ
ディレクトリ下の全てのモデルに対して、変換処理を実行します。
: Path to directory which includes .onnx files
- All .onnx files under the directory are converted.
IMAGE_DIR：量子化の最適化処理で使用する、画像ファイルが格納されたディレクトリ
- 学習に使った画像を格納してください。100～200枚が推奨枚数です。
- 画像フォーマットはJPEGやPNGなど、OpenCVで対応しているものです。
- 任意サイズの画像を使用可能です。
OUTPUT_DIR：変換後のデータ出力先ディレクトリ
PARSER_OPTION：量子化モード
: Path to directory which includes image files for optimizing quantization
- Please put the directory image files for training. Recommended number of image files is 100 to 200.
- Available image file format is what OpenCV can handle, for example, JPEG, PNG and so on.
- Any resolution is available.
OUTPUT_DIR: Path to directory which converted data will be put
PARSER_OPTION: Quantization mode
- Select from FIX8/FIX16/MIX (FIX8/FIX16混合）から選択します。FIX16 mixed).
IN_DATA_CHANNEL：モデルの入力画像チャネル数: Number of input image channel for target model
N_DATA_WIDTH：モデルの入力画像サイズ(幅): Width of input image for target model
IN_DATA_HEIGHT：モデルの入力画像サイズ(高さ): Height of input image for target model
IN_MEAN：入力画像の正規化パラメータ（平均値）
以下のように”,”の間に空白を入れないようにしてください。
: ormalization parameter (mean) of input image
- In case of setting by numerical value, do not put space between “,” as following.
  IN_MEAN=127.5,127.5,127.5
IN_SCALE：入力画像の正規化パラメータ（スケール）
チャネルごとに異なる設定値にする場合は、”,”で値を区切ってください。”,”の間には空白を入れないようにしてください。
: Normalization parameter (scale) of input image
- In case of setting different value for each channel, split values by “,”. Do not put space between “,”.
IS_BGR：入力画像のフォーマット（RGB or BGR）: Format of input image (RGB or BGR)
OUT_LAYER：ネットワークの出力ノード名
複数指定する場合は”,”で区切ってください。
: The name of output layer for target network
- If two or more layers exists, separate layers by “,”.
PRIORBOX_NODE：”priorbox”に相当するノード: Node equivalent to “priorbox”
- Need to set when IS_SSD=1の時に、設定が必要です。1
CAVALRY_VER：使用するcavalryバージョン: Version of cavalry to use
PREPRO：前処理スクリプトパス: Path of preprocessing script (python script)
- スクリプトの作り方は“Refer to “/home/cvtool/ common/prepro.py”を参照してください。py” for how to create a script
PREPRO_ARG：前処理スクリプトの引数: Argument of preprocessing script (python script)
IN_DATA_FILEFORMAT：入力データのフォーマット
例：uint8-> 0
: Input data format
- Examples : uint8->0,0,0,0, float32-> 1>1,2,0,7, float16-> 1,1,0,4)
- NWhen the value of IN_DATA_FILEFORMAT を”0changes from “0,0,0,0”から変更した場合はPREPROの設定が必要になります。,0”, setting PREPRO is needed.
N_DATA_TRANSPOSE：入力データに対してTRANSPOSE を行う場合指定する

...

定数でないノードがある場合、正常に変換ができません。

その場合、下記コマンドを使ってモデルの変換を行い、変換後のモデルで量子化を行ってください。

　-m : 変換前モデル

TRANSPOSE: Specify when performing TRANSPOSE on the input data

Note

If there is a node that is not a constant, it cannot be converted normally.

In that case, convert the model using the following command, and perform quantization with the converted model.

-m : before conversion model

-o : after conversion model

Code Block
$ graph_surgery.py onnx -m mobilenetv210.onnx -o mobilenetv210_mod.onnx -t Default

...

Convert sample models

...

mobilenetv2

ディレクトリを移動します。Move directory.

Code Block
$ cd /home/cvtool/conversion/onnx/mobilenetv2

モデル変換を実行します。Convert the model.

Code Block
$ ./onnx_conversion.sh setting.conf

yolov5

サンプルモデルをダウンロードします。Download sample model.

Code Block
$ cd /home/cvtool/conversion/onnx/yolov5 $ ./setup_yolov5.sh

モデル変換を実行します。Convert the model.

Code Block
$ ./onnx_conversion.sh setting.conf

...

Versions Compared

Old Version 1

New Version 2

Key

Table of contents

環境構築

モデルを変換する

Preparation

Convert

Setting.

conf

Convert sample models

mobilenetv2

yolov5

Page Comparison

Versions Compared

Old Version 1

New Version 2

Key

Table of contents

環境構築

モデルを変換する

Preparation

Convert

Setting.

conf

Convert sample models

mobilenetv2

yolov5