/
AIモデル変換ツール：Tensorflow編

AIモデル変換ツール：Tensorflow編

Owned by Rie Sakito (崎戸 梨恵) (Unlicensed)
Last updated: Feb 20, 2025 by Tachibana Yuta (立花 裕太)
2 min read

 

環境構築

環境構築手順はこちらをご参照ください。

以下の環境設定はCVツールのコンテナを起動後、毎回実施する必要がありますので、ご注意ください。

  • ambaCV2Xカメラ向けの設定

$ cd /home/cvtool $ source setup_env.sh

  • ambaCV5Xカメラ向けの設定

$ cd /home/cvtool $ source setup_env.sh ipro-ambaCV5X

 

サンプルモデルの変換

サンプルモデルの変換を通じて、変換処理の流れを理解いただくことが可能です。ユーザーが開発したモデルを変換する場合はスキップいただいても問題ございません。

inception_v4

サンプルモデルをダウンロードします。

$ cd /home/cvtool/conversion/tensorflow/inception_v4 $ wget https://storage.googleapis.com/download.tensorflow.org/models/tflite/model_zoo/upload_20180427/inception_v4_2018_04_27.tgz $ tar -xvf inception_v4_2018_04_27.tgz $ mv inception_v4.pb sample/model $ rm inception_v4_2018_04_27.tgz

モデル変換を実行します。

$ ./tf_conversion.sh setting.conf

 

mobilenetv2ssd

サンプルモデルをダウンロードします。

$ cd /home/cvtool/conversion/tensorflow/mobilenetv2ssd $ wget http://download.tensorflow.org/models/object_detection/ssd_mobilenet_v2_coco_2018_03_29.tar.gz $ tar -xvzf ssd_mobilenet_v2_coco_2018_03_29.tar.gz $ mv ssd_mobilenet_v2_coco_2018_03_29/frozen_inference_graph.pb sample/model $ rm ssd_mobilenet_v2_coco_2018_03_29.tar.gz

モデル変換を実行します。

$ ./tf_conversion.sh setting_coco20180329.conf

 


変換後のモデルは以下のディレクトリに出力されます。

  • ambaCV2Xカメラ用のモデル

${OUTPUT_DIR}/${NET_NAME}/${PARSER_OPTION}/[モデル名]

  • ambaCV5Xカメラ用のモデル

${OUTPUT_DIR}/${NET_NAME}_ambaCV5X/${PARSER_OPTION}/[モデル名]

 

SSDを使用するモデルの場合、以下のディレクトリにもう一つバイナリが出力されます。

SSDを使用するモデルは、2つのバイナリファイルをアプリケーションで使用します。

${OUTPUT_DIR}/${NET_NAME}/

 

ユーザーが開発したモデルの変換

tensorflow v2.xのモデルは事前にtfliteに変換が必要です。

  1. サンプルモデルのどちらかのディレクトリを/home/cvtool/conversion/tensorflow内にコピーしてください。

$ cd /home/cvtool/conversion/tensorflow $ cp -r inception_v4 foo $ cd foo

  1. setting.conf を、変換するモデルに合わせて変更してください。

  2. sample/modelにモデルファイルを格納してください

  3. モデル変換を行います。

$ ./tf_conversion.sh setting.conf

エラーになる場合は下記より環境設定（source setup_env.sh）を確認ください。パソコンを再起動した際は毎回実施する必要があります。

環境構築 - Technology Partner - Confluence

 

setting.conf仕様

v1.19 まで setting.conf にあった CAVALRY_VERを、v1.20 から削除しています。
v1.19 以前の setting.conf を v1.20以降の cvtool で使用する際は、setting.conf から CAVALRY_VER を削除してください。

# Network Name NET_NAME=inception_v4 # SSD Model or Not (0:not SSD, 1:SSD) IS_SSD=0 # Path to Directory for (frozen) Protobuf File PB_DIR=./sample/model # Path to Directory for DRA Images DRA_IMAGE_DIR=../../dra_img # Path to Directory for Output Data OUTPUT_DIR=./out # Quantization Mode # FIX8 : Fixed-point 8bit # FIX16 : Fixed-point 16bit # MIX : FIX8/FIX16 mixed PARSER_OPTION=MIX # Input Data Format (0:NHWC, 1:NCHW) IN_DATA_FORMAT=0 # Input Data Channel IN_DATA_CHANNEL=3 # Input Data Width IN_DATA_WIDTH=299 # Input Data Height IN_DATA_HEIGHT=299 # Input Data Mean Vector IN_MEAN=127.5,127.5,127.5 # Input Data Scale # IN_SCALE=1/Scale IN_SCALE=127.5 # RGB or BGR (0:RGB, 1:BGR) IS_BGR=1 # Input Nodes Name IN_NODE=input # Output Nodes Name OUT_NODE=InceptionV4/Logits/Predictions # (Need to Set When IS_SSD=1) Node Name as "priorbox" PRIORBOX_NODE=Concatenate/concat # Unique preprocess # if use im2bin -> NONE # if use unique preprocess -> script path PREPRO=NONE PREPRO_ARG="" # Parser Data Format (0:NHWC, 1:NCHW) PARSER_IN_DATA_FORMAT=1 # Input file data format IN_DATA_FILEFORMAT=0,0,0,0 # Transpose indices(NONE:without transpose , 0,3,1,2:transpose (EX)) IN_DATA_TRANSPOSE=NONE

  • NET_NAME：ネットワーク名

    • 任意の名前を設定できます。

  • IS_SSD：SSDを使用するモデルの場合、1を指定

  • PB_DIR：(freeze処理済みの)pbファイルが格納されたディレクトリ

    • ディレクトリ下の全てのモデルに対して、変換処理を実行します。

  • IMAGE_DIR：量子化の最適化処理で使用する、画像ファイルが格納されたディレクトリ

    • 学習に使った画像を格納してください。100～200枚が推奨枚数です。

    • 画像フォーマットはJPEGやPNGなど、OpenCVで対応しているものです。

    • 任意サイズの画像を使用可能です。

  • OUTPUT_DIR：変換後のデータ出力先ディレクトリ

  • PARSER_OPTION：量子化モード

    • FIX8/FIX16/MIX(FIX8/FIX16混合）から選択します。

  • IN_DATA_FORMAT：モデルの入力データフォーマット(NHWC or NCHW)

  • IN_DATA_CHANNEL：モデルの入力画像チャネル数

  • N_DATA_WIDTH：モデルの入力画像サイズ(幅)

  • IN_DATA_HEIGHT：モデルの入力画像サイズ(高さ)

  • IN_MEAN：入力画像の正規化パラメータ（平均値）

    • 以下のように”,”の間に空白を入れないようにしてください。
      IN_MEAN=127.5,127.5,127.5

  • IN_SCALE：入力画像の正規化パラメータ（スケール）

    • チャネルごとに異なる設定値にする場合は、”,”で値を区切ってください。”,”の間には空白を入れないようにしてください。

  • IS_BGR：入力画像のフォーマット（RGB or BGR）

  • IN_NODE：ネットワークの入力ノード名

    • 以下の記号が入力ノード名に含まれている場合、正常に変換できない可能性があります。
      : |　;　,　‘

  • OUT_NODE：ネットワークの出力ノード名

    • 複数指定する場合は”,”で区切ってください。

    • 以下の記号が出力ノード名に含まれている場合、正常に変換できない可能性があります。
      : |　;　,　‘

  • PRIORBOX_NODE：”priorbox”に相当するノード

    • IS_SSD=1の時に、設定が必要です。

  • PREPRO：前処理スクリプトパス(python)

    • スクリプトの作り方は“/home/cvtool/common/prepro.py”を参照してください。

  • PREPRO_ARG：前処理スクリプトの引数

  • PARSER_IN_DATA_FORMAT：モデルの入力データフォーマット(tfparser実行時)(NHWC or NCHW)

  • IN_DATA_FILEFORMAT：入力データのフォーマット

    • 例：uint8->0,0,0,0, float32->1,2,0,7, float16->1,1,0,4

    • IN_DATA_FILEFORMAT を”0,0,0,0”から変更した場合はPREPROの設定が必要になります。

  • IN_DATA_TRANSPOSE：入力データに対してTRANSPOSE を行う場合指定する

 

Related content