...
量子化の設定は、下記3種類からユーザが選択可能です。
16bit固定16bit固定
16bit16bit/8bit混合(各演算のbit幅は、ツールが自動で決定します)
8bit固定8bit固定
通常、8bitの方が推論時間は高速になりますが、精度は劣化します。
...
Page Comparison
General
Content
Integrations
...
量子化の設定は、下記3種類からユーザが選択可能です。
16bit固定16bit固定
16bit16bit/8bit混合(各演算のbit幅は、ツールが自動で決定します)
8bit固定8bit固定
通常、8bitの方が推論時間は高速になりますが、精度は劣化します。
...