チュートリアル

AcuiRTを用いて、ResNet50による画像分類の推論速度を高速化するチュートリアルです。

はじめに

• セットアップを参照してAcuiRTのインストールを行ってください。

1. データセットを用意する

• ImageNetのsubsetを用意します。

  git clone https://github.com/EliSchwartz/imagenet-sample-images

2. 変換を実行する

• faib/intelligence/components/acuirt/example/image_classification_resnet50.pyを実行します。このサンプルはResNet50をint8量子化でTensorRTモデルに変換し、推論を高速化します。

  python faib/intelligence/components/acuirt/example/image_classificatoin_resnet50.py

• 出力としてPyTorchモデルを推論した場合とTensorRTモデルに変換した場合のTop-1 Accuracyと推論時間が表示されます。

  • 出力例

    PyTorch: Top-1 Accuracy: 887/1000 (88.70%), Average Inference Time: 1618.08μs
    AcuiRT: Top-1 Accuracy: 882/1000 (88.20%), Average Inference Time: 415.05μs