メインコンテンツまでスキップ
バージョン: v2512

ResNet50の高速化

AcuiRTを用いて、ResNet50による画像分類の推論速度を高速化するチュートリアルです。

はじめに​

1. データセットを用意する​

  • ImageNetのsubsetを用意します。

    git clone https://github.com/EliSchwartz/imagenet-sample-images

2. 変換を実行する​

  • aibooster-examplesのintelligence/acuirt/image_classification_resnet50.pyを実行します。このサンプルはResNet50をint8量子化でTensorRTモデルに変換し、推論を高速化します。

    python intelligence/acuirt/image_classification_resnet50.py

  • 出力としてPyTorchモデルを推論した場合とTensorRTモデルに変換した場合のTop-1 Accuracyと推論時間が表示されます。

    • 出力例

      PyTorch: Top-1 Accuracy: 88.70%, Average Inference Time: 18214384 nanoseconds
      AcuiRT: Top-1 Accuracy: 88.50%, Average Inference Time: 1146944 nanoseconds