メインコンテンツまでスキップ
バージョン: v2509

セットアップ

環境構築​

DRIVE Orin上での環境構築方法​

前提条件​

  • NVIDIA DRIVE OrinをDRIVE OS 6.0.10で実行している場合のみ動作します。

Dockerを用いたDRIVE Orin上での環境構築​

  • DRIVE OS 6.0.10の実行環境構築と同様に、DRIVE Orin本体と開発PC(ホストPC)が必要です

  1. NVIDIAの公式ガイドに従ってDRIVE OS 6.0.10のセットアップを完了してください。

    • Flash Using the DRIVE OS Docker Containerの手順3において、latestタグのついたDocker イメージをpullした場合、6.0.10.0以外のDockerイメージがpullされる可能性があるため、6.0.10.0-0009のタグを明示的に指定してください。

  2. DRIVE Orin上でAcuiRTのDockerイメージを起動します。Dockerイメージ内にはAcuiRTの実行環境・必要なライブラリが含まれています。

    sudo docker run -it --rm --privileged --runtime nvidia --gpus all --network host public.ecr.aws/z0a7o9s7/aibooster/intelligence/acuirt:0.1.0 /bin/bash

Dockerを使用しないDRIVE Orin上での環境構築​

  1. Dockerを用いたDRIVE Orin上での環境構築と同様にDRIVE OSのセットアップを行います

  2. HPC-Xをダウンロードし、任意のディレクトリに展開します。

    • Download Centerでは、下記の様に選択してください
      • ARCHIVE VERSIONS
      • Version Archive: 2.9.0
      • DOCA-OFED/MLNX_OFED/OFED: inbox
      • DOCA-OFED/MLNX_OFED/OFED Ver: inbox
      • OS Distro: Ubuntu
      • OS Distro Ver: 20.04
      • Arch: aarch64

  3. LD_LIBRARY_PATHにHPC-Xのompi/libディレクトリを追加します。

    export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/path/to/ompi/lib

  4. venvを使用してPythonの仮想環境を作成します。venvが実行できない場合はaptでpython3-venvパッケージを追加してください。また、仮想環境ではグローバルインストール済みのtensorrtパッケージを使用する必要があるため、必ず--system-site-packagesをオプションに追加してください。

    python -m venv .venv --system-site-packages
    source .venv/bin/activate

  5. pipをアップデートします

    pip install -U pip

  6. torch・torchvision・torch2trtをwheelからインストールします。

    wget https://assets.aibooster.fixstars.com/intelligence/acuirt/torch-1.13.0a0%2Bgitunknown-cp38-cp38-linux_aarch64.whl
    wget https://assets.aibooster.fixstars.com/intelligence/acuirt/torchvision-0.14.0a0%2B5ce4506-cp38-cp38-linux_aarch64.whl
    wget https://assets.aibooster.fixstars.com/intelligence/acuirt/torch2trt-0.5.0-py3-none-any.whl

    pip install torch-1.13.0a0+gitunknown-cp38-cp38-linux_aarch64.whl
    pip install torchvision-0.14.0a0+5ce4506-cp38-cp38-linux_aarch64.whl
    pip install torch2trt-0.5.0-py3-none-any.whl

  7. AcuiRTをインストールします

    cd /path/to/faib/intelligence/components/acuirt
    pip install .

推奨環境外での環境構築方法​

  • DRIVE Orin以外の環境でAcuiRTを使用する場合、下記の手順で環境構築を行ってください。

動作環境​

  • Python >= 3.8
  • pip >= 21.3
  • CUDA

インストール手順​

  1. Pytorch, torchVisionをインストールします。インストール済みの場合はスキップしてください。

    pip install torch torchvision

  2. TensorRTをインストールします。使用しているCUDAのバージョンを確認して 対応するTensorRTをインストールしてください。CUDAのバージョンは nvidia-smiの実行結果に表示されているCUDA Version: x.xの内容で確認できます。

    • CUDAのバージョンが12.xの場合

      pip install tensorrt-cu12

    • CUDAのバージョンが13.xの場合

      pip install tensorrt-cu13

  3. torch2trtをGitHubからcloneし、setup.pyを実行してインストールします。

    git clone https://github.com/NVIDIA-AI-IOT/torch2trt
    cd torch2trt && python setup.py install

  4. AcuiRTをインストールします。不足している依存パッケージは自動的にインストールされます。

    cd intelligence/components/acuirt
    pip install .