自動運転AIチャレンジ　WSL2+NVIDIA GPU環境向け構築手順ハマりポイント解説

みなさん、自動運転していますか？

現在開催中の自動運転AIチャレンジ　シミュレーション大会に私も挑戦しようと思い立ってから1か月、そろそろやらんとまずいということで環境構築に勤しんでおります。

公式の環境構築ドキュメントがかなり良く出来ておりまして、基本的にはここの通りにやるとよいです。しかし、WSLというちょっと特殊な環境で動かそうとすると若干のハマりポイントが出てまいります。本記事では、WSLで動かしたいわがままなあなた（そして私）向けに、ハマりポイントの脱出法を記録していきます。

ハマりポイント(1): AWSIMがSEGVで死ぬ

手順の最初でGPU版AWSIMを起動するのですが、SEGVで落ちます。

gdbで検視を行うと、Vulkanの初期化で死んでいるようでした。 WSLg の Github issue を参考に以下のコマンドを実行したところ、落ちることなく実行できました。

 $ sudo add-apt-repository ppa:kisak/kisak-mesa
 $ sudo apt update
 $ sudo apt upgrade

実行した結果やたら重いですが、これがWSL固有の問題かどうかまでは確かめていません。

ハマりポイント(2): `Unable to locate package python3-rocker`

手順ではさらっと rocker をインストールしていますが、rockerのインストールの前にはROSのaptリポジトリの追加が必要です。

 $ sudo sh -c 'echo "deb http://packages.ros.org/ros2/ubuntu $(lsb_release -sc) main" > /etc/apt/sources.list.d/ros-latest.list'
 $ curl -s https://raw.githubusercontent.com/ros/rosdistro/master/ros.asc | sudo apt-key add -
 $ sudo apt update

なお、ROS公式の手順だと私の手元の Ubuntu22.04 ではうまくいきませんでした。上記の手順は、うまくいくよう一部を修正してあります。そんなところまで地雷を用意しなくてもいいのに :-)

ハマりポイント(3): NVIDIA Container Toolkit がインストールできているかテストしようとしたら死ぬ

手順では、下記コマンドで NVIDIA Container Toolkit がインストールできているか確認しています。

#インストールできているかをテスト
sudo docker run --rm --runtime=nvidia --gpus all nvidia/cuda:11.6.2-base-ubuntu20.04 nvidia-smi

これが死にます。

$ docker run --rm --runtime=nvidia --gpus all nvidia/cuda:11.6.2-base-ubuntu20.04 nvidia-smi
docker: Error response from daemon: unknown or invalid runtime name: nvidia.

いろいろ回って調べたところ、--runtime=nvidia が不要だったようです。

 $ docker run --rm --gpus all nvidia/cuda:11.6
.2-base-ubuntu20.04 nvidia-smi
Wed Dec 27 15:32:48 2023
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 545.36                 Driver Version: 546.33       CUDA Version: 12.3     |
|-----------------------------------------+----------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |
|                                         |                      |               MIG M. |
|=========================================+======================+======================|
|   0  NVIDIA GeForce RTX 2070        On  | 00000000:08:00.0  On |                  N/A |
|  0%   52C    P8              12W / 175W |   3719MiB /  8192MiB |      9%      Default |
|                                         |                      |                  N/A |
+-----------------------------------------+----------------------+----------------------+

+---------------------------------------------------------------------------------------+
| Processes:                                                                            |
|  GPU   GI   CI        PID   Type   Process name                            GPU Memory |
|        ID   ID                                                             Usage      |
|=======================================================================================|
|  No running processes found                                                           |
+---------------------------------------------------------------------------------------+

ハマりポイント(4): rockerが起動しない

rockerを起動してコンテナを動かそうとすると、何やら変なエラーが出て死んでしまいました。 rocker単体でも同じエラーが出たため、rockerの問題とわかります。

$ rocker --version
/usr/lib/python3/dist-packages/requests/__init__.py:87: RequestsDependencyWarning: urllib3 (2.0.7) or chardet (4.0.0) doesn't match a supported version!
  warnings.warn("urllib3 ({}) or chardet ({}) doesn't match a supported "
usage: rocker [-h] [--noexecute] [--nocache] [--nocleanup] [--pull] [--version] [--cuda] [--dev-helpers]
              [--devices [DEVICES ...]] [--env NAME[=VALUE] [NAME[=VALUE] ...]] [--env-file ENV_FILE]
              [--expose EXPOSE] [--git] [--git-config-path GIT_CONFIG_PATH] [--group-add GROUP_ADD] [--home]
              [--hostname HOSTNAME] [--name NAME]
              image [command ...]
rocker: error: DependencyMissing encountered: Docker Client failed to connect to docker daemon. Please verify that docker is installed and running. As well as that you have permission to access the docker daemon. This is usually by being a member of the docker group. The underlying error was:
"""
Error while fetching server API version: HTTPConnection.request() got an unexpected keyword argument 'chunked'
"""

下記コマンドでHTTPクライアントのバージョンを固定すると、うまく動くようです。

 $ pip install requests==2.29.0

ハマりポイント(4): Docker内のAWSIMがSEGVで死ぬ

うっかり忘れていたのですが、ハマりポイント(1)のAWSIM対応はコンテナ内にも実行されている必要があります。(当たり前だ）

aichallenge2023-racing/docker/train にある Dockerfile の末尾に次の変更を入れます。

RUN apt install -y software-properties-common && \
    add-apt-repository ppa:kisak/kisak-mesa && \
    apt update && \
    apt upgrade -y

この変更を入れて、満を持して build_docker.sh からやり直します。

しかしまた下記のSEGVが発生！謎は深まるばかりだな。。。

$ bash run_awsim.sh
Found path: /aichallenge/AWSIM/AWSIM.x86_64
error: XDG_RUNTIME_DIR not set in the environment.
error: XDG_RUNTIME_DIR not set in the environment.
MESA: error: ZINK: failed to choose pdev
glx: failed to create drisw screen
failed to load driver: zink
run_awsim.sh: line 6:  4661 Segmentation fault      /aichallenge/AWSIM/AWSIM.x86_64

Thread 1 "AWSIM.x86_64" received signal SIGSEGV, Segmentation fault.
0x00007ffe403e2e0e in vkGetPhysicalDeviceQueueFamilyProperties () from /lib/x86_64-linux-gnu/libvulkan.so.1
(gdb) bt
#0  0x00007ffe403e2e0e in vkGetPhysicalDeviceQueueFamilyProperties () from /lib/x86_64-linux-gnu/libvulkan.so.1
#1  0x00007ffff69ff261 in vk::Initialize() () from /aichallenge/AWSIM/UnityPlayer.so
#2  0x00007ffff6a08799 in CreateVKGfxDevice() () from /aichallenge/AWSIM/UnityPlayer.so
#3  0x00007ffff6984f4e in CreateClientGfxDevice(GfxDeviceRenderer, GfxCreateDeviceFlags) ()
   from /aichallenge/AWSIM/UnityPlayer.so
#4  0x00007ffff6e65d2b in CreateGfxDevice(GfxDeviceRenderer, GfxCreateDeviceFlags) ()
   from /aichallenge/AWSIM/UnityPlayer.so
#5  0x00007ffff6e66091 in InitializeGfxDevice() () from /aichallenge/AWSIM/UnityPlayer.so
#6  0x00007ffff6d18fe2 in InitializeEngineGraphics(bool) () from /aichallenge/AWSIM/UnityPlayer.so
#7  0x00007ffff6d27bfc in PlayerInitEngineGraphics(bool) () from /aichallenge/AWSIM/UnityPlayer.so
#8  0x00007ffff6f06079 in PlayerMain(int, char**) () from /aichallenge/AWSIM/UnityPlayer.so
#9  0x00007ffff5b9bd90 in __libc_start_call_main (main=main@entry=0x2010e0 <main>, argc=argc@entry=1,
    argv=argv@entry=0x7fffffff7c98) at ../sysdeps/nptl/libc_start_call_main.h:58
#10 0x00007ffff5b9be40 in __libc_start_main_impl (main=0x2010e0 <main>, argc=1, argv=0x7fffffff7c98,
    init=<optimized out>, fini=<optimized out>, rtld_fini=<optimized out>, stack_end=0x7fffffff7c88)
    at ../csu/libc-start.c:392
#11 0x0000000000201029 in _start ()

うまく動いているホスト側のケースと比べると、以下のエラー出力が増えています。

error: XDG_RUNTIME_DIR not set in the environment.
MESA: error: ZINK: failed to choose pdev

まず前のエラーをつぶすため、足らない環境変数を追加します。

$ export XDG_RUNTIME_DIR=/tmp/xdgruntimedir

が、やはりだめでした。

AWSIM on Docker on WSLg という特殊な環境は一筋縄ではいきません。。。

自動運転AIチャレンジ WSL2+NVIDIA GPU環境向け構築手順ハマりポイント解説