vit-torchのインストール、動作確認

github.com vit-pytorchをインストール、動作させる

クローン, 必要なソフトウェアのインストール クローンするために必要なgitをインストールする

# apt install -y git

# git --version
git version 2.25.1

vit-pytorchをクローンする

# git clone https://github.com/lucidrains/vit-pytorch 

# ls
vit-pytorch

必要なソフトウェアをsetup.pyに従い、インストールする

# cd vit-pytorch
# ls 
setup.py

# python3 setup.py install
(省略)
Finished processing dependencies for vit-pytorch==1.4.5

# pip3 list |grep torch
torch                    2.0.1
torchvision              0.15.2
vit-pytorch              1.4.5

vit-torchの動作にpackagingというライブラリも使用するためインストールする

# pip3 install packaging

動作確認 以下のtest.pyファイルを使い、実行できるか、確認する

import torch
from vit_pytorch import ViT

v = ViT(
    image_size = 256,
    patch_size = 32,
    num_classes = 1000,
    dim = 1024,
    depth = 6,
    heads = 16,
    mlp_dim = 2048,
    dropout = 0.1,
    emb_dropout = 0.1
)

img = torch.randn(1, 3, 256, 256)

preds = v(img) # (1, 1000)

print("{}".format(preds))

実行して動作を確認

# python3 test.py
tensor([[ 7.8853e-02,  1.3791e-01, -4.4780e-01,  3.0419e-02,  1.6823e-01,
         -3.1999e-01,  3.0263e-01,  5.6427e-01, -3.5144e-01, -1.1718e-01,
         -1.4500e+00,  3.9773e-03, -2.6860e-01, -5.1059e-01, -1.0758e+00,
(省略)