github.com vit-pytorchをインストール、動作させる
クローン, 必要なソフトウェアのインストール クローンするために必要なgitをインストールする
# apt install -y git # git --version git version 2.25.1
vit-pytorchをクローンする
# git clone https://github.com/lucidrains/vit-pytorch # ls vit-pytorch
必要なソフトウェアをsetup.pyに従い、インストールする
# cd vit-pytorch # ls setup.py # python3 setup.py install (省略) Finished processing dependencies for vit-pytorch==1.4.5 # pip3 list |grep torch torch 2.0.1 torchvision 0.15.2 vit-pytorch 1.4.5
vit-torchの動作にpackagingというライブラリも使用するためインストールする
# pip3 install packaging
動作確認 以下のtest.pyファイルを使い、実行できるか、確認する
import torch from vit_pytorch import ViT v = ViT( image_size = 256, patch_size = 32, num_classes = 1000, dim = 1024, depth = 6, heads = 16, mlp_dim = 2048, dropout = 0.1, emb_dropout = 0.1 ) img = torch.randn(1, 3, 256, 256) preds = v(img) # (1, 1000) print("{}".format(preds))
実行して動作を確認
# python3 test.py tensor([[ 7.8853e-02, 1.3791e-01, -4.4780e-01, 3.0419e-02, 1.6823e-01, -3.1999e-01, 3.0263e-01, 5.6427e-01, -3.5144e-01, -1.1718e-01, -1.4500e+00, 3.9773e-03, -2.6860e-01, -5.1059e-01, -1.0758e+00, (省略)