syunkitakase / metric_learning_sample

Metric Learningのサンプルコード

Metric_Learning_Sample

Metric Learningのサンプルコード

動作環境

ライブラリのバージョン

• cuda 12.1
• python 3.6.9
• torch 1.8.1+cu111
• torchaudio 0.8.1
• torchinfo 1.5.4
• torchmetrics 0.8.2
• torchsummary 1.5.1
• torchvision 0.9.1+cu111
• timm 0.5.4
• tlt 0.1.0
• numpy 1.19.5
• Pillow 8.4.0
• scikit-image 0.17.2
• scikit-learn 0.24.2
• tqdm 4.64.0
• opencv-python 4.5.1.48
• opencv-python-headless 4.6.0.66
• scipy 1.5.4
• matplotlib 3.3.4
• mmcv 1.7.1

ファイル＆フォルダ一覧

学習用コード等

ファイル名	説明
metric_train.py	Metric Learningを導入したResNetを学習するコード．
trainer.py	学習ループのコード．
metric_loss.py	Metric Learningの損失のコード．
make_graph.py	学習曲線を可視化するコード．

実行手順

環境設定

先述の環境を整えてください．

学習

ハイパーパラメータは適宜調整してください．

Metric Learningを導入したResNetのファインチューニング(CIFAR-10)

Siamese Networkの学習

python3 metric_train.py --epoch 10 --batch_size 128 --amp --dataset cifar10 --method Siamese

Triplet Lossの学習

python3 metric_train.py --epoch 10 --batch_size 128 --amp --dataset cifar10 --method Triplet

Triplet Mining(Batch Hard Strategy)の学習

python3 metric_train.py --epoch 10 --batch_size 128 --amp --dataset cifar10 --method Hard

Triplet Mining(Batch All Strategy)の学習

python3 metric_train.py --epoch 10 --batch_size 128 --amp --dataset cifar10 --method All

Metric Learningを導入したResNetのファインチューニング(CIFAR-100)

Siamese Networkの学習

python3 metric_train.py --epoch 10 --batch_size 128 --amp --dataset cifar100 --method Siamese

Triplet Lossの学習

python3 metric_train.py --epoch 10 --batch_size 128 --amp --dataset cifar100 --method Triplet

Triplet Mining(Batch Hard Strategy)の学習

python3 metric_train.py --epoch 10 --batch_size 128 --amp --dataset cifar100 --method Hard

Triplet Mining(Batch All Strategy)の学習

python3 metric_train.py --epoch 10 --batch_size 128 --amp --dataset cifar100 --method All

参考文献

• 参考にした論文

  • ResNet
    • Deep Residual Learning for Image Recognition
  • Siamese Network
    • Siamese Neural Networks for One-shot Image Recognition
  • Triplet Loss
    • Learning Fine-grained Image Similarity with Deep Ranking
  • Triplet Mining(Batch All Strategy，Batch Hard Strategy)
    • FaceNet: A Unified Embedding for Face Recognition and Clustering

• 参考にしたリポジトリ

  • timm
    • https://github.com/huggingface/pytorch-image-models
  • ResNet
    • https://github.com/huggingface/pytorch-image-models/blob/main/timm/models/resnet.py
  • Siamese Network，Triplet Loss
    • https://github.com/adambielski/siamese-triplet
  • Triplet Mining(Batch All Strategy，Batch Hard Strategy)
    • https://github.com/NegatioN/OnlineMiningTripletLoss