3rd place solution

運営、参加者の皆様、お疲れさまでした。

今回は、序盤から終盤まではじめてやり切ったコンペでした。
終了一カ月前ぐらいから、既存の結果を再現できなくなり、最初からやり直しが発生しましたが、何とか、目途が立ち入賞することができました。

皆様、最後まで対戦ありがとうございました。

以下、私の解法になります。

• Model
  • efficientnet_b0
  • epoch 20, 50, 100, 200, 300, 400
  • batch size 16, 32, 64
  • image size 224
  • AdamW

• augmentation + mixup
  • VerticalFlip
  • HorizontalFlip
  • Rotate
  • ToSepia
  • Normalize
  • RandomErasing
  • IAAPerspective

一通りのものを試して、結果がいいもののみを採用しました。

• CV
  • StratifiedKFold
  • n_fold=5

• 上手くいったこと
  • mixupでデータを増やしてアップアップサンプリングしたこと。
    (ただし、CVとLBは不安定な状態)
  • RandomErasing、IAAPerspective
  • 単純平均

• 上手くいかなかったこと
  • efficientnet_b1～b6のほかに、timmにあるものは一通り試しましたが、あまりいい結果が得られず、efficientnet_b0がベストだったため、efficientnet_b0のみに絞ることにしました。
  • stacking, blendingはともに、CVが下がる傾向になり断念しました。stackingに関しては、Optunaでも検討しました。

最終的に、回したモデルは、気づくと300を超えてました。epoch400とかまわすと、あと少しって所で、google olaboの利用制限に引っ掛かり、何も度やり直すことになり、心折れそうになりましたが、あきらめずに進んでこれでよかったです。

同様の内容で以下にも投稿しています。
https://comp.probspace.com/competitions/kaokore_status/discussions/newduck-Posta7397735cfa693bf16e4