3rd place solution
運営、参加者の皆様、お疲れさまでした。
今回は、序盤から終盤まではじめてやり切ったコンペでした。
終了一カ月前ぐらいから、既存の結果を再現できなくなり、最初からやり直しが発生しましたが、何とか、目途が立ち入賞することができました。
皆様、最後まで対戦ありがとうございました。
以下、私の解法になります。
- Model
- efficientnet_b0
- epoch 20, 50, 100, 200, 300, 400
- batch size 16, 32, 64
- image size 224
- AdamW
- augmentation + mixup
- VerticalFlip
- HorizontalFlip
- Rotate
- ToSepia
- Normalize
- RandomErasing
- IAAPerspective
一通りのものを試して、結果がいいもののみを採用しました。
- 上手くいったこと
- mixupでデータを増やしてアップアップサンプリングしたこと。
(ただし、CVとLBは不安定な状態)
- RandomErasing、IAAPerspective
- 単純平均
- 上手くいかなかったこと
- efficientnet_b1～b6のほかに、timmにあるものは一通り試しましたが、あまりいい結果が得られず、efficientnet_b0がベストだったため、efficientnet_b0のみに絞ることにしました。
- stacking, blendingはともに、CVが下がる傾向になり断念しました。stackingに関しては、Optunaでも検討しました。
最終的に、回したモデルは、気づくと300を超えてました。epoch400とかまわすと、あと少しって所で、google olaboの利用制限に引っ掛かり、何も度やり直すことになり、心折れそうになりましたが、あきらめずに進んでこれでよかったです。
同様の内容で以下にも投稿しています。
https://comp.probspace.com/competitions/kaokore_status/discussions/newduck-Posta7397735cfa693bf16e4