3rd Place Solution(by Oregin)

1.はじめに

今回の宗教画テーマ分類コンペの３位解法を投稿させていただきます。

ProbSpaceの運営の皆様、共にコンペに参加し、研鑽させていただきました参加者の皆様に感謝を申し上げます。 毎回、コンペを楽しませていただきながら、色々と学ばせていただいています。 以下のブログにも全体像の図解等を掲載いたしましたので、必要に応じてご参照ください。

[【3位解法】ProbSpace開催「宗教画テーマの分類」の振り返り。]https://oregin-ai.hatenablog.com/entry/2021/09/13/232706

2.前処理

今回のコンペは、データの特徴として、訓練データが654枚、テストデータが497枚と、比較的データ量が少ないデータだったので、垂直・水平に反転した画像、回転した画像、セピア色に変換した画像を水増しした訓練データを作成。それぞれの画像の水増し割合を16パターンで学習を実施しました。

データの前処理については、albumentationsというライブラリを利用しました。

【前処理　共通】 こちらは、訓練データ、テストデータの両方に適用する共通の処理です。

• サイズ変更 albumentationsのResize()を使って、画像サイズの変更を実施。後続の学習済みモデルに合わせたサイズに変更。
• 標準化
  albumentationsのNormalize()を使って、画素値の標準化を実施。

【前処理　水増し】 こちらは、訓練データを水増しするために実施する前処理です。テストデータには実施しません。

• 水平反転
  albumentationsのHorizontalFlipを使って、指定した割合の画像を水平反転。
• 垂直反転 albumentationsのVerticalFlipを使って、指定した割合の画像を垂直反転。
• 回転 albumentationsのRotateを使って、指定した割合の画像を回転。
• セピア変換 albumentationsのToSepiaを使って、指定した割合の画像をセピア色に変換。今回のデータでは、古い絵画もあったので、採用してみました。

3.モデル構築

今回は、大きく分けて、学習済みのEfficientNetを活用してファインチューニングを実施する１段目と、多値分類のモデルと、クラスごとの２値分類を実施するモデルを組み合わせた２段目の、スタッキングモデルを構築しました。 【1段目：EfficientNet】 １段目は、EfficientNetの学習済みモデルをファインチューニングし、訓練データの予測値と、テストデータの予測値を出力するモデルを１６個作成しました。 それぞれのモデルで、訓練データの水増しの割合を変更することで、パターン分けしました。 このモデルは、skywalkerさんがトピックに投稿してくださっている、EfficientNetB0使ったベースラインも参考にさせていただきました。 https://comp.probspace.com/competitions/religious_art/discussions/skywalker-Post1a375b68565d3d022e6a

【2段目：LighetGBM】 ２段目は、１６種類の予測値を訓練データとして、多値分類するモデルの予測値に、各分類ごとの２値分類をするモデルの予測値を上書きすることで、精度を上げる方法を実施しました。 この方法は、プロ野球データ分析チャレンジで採用した方法を応用しました。

4.感想

今回のコンペは、宗教画の意味するテーマを分類するコンペでした。 これまで、宗教画をじっくり眺めて、テーマを考えることがなかったので、「あ、この絵のこの部分はこういうことを表しているんだ。」と、モデル以上に自分自身も学習することができました。（笑） 途中、自分が分類する場合に、「十字架があるな」、「人が多いな」などを基準にしたりするので、物体検出が応用できないかと、Yoloにも挑戦してみましたが、なかなか精度は上がりませんでした。

参考：学習済みのYOLOv5による物体検出結果の特徴量への追加 https://comp.probspace.com/competitions/religious_art/discussions/Oregin-Post2a43024f366d7a2a8a05

新しい技術にも触れられて、とても有意義なコンペとなりました。 また、今回からProbSpaceでも、最終提出ファイル選択方式となったので、最後の最後まで、ファイル選びに悩みました。 Public：Privateが13%：87%と、Publicスコアがあまり重視できない割合だったこともあって、ShakeDownしてしまいましたが、何とか３位になることができました。 引き続き、コンペに参加していきたいと思いますので、対戦よろしくお願いいたします。