最新論文調査: Self-Supervised Anomaly Detection検出編

Self-Supervised Anomaly Detectionとは

Self-Supervised Anomaly Detectionでは，「異常検知」に「自己教師あり学習」を用います． 「異常検知」は，文字通り，大多数のデータの中から好ましくない少数の異常なデータを見つけるタスクです．この技術を用いれば，製造業において目視で欠陥がないかを確認していた工程を自動化することができます．その他の活用事例としては，外観検査やスパム検知や医療診断があります．

「自己教師あり学習」は，教師なし学習の一種で，CNNの特徴量抽出器(Backbone)をアノテーションなしで学習データのみから学習する表現学習手法です． 画像分類のような教師あり学習では，ラベル情報を元に特徴量抽出器を学習しますが，自己教師あり学習では，学習データからラベル情報を自動生成し学習します．この学習済みモデルを下流タスクに転用することで少ないアノテーションデータで学習を行うことができます．

近年，異常検知の研究では，通常のデータのみを用いた教師なしの異常検知手法が主流となっています．この背景には，教師あり学習を用いれば，異常データを見つけ出すことに労力がかかったり，アノテーションに専門的な知識が必要なことがあります

論文紹介

CutPaste: Self-Supervised Learning for Anomaly Detection and Localization[1]

この手法では，通常のデータとCutPasteと呼ばれるデータ水増しを加えたデータを分類するタスクを解くことによって表現学習を行なっています．

CutPasteは，通常のデータの一部分を切り取り，その一部分を同じ画像に貼り付けるデータ水増し手法です．(下の画像では(e)の画像)

この論文では，さらにCutPaste(scar)と呼ばれるデータ水増し手法も提案しています． このCutPaste(scar)では，CutPasteの切り取る部分を小さい長方形としています． (下の画像では(f)の画像)

Self-Supervised Out-of-Distribution Detection and Localization with Natural Synthetic Anomalies (NSA)[2]

この手法はCutPasteを改良したものです．データ水増しによって作成した合成画像を識別するタスクを解くことによって表現学習を行なっています．合成画像はポアソンブレンディングを用いて作られます．

CutPasteとの違いは3つあります． CutPasteでは同一の画像から切り取り貼り付けを行なっていましたが，NSAでは切り取りと貼り付けを行う画像が違うことや，切り取る幅と高さがガンマ分布に従うようにしてあることや，CutPasteで生成されていた不自然な合成画像を排除するような工夫がされています．(背景に貼り付けが行われた時にはやり直す．) 

ANOSEG: ANOMALY SEGMENTATION NETWORK USING SELF-SUPERVISED LEARNING[3]

この論文では，自己教師あり学習を用いてデータの異常部分を検出するセグメンテーション手法を提案しています．

この手法では，回転と並び替えと色ジッターを加えた画像にCutPasteを行い，CutPasteを行なった部分を異常な箇所としてCNNを学習します． 

学習は，GANと同じように行なっています．Generatorとしてはセグメンテーションを行う部分に対応させ，Discriminatorには生成されたセグメンテーションと元画像を組み合わせたものを合成画像か判別する判別器に対応させています．その他の工夫として，CNNは位置情報を扱うことが苦手であるためCoordConvをセグメンテーションモデルに追加しています[4]．

おわりに

実際に社内データでCutPasteを動かしてみたのですが，確かに普通のデータだけで，異常なデータを識別できるような特徴量抽出器を学習できていました．しかし，データ内の異常部分を検出するセグメンテーションは性能が良くありませんでした．自己教師あり学習を用いた異常検知は十分実用利用できるレベルまで来ているので，今後この研究分野では，画像内の局所的な異常検出手法が盛んに研究されていくと予測しています． 本記事が皆様にとって有益な情報であれば，幸いです．

今後もコニカミノルタAI技術開発部では社会実装まで見据えた技術選定を意識していくことで，価値のあるサービスを提供していけるよう心がけていきます．

引用

[1] Li, Chun-Liang, et al. "Cutpaste: Self-supervised learning for anomaly detection and localization." Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2021.

[2] Yu, Jiawei, et al. "FastFlow: Unsupervised Anomaly Detection and Localization via 2D Normalizing Flows." arXiv preprint arXiv:2111.07677 (2021).

[3] Song, Jouwon, et al. "AnoSeg: Anomaly Segmentation Network Using Self-Supervised Learning." arXiv preprint arXiv:2110.03396 (2021).

[4] Liu, Rosanne, et al. "An intriguing failing of convolutional neural networks and the coordconv solution." Advances in neural information processing systems 31 (2018).