2021 Fiscal Year Research-status Report
A method for for generating normal model and discriminating anomalies by adversarial autoencoder using a small number of defective samples
| Project/Area Number |
20K11884
|
|---|
| Research Institution | Gifu University |
|---|
Principal Investigator |
加藤 邦人 岐阜大学, 工学部, 教授 (70283281)
|
|---|
| Project Period (FY) |
2020-04-01 – 2023-03-31
|
| Keywords | 異常検知 / 敵対的自己符号化器 / 深層学習 / 外観検査 / セキュリティ |
|---|
| Outline of Annual Research Achievements |
深層学習による異常検知で一般的な方法は、自己符号化器（AutoEncoder：以下AE）を用いる方法であるが、AEでは学習データに存在しないデータは、学習サンプルから得られた確率密度関数内に内挿する「汎化」が起こることがある。汎化が起こると未知の異常データは正しく異常と判定されるか、内挿され正常と判定されるか不確実となる。そこで、正常データに加え、少量の異常データを用いることで、潜在空間上での正常と異常の識別境界が明確に学習できることを解明することが本研究課題の目的である。
昨年度の研究では、敵対的自己符号化器(Adversarial Auto Encoder：以下AAE）により、特徴を低次元の確率密度関数に圧縮しつつ、標準正規分布に従う正常モデルを学習ニューラルネットワークについて研究を行った。これにより、AAEによる正規分布特徴量抽出ニューラルネットワークの安定的な学習、ならびに精度向上の研究を行いAAEの性質をあきらかにした。また、AAEでは、安定した性能を実現するネットワーク構造の改良と、安定した学習方法を確立した。
今年度は、この成果を実証するために他の異常検知手法との比較による正常モデルの性質解明の研究を行った。AAEのような敵対的学習を用いる異常検知手法と、同じく少量の異常サンプルを用いる手法としてDeep SAD法との比較を行った。結果、AAEを用いる方法は異常モデルを正規分布に落とし込み、かつ少量異常データを正規分布の外に配置する性質があることがわかり、それゆえモデルが正確に得られれば高い認識性能が得られることがわかった。一方、Deep SADは正常モデルを多次元の超球に落とし込み、少量異常サンプルにより正常と異常の境界を強く離す性質があることがわかった。
またいくつかの異常検知事例、特に外観検査においては従来の画像処理に比べ高い認識性能を確認した。
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
昨年度の研究成果により得られた、正常サンプルと少量の異常サンプルによりAAEを用いて正規分布に従う正常モデルを学習し、異常を正確に検出できるようなニューラルネットワーク構造や、学習法の知見にもとづき、性質の解明、他手法との比較を行った。
まず、AAEを用いた手法と、同じく少量異常を学習に用いるDeep SADとの比較を行い、それぞれの性質の違い、性能の比較などを行った。これにより、AAEを少量異常を用いて学習する手法が持つ特性と、どのような対象に適しているかの解明を行った。
また、本手法を実際の異常検知に応用し比較実験を行った。異常検知対象として外観検査を想定し、共通データセットであるMVTec Anomaly Detection Dataset、実データとして表面実装基盤上のICチップのハンダ検査に適用し実画像を用いた場合での最適ネットワーク構造、パラメータチューニング手法を開発した。また、性能評価により本手法がある対象には非常に高い性能を示すことを確認した。実際に、面実装基盤上のICチップのハンダ検査では、ハンダをCTスライス映像として撮像し、本手法を適用することで、不良の見逃しを0、過検出率（正常を異常と誤判定する率）を0.1%以下と、従来の検査装置の性能を大幅に改善することを確認した。
また、実用化を目指した学習用PCシステムの構築、ならびに学習方法、推論速度の向上の研究に着手した。
|
| Strategy for Future Research Activity |
今後は、さらなる実用化を目指し、実際の外観検査や異常検知のニーズ調査を行い、本手法の適用事例を検討する。本手法は、少量の異常サンプルを含めることで精度の向上を図る点に新規性があるが、異常サンプルが入手可能な応用事例でなければ使うことができない。異常検知の応用事例の中には、正常サンプルしか入手できない事例が多く存在する。例えば、自動ブレーキシステムにおいての衝突シーンなどは原則入手不可能である。このような事例には適用できないが、擬似的な異常データであれば生成できる場面も多い。そのような応用事例への適用方法についての研究を行う。
また、実際の異常検知では、通常異常の見逃しは認められないため、正常を異常と判定する過検出が起きても見逃しができる限りゼロとするよう求められる。そこには誤検出と過検出のトレードオフが存在するので、異常検出精度を上げる学習方法の改良と、正常の過検出を抑えるしきい値の決定方法の研究を行う。そのための学習方法やパラメータチューニング方法、性能評価方法の確立が必要となる。
さらに、実用化では高速な実行速度が求められるため、エッジ端末上でも動作可能なコンパクトなネットワーク設計など高速化の研究を行う。ネットワークの小型化には、単純には入力解像度の縮小、畳み込み回数やプーリング回数の削減などが効果的である反面、性能は低下する傾向がある。それらの性質についての調査を行う。また、最近ではニューラルネットワークを圧縮する研究も数多く行われており、知識蒸留などを応用して小型なニューラルネットワークモデルを構築する研究を行う。
|
