2019 Fiscal Year Research-status Report
Uncertainty in Deep Learning for Undetstanding Data Mechanism and Anomaly Detection
| Project/Area Number |
19K20344
|
|---|
| Research Institution | Kobe University |
|---|
Principal Investigator |
松原 崇 神戸大学, システム情報学研究科, 助教 (70756197)
|
|---|
| Project Period (FY) |
2019-04-01 – 2023-03-31
|
| Keywords | 深層学習 / 不確実性 / 異常検知 / 解釈可能性 |
|---|
| Outline of Annual Research Achievements |
本研究の目的は，深層学習のもつ柔軟性と汎化性能を保ちつつ，以下の問題を解決することにある．(a1) 深層生成モデルの出力分布の解析により，異常データに対する不適当な汎化を検出し，「何を知らないかを知っている深層学習」を実現する．(a2)「何を知らないかを知っている深層学習」によって学習が不十分なデータを検出し，一般的な識別問題の学習の高速化や，信頼性や解釈性の向上を含む広い意味での高性能化を実現する．(b1) 構造化深層生成モデルを提案することで新しいデータグループの異常検知(zero-shot 異常検知) を実現する．(b2) 構造化深層生成モデルを一般化し，代表的な異常を検出しやすいモデル構造を提案する．(a1)について実証に必要な実験をすべて終えることができ，現在原著論文が投稿中である．また，当初の解析では知らないものへの無用な汎化が原因であると考えられていた(偽陰性)．しかしむしろ，知っているものの評価法が適切ではない(偽陰性)という別の観点でも説明できることがわかり，新しい解析を加えることができた．(a2)(b1)についても予備的な結果をまとめることができ，国内会議にて発表した．特に(b1)については民間企業等から必要な情報提供を受けることができ，評価用の疑似データだけではなく，実社会で利用されるケースを想定した評価が可能になる環境が整った．当初計画の目標はほぼ達成されており，目標外の成果もあったことから，進捗状況は順調である．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本年度実施予定であったサブテーマ(a1)について，特にモデルが想定する誤差の大きさを用いた異常検知について，実証に必要な実験をすべて終えることができた．また，当初の解析では知らないものへの無用な汎化が原因であると考えられていた(偽陰性)．しかしむしろ，知っているものの評価法が適切ではない(偽陰性)という別の観点でも説明できることがわかり，新しい解析を加えることができた．サブテーマ(b1)についても，民間企業とのデータ共有にこぎつけ，予備的な結果を国内会議にて発表できた．当初予定していた事項をすべて達成しており，また当初計画にない応用を実施し，査読付き原著論文１編が採択された．以上のことから，進捗状況は順調である．
|
| Strategy for Future Research Activity |
サブテーマ(a1)については現在投稿中の論文を修正し，本研究の根幹となるアイデア「何を知らないかを知っている深層学習」の確立を目指す．また当該研究を広い範囲に適応し，不十分なデータを検出し，一般的な識別問題の学習の高速化・高性能化につなげるサブテーマ(a2)はすでに実施中であり，こちらについても確固たる成果につなげていく．ここで言う高性能化とは単なる性能を超えて，公平性や信頼性についても検証していく．サブテーマ(b1)については実施環境が整い，基礎的な結果も得られつつあるので，その成果を確固たるものにしていく．現時点ではベンチマーク用の公開データと，民間企業から提供を受けたリアルなデータでは異なる傾向が得られている．その原因が何であるのか解析し，ベンチマークでは評価しにくいリアルデータの性質についても議論していく．
|
| Causes of Carryover |
購入予定だった計算機サーバーに搭載する計算ボードについて，古い型番が製造中止になった一方で，後継シリーズが要求仕様を満たさなかった．仕様に合う製品を探すのに時間がかかってしまったため，次年度に使用することになった．
|
