2020 Fiscal Year Research-status Report
Uncertainty in Deep Learning for Undetstanding Data Mechanism and Anomaly Detection
| Project/Area Number |
19K20344
|
|---|
| Research Institution | Osaka University |
|---|
Principal Investigator |
松原 崇 大阪大学, 基礎工学研究科, 准教授 (70756197)
|
|---|
| Project Period (FY) |
2019-04-01 – 2023-03-31
|
| Keywords | 深層学習 / 不確実性 / 異常検知 / 解釈可能性 |
|---|
| Outline of Annual Research Achievements |
本研究の目的は，深層学習のもつ柔軟性と汎化性能を保ちつつ，以下の問題を解決することにある．(a1) 深層生成モデルの出力分布の解析により，異常データに対する不適当な汎化を検出し，「何を知らないかを知っている深層学習」を実現する．(a2)「何を知らないかを知っている深層学習」によって学習が不十分なデータを検出し，一般的な識別問題の学習の高速化や，信頼性や解釈性の向上を含む広い意味での高性能化を実現する．(b1) 構造化深層生成モデルを提案することで新しいデータグループの異常検知(zero-shot 異常検知) を実現する．(b2) 構造化深層生成モデルを一般化し，代表的な異常を検出しやすいモデル構造を提案する．
本年度は(a1)に関して，企業から提供されたクローズドなデータに加え，オープンな工業データ及び医療データについても実験を行い，普遍性を確認することができた．この結果は原著論文が英文誌に採択された．(a2)については，数値的な検証がしやすい問題設定を用いたものの，実データにおいて適切に機能するシステムを構築することができた．特に後者は原著論文が英文誌に採択された．(b1)については民間企業等から必要な情報提供を受けることができ，評価用の疑似データだけではなく，実社会で利用されるケースを想定した評価をすることができ，複数の国内発表を行った．また当初の目標以外にも，構造化深層生成モデルを用いたデータのモデル化手法について様々に検討し，特に実社会データや物理シミュレーションデータにおいて原因の切り分けや正確性の高いモデル化に使えるという示唆的な結果を得ることができた．この部分は研究課題名にある「データ構造理解」に相当することから，今後は目的(c)として取り組んでいくことを検討する．当初計画の目標はほぼ達成されており，当初目標外の成果もあったことから，進捗状況は順調である
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
昨年度の実施予定であったサブテーマ(a1)について，適切な追加実験によって原著論文が英文誌に採択された．本研究の根幹となるアイデア「何を知らないかを知っている深層学習」が確立できたと考える．本年度実施予定であったサブテーマ(a2)について，当初の想定通りの結果を得ることができ，原著論文が英文誌に採択された．サブテーマ(b1)についても，民間企業からのデータの影響を受けることができ，国内発表に加え特許を出願することができた．また当初予定になかったが，データ構造理解の観点から重要であると思われる新しい目的(c)を発見することができ，いくつかの原著論文の採択，国際会議での発表，学生の受賞につながった．当初予定していた事項をすべて達成しており，それ以外への拡大もできた．以上のことから，進捗状況は当初の計画以上に進展している．
|
| Strategy for Future Research Activity |
サブテーマ(a1)は完了したとみなすことができる．(a2)についても，当初想定していた成果はある程度出ている．しかし，異常検知と呼ばれる分野は幅広いことから，本年度実施した以外にも想定される問題設定について検討し，適応範囲を広げていく．あるいは統一的に扱えるフレームワークを構築する．また(b1)については論文を投稿中であり，コメントを受けて適切な改善に取り組む．(b2)については，ネットワーク構造を工夫することで，変形や周辺環境の差について，鈍感あるいは鋭敏にさせることで，目的となる異常を適切に見つける方法を検討するよう，研究計画調書に記載していた．現在までのところ，ネットワークの構造と性質の間にある数学的な関係について，ある程度議論ができており，この部分を深化させるとともに実際のタスクで検証していく．また次年度よりサブテーマ(c)も積極的に検討していくこととする．
|
| Causes of Carryover |
新型コロナ感染拡大を受け，出張が禁止になったことで，研究打ち合わせができず，旅費の支出が減った．また学生が登校禁止になったことで，リサーチアシスタントの業務ができず，人件費が支出できなかったとともに，そのための必要なコンピュータ類を購入できず物品費の支出が減った．次年度は登校禁止が緩和されたため，アシスタント業務に必要な物品を改めて購入する．
|
Research Products
(18 results)
