• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2020 年度 実施状況報告書

深層学習に内在する不確実性の利用と制御によるデータ構造理解と異常検知への応用

研究課題

研究課題/領域番号 19K20344
研究機関大阪大学

研究代表者

松原 崇  大阪大学, 基礎工学研究科, 准教授 (70756197)

研究期間 (年度) 2019-04-01 – 2023-03-31
キーワード深層学習 / 不確実性 / 異常検知 / 解釈可能性
研究実績の概要

本研究の目的は,深層学習のもつ柔軟性と汎化性能を保ちつつ,以下の問題を解決することにある.(a1) 深層生成モデルの出力分布の解析により,異常データに対する不適当な汎化を検出し,「何を知らないかを知っている深層学習」を実現する.(a2)「何を知らないかを知っている深層学習」によって学習が不十分なデータを検出し,一般的な識別問題の学習の高速化や,信頼性や解釈性の向上を含む広い意味での高性能化を実現する.(b1) 構造化深層生成モデルを提案することで新しいデータグループの異常検知(zero-shot 異常検知) を実現する.(b2) 構造化深層生成モデルを一般化し,代表的な異常を検出しやすいモデル構造を提案する.

本年度は(a1)に関して,企業から提供されたクローズドなデータに加え,オープンな工業データ及び医療データについても実験を行い,普遍性を確認することができた.この結果は原著論文が英文誌に採択された.(a2)については,数値的な検証がしやすい問題設定を用いたものの,実データにおいて適切に機能するシステムを構築することができた.特に後者は原著論文が英文誌に採択された.(b1)については民間企業等から必要な情報提供を受けることができ,評価用の疑似データだけではなく,実社会で利用されるケースを想定した評価をすることができ,複数の国内発表を行った.また当初の目標以外にも,構造化深層生成モデルを用いたデータのモデル化手法について様々に検討し,特に実社会データや物理シミュレーションデータにおいて原因の切り分けや正確性の高いモデル化に使えるという示唆的な結果を得ることができた.この部分は研究課題名にある「データ構造理解」に相当することから,今後は目的(c)として取り組んでいくことを検討する.当初計画の目標はほぼ達成されており,当初目標外の成果もあったことから,進捗状況は順調である

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

昨年度の実施予定であったサブテーマ(a1)について,適切な追加実験によって原著論文が英文誌に採択された.本研究の根幹となるアイデア「何を知らないかを知っている深層学習」が確立できたと考える.本年度実施予定であったサブテーマ(a2)について,当初の想定通りの結果を得ることができ,原著論文が英文誌に採択された.サブテーマ(b1)についても,民間企業からのデータの影響を受けることができ,国内発表に加え特許を出願することができた.また当初予定になかったが,データ構造理解の観点から重要であると思われる新しい目的(c)を発見することができ,いくつかの原著論文の採択,国際会議での発表,学生の受賞につながった.当初予定していた事項をすべて達成しており,それ以外への拡大もできた.以上のことから,進捗状況は当初の計画以上に進展している.

今後の研究の推進方策

サブテーマ(a1)は完了したとみなすことができる.(a2)についても,当初想定していた成果はある程度出ている.しかし,異常検知と呼ばれる分野は幅広いことから,本年度実施した以外にも想定される問題設定について検討し,適応範囲を広げていく.あるいは統一的に扱えるフレームワークを構築する.また(b1)については論文を投稿中であり,コメントを受けて適切な改善に取り組む.(b2)については,ネットワーク構造を工夫することで,変形や周辺環境の差について,鈍感あるいは鋭敏にさせることで,目的となる異常を適切に見つける方法を検討するよう,研究計画調書に記載していた.現在までのところ,ネットワークの構造と性質の間にある数学的な関係について,ある程度議論ができており,この部分を深化させるとともに実際のタスクで検証していく.また次年度よりサブテーマ(c)も積極的に検討していくこととする.

次年度使用額が生じた理由

新型コロナ感染拡大を受け,出張が禁止になったことで,研究打ち合わせができず,旅費の支出が減った.また学生が登校禁止になったことで,リサーチアシスタントの業務ができず,人件費が支出できなかったとともに,そのための必要なコンピュータ類を購入できず物品費の支出が減った.次年度は登校禁止が緩和されたため,アシスタント業務に必要な物品を改めて購入する.

  • 研究成果

    (18件)

すべて 2021 2020

すべて 雑誌論文 (5件) (うち国際共著 1件、 査読あり 5件、 オープンアクセス 3件) 学会発表 (12件) (うち国際学会 2件、 招待講演 1件) 産業財産権 (1件)

  • [雑誌論文] Exploring Uncertainty Measures for Image-Caption Embedding-and-Retrieval Task2021

    • 著者名/発表者名
      Kenta Hama, Takashi Matsubara, Kuniaki Uehara, and Jianfei Cai
    • 雑誌名

      ACM Transactions on Multimedia Computing, Communications, and Applications

      巻: - ページ: -

    • 査読あり / 国際共著
  • [雑誌論文] Target-Oriented Deformation of Visual-Semantic Embedding Space2021

    • 著者名/発表者名
      Takashi Matsubara
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E104.D ページ: 24~33

    • DOI

      10.1587/transinf.2020MUP0003

    • 査読あり / オープンアクセス
  • [雑誌論文] Neural Architecture Search for Convolutional Neural Networks with Attention2021

    • 著者名/発表者名
      Kohei Nakai, Takashi Matsubara, Kuniaki Uehara
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E104.D ページ: 312~321

    • DOI

      10.1587/transinf.2020EDP7111

    • 査読あり / オープンアクセス
  • [雑誌論文] Hybrid of Reinforcement and Imitation Learning for Human-Like Agents2020

    • 著者名/発表者名
      Rousslan F. J. Dossa, Xinyu Lian, Hirokazu Nomoto, Takashi Matsubara, Kuniaki Uehara
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E103.D ページ: 1960~1970

    • DOI

      10.1587/transinf.2019EDP7298

    • 査読あり / オープンアクセス
  • [雑誌論文] Deep Generative Model Using Unregularized Score for Anomaly Detection With Heterogeneous Complexity2020

    • 著者名/発表者名
      Takashi Matsubara, Kazuki Sato, Kenta Hama, Ryosuke Tachibana, Kuniaki Uehara
    • 雑誌名

      IEEE Transactions on Cybernetics

      巻: - ページ: 1~13

    • DOI

      10.1109/TCYB.2020.3027724

    • 査読あり
  • [学会発表] トポロジーを考慮した3次元点群深層生成モデル2021

    • 著者名/発表者名
      木村匠,松原崇,上原邦昭
    • 学会等名
      情報処理学会 コンピュータビジョンとイメージメディア研究会(CVIM2021)
  • [学会発表] Counterfactual Image Generation using GAN for Fairness2021

    • 著者名/発表者名
      綿岡晃輝, 松原崇, 上原邦昭
    • 学会等名
      情報処理学会 コンピュータビジョンとイメージメディア研究会(CVIM2021)
  • [学会発表] ペア入力を用いた敵対的学習による医用画像スタイル変換2021

    • 著者名/発表者名
      藤岡和暉, 松原崇, 上原邦昭
    • 学会等名
      医用画像研究会(MI2021)
  • [学会発表] 属性情報を分離したfMRI 画像の深層状態空間モデル2021

    • 著者名/発表者名
      草野航希,松原崇,上原邦昭
    • 学会等名
      医用画像研究会(MI2021)
  • [学会発表] Att-DARTS: Differentiable Neural Architecture Search for Attention2020

    • 著者名/発表者名
      Kohei Nakai, Takashi Matsubara and Kuniaki Uehara
    • 学会等名
      The 2020 International Joint Conference on Neural Networks (IJCNN2020),
    • 国際学会
  • [学会発表] Deep Energy-Based Discrete-Time Physics2020

    • 著者名/発表者名
      Takashi Matsubara, Ai Ishikawa, Takaharu Yaguchi
    • 学会等名
      Advances in Neural Information Processing Systems (NeurIPS)
    • 国際学会
  • [学会発表] 集合データの共通特徴抽出を利用したFew-shot異常検知2020

    • 著者名/発表者名
      佐藤 一輝,中田 智史,松原 崇,上原 邦昭
    • 学会等名
      情報論的学習理論と機械学習研究会 (IBISML2020)
  • [学会発表] 画像データを対象とした異常検知の動向と今後の展望2020

    • 著者名/発表者名
      佐藤 一輝,松原 崇,上原 邦昭
    • 学会等名
      複雑コミュニケーションサイエンス研究会
    • 招待講演
  • [学会発表] 注意機構を持った深層ニューラルネットワークの勾配探索2020

    • 著者名/発表者名
      中井 康平, 松原 崇, 上原 邦昭
    • 学会等名
      第34回人工知能学会全国大会(JSAI2020)
  • [学会発表] 公平性により生じる敵対的攻撃に対する脆弱性2020

    • 著者名/発表者名
      綿岡晃輝, 松原 崇, 上原 邦昭
    • 学会等名
      第34回人工知能学会全国大会(JSAI2020)
  • [学会発表] エネルギー保存則・散逸則を保証する深層物理シミュレーション2020

    • 著者名/発表者名
      松原崇, 石川歩惟, 谷口隆晴,
    • 学会等名
      第23回情報論的学習理論ワークショップ (IBIS2020)
  • [学会発表] 知識グラフ上の経路クエリの横断評価モデル2020

    • 著者名/発表者名
      濱健太, 松原崇, 上原邦昭
    • 学会等名
      第34回人工知能学会全国大会(JSAI2020)
  • [産業財産権] 未知のデータにも再学習せずに適応できる異常検知アルゴリズム2020

    • 発明者名
      松原崇, 上原邦昭, 佐藤一輝, 中田智史
    • 権利者名
      株式会社三菱ケミカルホールディングス, 国立大学法人大阪大学
    • 産業財産権種類
      特許
    • 産業財産権番号
      2020-175584

URL: 

公開日: 2021-12-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi