• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2020 年度 実績報告書

深層学習からのデータ相関構造マイニング理論の開拓

研究課題

研究課題/領域番号 18K11459
研究機関山形大学

研究代表者

安田 宗樹  山形大学, 大学院理工学研究科, 准教授 (20532774)

研究期間 (年度) 2018-04-01 – 2021-03-31
キーワード深層学習 / 人工知能 / 情報統計力学 / ベイズ統計 / 逆問題 / アルゴリズム
研究実績の概要

令和2年度は主に以下に述べる成果を得ている。

(1)前年度までで提案してきたニューラルネットワークモデルの入出力逆問題解法を拡張し、より実践的な場面で使用できるように改良した。具体的には以下の通りである。前年度までで提案した解法は所望の出力値に対して事後確率の意味で尤も相応しい入力を推定するものであるが、定式化の都合上、任意の実数値の範囲での入力が推定されてしまうという問題があった。しかしながら、現実的な問題においては入力はある範囲に限定さえている等の制約を持つことが多い。そこで本年度は理論を拡張し、推定される入力に対してある程度の制約(範囲制約や等式制約)を加えることができるように改良した。これにより、より現実的な問題に直接的にアプローチできるようなったと期待される。本成果は、昨年度までの成果と合わせて近い将来に論文投稿予定である。

(2)本年度は、上記(1)とは別に、確率的深層学習モデルに対する研究成果もあった。確率的深層学習として深層ボルツマンマシンを考え、それに対する従来法を超える高効率学習アルゴリズムを提案した。深層ボルツマンマシンは、入出力間の結合確率を学習により獲得するモデルであり、入出力間相互情報量や入出力逆問題が自然に定式化できるものとなっている。つまり、(1)のアプローチと同様の目的をより自然に考えることのできるモデルである。本年度は、空間モンテカルロ積分法と呼ばれる高効率期待値近似法を導入することで、深層ボルツマンマシンに対する高精度学習アルゴリズムを提案した。この成果により、深層学習モデルの内部解析を実用的なレベルで行えるようになった。
この成果は情報処理学会第83回全国大会や国際学会にて発表済みであり、また、その拡張的成果は学術論文として投稿済みとなっている。

備考

成果に関する web ページ
http://www.adv-pip.yz.yamagata-u.ac.jp/~muneki/index.html

  • 研究成果

    (19件)

すべて 2021 2020

すべて 雑誌論文 (8件) (うち国際共著 4件、 査読あり 8件、 オープンアクセス 5件) 学会発表 (11件) (うち国際学会 3件)

  • [雑誌論文] A Generalization of Spatial Monte Carlo Integration2021

    • 著者名/発表者名
      Muneki Yasuda and Kei Uchizawa
    • 雑誌名

      Neural Computation

      巻: 33 ページ: 1037-1062

    • DOI

      10.1162/neco_a_01365

    • 査読あり / オープンアクセス
  • [雑誌論文] Multi-layered Discriminative Restricted Boltzmann Machine with Untrained Probabilistic Layer2021

    • 著者名/発表者名
      Yuri Kanno and Muneki Yasuda
    • 雑誌名

      Proceedings of the 25th International Conference on Pattern Recognition

      巻: - ページ: 7655-7660

    • 査読あり
  • [雑誌論文] Adaptive Thouless-Anderson-Palmer equation for higher-order Markov random fields2020

    • 著者名/発表者名
      Chako Takahashi, Muneki Yasuda, and Kazuyuki Tanaka
    • 雑誌名

      Journal of the Physical Society of Japan

      巻: 89 ページ: -

    • DOI

      10.7566/JPSJ.89.064007

    • 査読あり / オープンアクセス
  • [雑誌論文] Changing Tendency Analysis of Sleep Quality Based on Temperature and Respiratory Frequency Using Neural Network Model2020

    • 著者名/発表者名
      Minami Tsuchiya, Seung-Il Cho, Atsushi Tanaka, Muneki Yasuda, Tomochika Harada, and Michio Yokoyama
    • 雑誌名

      International Journal of Fuzzy Logic and Intelligent Systems

      巻: 20 ページ: 87-95

    • DOI

      10.5391/IJFIS.2020.20.2.87

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Consistent Batch Normalization for Weighted Loss in Imbalanced-Data Environment2020

    • 著者名/発表者名
      Muneki Yasuda, Yeo Xian En, and Seishirou Ueno
    • 雑誌名

      Nonlinear Theory and its Applications, IEICE

      巻: 11 ページ: 454-465

    • DOI

      10.1587/nolta.11.454

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Visualization and Evaluation of the Relation between the Estimated Sleep Satisfaction Levels using Nonlinear Multiple Regression Analysis and Autonomic Nervous System2020

    • 著者名/発表者名
      Seung-Il Cho, Minami Tsuchiya, Atsushi Tanaka, Muneki Yasuda, Tomochika Harada, and Michio Yokoyama
    • 雑誌名

      Nonlinear Theory and its Applications, IEICE

      巻: 11 ページ: 517-526

    • DOI

      10.1587/nolta.11.517

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Effective Fine-Tuning Algorithm for Deep Boltzmann Machine2020

    • 著者名/発表者名
      Tomu Katsumata and Muneki Yasuda
    • 雑誌名

      Proceedings of the 2020 International Symposium on Nonlinear Theory and its Applications

      巻: - ページ: 29-32

    • 査読あり
  • [雑誌論文] A Study on the Correlation Between the Subjective Satisfaction of Sleep and Phase of a 90-Minute Periodic Signal2020

    • 著者名/発表者名
      Seung-Il Cho, Minami Tsuchiya, Atsushi Tanaka, Muneki Yasuda, Tomochika Harada, and Michio Yokoyama
    • 雑誌名

      Proceedings of the 2020 International Symposium on Nonlinear Theory and its Applications

      巻: - ページ: 37-39

    • 査読あり / 国際共著
  • [学会発表] Multi-layered Discriminative Restricted Boltzmann Machine with Untrained Probabilistic Layer2021

    • 著者名/発表者名
      Yuri Kanno and Muneki Yasuda
    • 学会等名
      The 25th International Conference on Pattern Recognition
    • 国際学会
  • [学会発表] ノイズの相関構造を考慮した確率的画像処理2021

    • 著者名/発表者名
      矯徳慧,安田宗樹
    • 学会等名
      情報処理学会東北支部研究会
  • [学会発表] 深層ボルツマンマシンに対する統計力学的解析2021

    • 著者名/発表者名
      前野陵介,安田宗樹
    • 学会等名
      日本物理学会 第76回年次大会
  • [学会発表] 空間モンテカルロ積分法と焼なまし重点サンプリングを組み合わせた高性能サンプリング近似法2021

    • 著者名/発表者名
      関本快士,安田宗樹
    • 学会等名
      情報処理学会 第83回全国大会
  • [学会発表] 不均衡回帰問題に対する重み付きバッチ正規化法の検証2021

    • 著者名/発表者名
      楊顕恩,安田宗樹
    • 学会等名
      情報処理学会 第83回全国大会
  • [学会発表] 非学習型確率層により多層化された制限ボルツマンマシン分類器の性能の検討2021

    • 著者名/発表者名
      菅野友理,安田宗樹
    • 学会等名
      情報処理学会 第83回全国大会
  • [学会発表] 深層ボルツマンマシンにおける学習アルゴリズムの改良2021

    • 著者名/発表者名
      勝亦利宗,安田宗樹
    • 学会等名
      情報処理学会 第83回全国大会
  • [学会発表] マルコフ確率場と非局所パッチ法を組み合わせた画像補修アルゴリズム2021

    • 著者名/発表者名
      門馬維紀,安田宗樹
    • 学会等名
      情報処理学会 第83回全国大会
  • [学会発表] 眠りSCANを用いた寝姿勢推定システムの構築2021

    • 著者名/発表者名
      葛原優樹,近藤栄太郎,豊田彩織,椎野俊秀,木暮貴政,安田宗樹
    • 学会等名
      情報処理学会 第83回全国大会
  • [学会発表] Effective Fine-Tuning Algorithm for Deep Boltzmann Machine2020

    • 著者名/発表者名
      Tomu Katsumata and Muneki Yasuda
    • 学会等名
      The 2020 International Symposium on Nonlinear Theory and its Applications
    • 国際学会
  • [学会発表] Study on the Correlation Between the Subjective Satisfaction of Sleep and Phase of a 90-Minute Periodic Signal2020

    • 著者名/発表者名
      Seung-Il Cho, Minami Tsuchiya, Atsushi Tanaka, Muneki Yasuda, Tomochika Harada, and Michio Yokoyama
    • 学会等名
      The 2020 International Symposium on Nonlinear Theory and its Applications
    • 国際学会

URL: 

公開日: 2021-12-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi