研究課題
令和2年度は主に以下に述べる成果を得ている。(1)前年度までで提案してきたニューラルネットワークモデルの入出力逆問題解法を拡張し、より実践的な場面で使用できるように改良した。具体的には以下の通りである。前年度までで提案した解法は所望の出力値に対して事後確率の意味で尤も相応しい入力を推定するものであるが、定式化の都合上、任意の実数値の範囲での入力が推定されてしまうという問題があった。しかしながら、現実的な問題においては入力はある範囲に限定さえている等の制約を持つことが多い。そこで本年度は理論を拡張し、推定される入力に対してある程度の制約(範囲制約や等式制約)を加えることができるように改良した。これにより、より現実的な問題に直接的にアプローチできるようなったと期待される。本成果は、昨年度までの成果と合わせて近い将来に論文投稿予定である。(2)本年度は、上記(1)とは別に、確率的深層学習モデルに対する研究成果もあった。確率的深層学習として深層ボルツマンマシンを考え、それに対する従来法を超える高効率学習アルゴリズムを提案した。深層ボルツマンマシンは、入出力間の結合確率を学習により獲得するモデルであり、入出力間相互情報量や入出力逆問題が自然に定式化できるものとなっている。つまり、(1)のアプローチと同様の目的をより自然に考えることのできるモデルである。本年度は、空間モンテカルロ積分法と呼ばれる高効率期待値近似法を導入することで、深層ボルツマンマシンに対する高精度学習アルゴリズムを提案した。この成果により、深層学習モデルの内部解析を実用的なレベルで行えるようになった。この成果は情報処理学会第83回全国大会や国際学会にて発表済みであり、また、その拡張的成果は学術論文として投稿済みとなっている。
成果に関する web ページhttp://www.adv-pip.yz.yamagata-u.ac.jp/~muneki/index.html
すべて 2021 2020
すべて 雑誌論文 (8件) (うち国際共著 4件、 査読あり 8件、 オープンアクセス 5件) 学会発表 (11件) (うち国際学会 3件)
Neural Computation
巻: 33 ページ: 1037-1062
10.1162/neco_a_01365
Proceedings of the 25th International Conference on Pattern Recognition
巻: - ページ: 7655-7660
Journal of the Physical Society of Japan
巻: 89 ページ: -
10.7566/JPSJ.89.064007
International Journal of Fuzzy Logic and Intelligent Systems
巻: 20 ページ: 87-95
10.5391/IJFIS.2020.20.2.87
Nonlinear Theory and its Applications, IEICE
巻: 11 ページ: 454-465
10.1587/nolta.11.454
巻: 11 ページ: 517-526
10.1587/nolta.11.517
Proceedings of the 2020 International Symposium on Nonlinear Theory and its Applications
巻: - ページ: 29-32
巻: - ページ: 37-39