2018 Fiscal Year Research-status Report
| Project/Area Number |
18K11459
|
|---|
| Research Institution | Yamagata University |
|---|
Principal Investigator |
安田 宗樹 山形大学, 大学院理工学研究科, 准教授 (20532774)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | 深層学習 / 人工知能 / 情報統計力学 / ベイズ統計 / 逆問題 / アルゴリズム |
|---|
| Outline of Annual Research Achievements |
本研究計画は、深層学習に関わるブラックボックス問題解決に向けたアプローチを統計力学及びベイズ統計的手法等に基づき確立することを目的としている。平成３０年度は主に以下に述べる成果を得ている。
■ベイズ統計に基づくニューラルネットワークモデルの逆問題の解法：ニューラルネットワークの（教師あり）学習は入力と出力に対応する訓練データを用いてモデルパラメータの最適化を行う。ニューラルネットワークは入力から出力を算出することは容易である一方、その逆、即ち、出力から入力を推定することは一般には難しい。本研究では、ベイズ統計と統計力学的近似推論法である平均場近似を用いてこの逆問題の解法を定式化した。逆問題の考え方は本研究計画の主題において重要である。出力から入力を推定することができれば、例えば、学習された深層学習システムが「どの入力要素を重要視しているか」や、また逆に、「どの入力要素は不必要としているか」などの情報をそこから得ることができ、問題解決に本質的な入力要素の特定が可能となる。本研究成果は国際学会 CAINE2018 で発表済みである。
■マルコフ確率場モデルに対する経験ベイズ法を用いたハイパパラメータ推定：マルコフ確率場モデルは確率的深層学習に対する基礎モデルである。本成果はマルコフ確率場と経験ベイズ法を組み合わせて種々のハイパパラメータを自動的に推定するアルゴリズムを提案した。この成果は、本研究計画の主題の一つである「深層学習へのスパースモデリング理論の応用」に対して貢献するものと期待される。本成果は、日本物理学会第74回年次大会で発表しており、現在論文執筆中である。
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
【研究実績の概要】で述べた「ベイズ統計に基づくニューラルネットワークモデルの逆問題の解法」の成果は本研究計画の核となる目的への直接的なアプローチを可能にする理論構築に成功しており、当初計画を超えて本研究計画を成功へと導くものであると考えている。
|
| Strategy for Future Research Activity |
今年度得られた成果は、まだ限定された範囲での理論である。したがって、それらをより実践的なモデルへと拡張し、ある程度汎用的な理論へと昇華させることが今後の主要ば方策である。ちなみに、「ベイズ統計に基づくニューラルネットワークモデルの逆問題の解法」の成果は現在段階で更なる発展を遂げており、結果をまとめて論文を執筆する予定になっている。
|
| Causes of Carryover |
人件費の支出が年度に間に合わなかったため生じた。次年度使用額を上乗せして改めて次年度の人件費として支出する予定である。
|
