| 研究課題/領域番号 |
15K00330
|
|---|
| 研究機関 | 山形大学 |
|---|
研究代表者 |
安田 宗樹 山形大学, 大学院理工学研究科, 准教授 (20532774)
|
|---|
| 研究期間 (年度) |
2015-04-01 – 2018-03-31
|
| キーワード | 深層学習 / 深層ボルツマンマシン / 情報統計力学 / 理論解析 |
|---|
| 研究実績の概要 |
当該研究計画は、確率的情報処理や情報統計力学の解析手法を主たる武器として、深層学習の数理的な背景を明らかとし、実践的なモデル設計理論へとつなげることを目的としている。平成２８年度は以下に述べる２つの研究を主としている。
①深層ボルツマンマシンの事前学習に対する統計力学的解釈と計算アルゴリズムの開発。
事前学習は現在の深層学習ブームの火付け役になったものであり、広く利用されている計算アルゴリズムであるが、非常に発見的なアルゴリズムとなっておりその数理的意味については提案以来未知のままであった。当成果は、統計力学的なアプローチを用いて事前学習の数理的背景を明らかとしたものであり、世界初の理論成果である。当成果は平成２７年度から引き続き継続しているものであり、機械学習分野でトップレベルの一つとして数えられている国際会議（AISTATS2016：採択率は毎年２割～３割程度）の論文として採択されている。
また更に、深層学習ボルツマンマシンに対する統計力学的解析法に基づく具体的な計算アルゴリズムも開発しており、成果の一部は国際学術論文誌JPSJから出版されている
②深層学習モデルに対する高速なノイズ耐性検査アルゴリズムの開発。
入力にノイズが混じった場合、システムの出力はノイズの影響を受け変化してしまう。頑健なシステムであるためにはノイズに対して頑健である必要があり、システムのノイズ耐性検査はシステムの品質を測る上で重要な工程となる。システムのノイズに対する耐性は、実際に入力にノイズを混ぜてみて出力の変化を検査することにより測られるが、この方針ではノイズの多様性に応じた膨大な回数の出力計算処理を要してしまう。提案法では、ただ一回の入出力処理のみでシステムのノイズ耐性を測ることを可能としている。当成果は既に情報処理学会で発表済みであり、現在論文として執筆中である。
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
【研究実績の概要】でも述べた通り、平成２８年度は深層学習の設計理論に直接つながるアルゴリズムの開発（②の研究成果）に成功しており、その成果は当該研究計画の核となる目的に沿ったものである。以上の理由より、研究進捗としては順調であると判断される。
|
| 今後の研究の推進方策 |
今後は、これまでの理論的成果を手掛かりに最終年に向けて深層学習の実践的設計理論に直接的にアプローチしていく。特に、平成２８年度の成果（深層ボルツマンマシンに対する統計力学的アプローチと深層学習モデルに対する高速検査アルゴリズムの開発）は最終目標に対して直接関与するものであるため、それらを理論拡張して一般的に利用できる汎用理論として広げていくことを方針とする。
|
| 次年度使用額が生じた理由 |
当初参加を予定していた学会をキャンセルせざるを得ない状況だったため。
|
| 次年度使用額の使用計画 |
平成２９年度に代わりの国際学会（NOLTA2017）に参加予定。
|
| 備考 |
高橋茶子，安田宗樹，情報処理学会第79回全国大会 学生奨励賞受賞
|
