2016 Fiscal Year Annual Research Report
A comprehensive study of learning, inference, and inverse problems based on the spin-glass theory
| Project/Area Number |
26870185
|
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
小渕 智之 東京工業大学, 情報理工学院, 助教 (40588448)
|
|---|
| Project Period (FY) |
2014-04-01 – 2017-03-31
|
| Keywords | 逆問題・多自由度推定 / 統計的学習理論・機械学習 / 統計物理学 / スパースモデリング |
|---|
| Outline of Annual Research Achievements |
平成２８年度は、学習・逆問題において様々なアプローチ（スパースモデリング、ニューラルネットワーク、確率分布のモンテカルロサンプリング）による成果をまとめた。
スパースモデリング関連の研究では、特に近似的に交差検証を軽量な計算コストで行う手法を開発して、その理論的・実務的ベンチマークを行った。また実際に応用も行った。既に３篇の論文を執筆し、内２つは掲載済み、もう一つは査読中である。近似的交差検証とは別に、L0正則化と呼ばれる、スパースモデリングの発想にもっとも忠実な手法の理論解析も行った。この成果の論文を現在執筆中である。
ニューラルネットでは、ボルツマンマシンというモデルを用いて、２値自然画像を学習し、学習結果にどのような性質が現れるかを調べた。学習の結果得られたモデルを調べることにより、自然画像に存在する特徴的なスケールや臨界性の有無などを調べることが出来る。その相互作用のスケールは大きくてもおよそ４格子程度であり、また自然画像にあるべき臨界性はボルツマン学習では学習できないことがわかった。これはボルツマン学習という手法の不備を明確にする。論文１篇が２０１６年度に掲載された。
また、平成２６年から２７年度初頭に力をいれていた、一般の逆問題の解集合体積の評価を応用し、タイガーサラマンダーの網膜からとられた神経細胞の発火データを解析した。得られた統計量から許される全ての確率分布を最大エントロピー原理により得られる確率分布と比較し、最大エントロピー原理による分布が、特にシステムサイズが大きくなるにつれ、他の分布の大多数より優れていること、また最大エントロピー分布が他の分布に負ける際には、３体以上の相関が強いときに起こることを示した。現在、論文１篇の掲載が決定している。
また文脈が異なるがそれ以外に量子系の解析、生態系の解析も行い、論文が２本掲載済み、１本が査読中である。
|
