2016 Fiscal Year Annual Research Report
構造的疎性モデリングのためのメタ学習アルゴリズム体系の構築
Publicly Offered Research
| Project Area | Initiative for High-Dimensional Data-Driven Science through Deepening of Sparse Modeling |
|---|
| Project/Area Number |
16H01548
|
|---|
| Research Institution | Osaka University |
|---|
Principal Investigator |
河原 吉伸 大阪大学, 産業科学研究所, 准教授 (00514796)
|
|---|
| Project Period (FY) |
2016-04-01 – 2018-03-31
|
| Keywords | 機械学習 / 劣モジュラ関数 |
|---|
| Outline of Annual Research Achievements |
本研究では，構造的情報をデータから自動的に取り出し構造的疎性モデリングへ利用するメタレベルの学習のための一連の理論／アルゴリズム体系の構築を目的とするものである．特に，劣モジュラ関数から得られる確率分布を用いて，多様な構造的疎性に対して統一的なアプローチや（最適化）計算への帰着が可能な体系の獲得を目指すものである．そして最終的には，得られた枠組みを実用的な場面へと適用することでその有用性の検証を進めるまでを目的とする．
本年度は，劣モジュラ関数から得られる確率分布を事前分布とするベイズ推論の枠組みについて構築を進めた．劣モジュラ関数のロヴァース拡張を正則化項とする（一般化）線形回帰問題においては，このようなベイズ推論が，一定の仮定の下で効率的に計算可能な最適化問題へと帰着されることについて示した．今後は，同様のモンテカルロ法により推論した場合との比較などを通し，仮定がどれだけ現実的仮定の下で妥当なのかを経験的にも示すなど，更なる検討が必要であると考えている．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
上述のように，本年度は，劣モジュラ関数から得られる確率分布を事前分布とするベイズ推論の枠組みについて構築を進めた．劣モジュラ関数のロヴァース拡張を正則化項とする（一般化）線形回帰問題においては，このようなベイズ推論が，一定の仮定の下で効率的に計算可能な最適化問題へと帰着されることについて示した．本成果は，本研究課題において最も主幹となるものであり，本年度中におおむねの構築できたことは成果として大きいと判断されるため，現在までの進捗としてはおおむね順調であるとした．
一方計画では，本年度中に，学習に利用する構造を固定した場合のハイパーパラメータ（例えば，ネットワークのエッジ上の結合度合いなど）をデータから学習する方法などについても検討する予定であった．この部分については，後述のような，仮定の妥当性などの検証を十分に行った後で，いくつかの具体的モデルについて検討を進める予定である．
|
| Strategy for Future Research Activity |
まず今後は，現在までに得られたベイズ推論の枠組みに対して，同様のモンテカルロ法により推論した場合との比較などを通してモデルの仮定などがどれだけ現実的仮定の下で妥当なのかを経験的に検証する．その上で，計画で行うと記述していた，学習に利用する構造を固定した場合のハイパーパラメータをデータから学習する方法などについても検討を進める．
また，得られたモデルや推論方法に対しては，実用的問題やデータに対して適宜してその有用性に関して検証を進めていく予定である．これに加えて，当新学術領域における各計測・実験領域の研究者との協議を重ね，本課題で開発した手法の適用可能性についても検討を進めていく．
|
Research Products
(6 results)
