2014 Fiscal Year Annual Research Report
| Project/Area Number |
24500001
|
|---|
| Research Institution | Hokkaido University |
|---|
Principal Investigator |
田中 章 北海道大学, 情報科学研究科, 准教授 (20332471)
|
|---|
| Project Period (FY) |
2012-04-01 – 2015-03-31
|
| Keywords | 標本化定理 / 再生核 / 再生核ヒルベルト空間 / 汎化誤差 / アンサンブルカーネル回帰 / マルチカーネル回帰 |
|---|
| Outline of Annual Research Achievements |
本研究の目的は、信号の標本化というプロセスを数学的に考察する際に非常に重要な道具立てとなる再生核ヒルベルト空間の理論を駆使することによって、標本化定理及びその周辺(主に機械学習理論)を網羅的に議論することにある。昨年度までの研究期間において、再生核ヒルベルト空間が標本化定理を有するための条件という本研究における最も重要な点について解明したため、本年度は、その発展形として、主に複数の再生核を用いた標本化定理、及び、その機械学習理論への応用に関して追求した。
複数の再生核を用いた関数推定手法として、個々の再生核による最適推定結果を結合する「アンサンブルカーネル回帰」と呼ばれる手法や、所与の複数の再生核を予め結合することで得られた再生核を利用して推定結果を得る「マルチカーネル回帰」と呼ばれる手法が広く認知されている。一方、それらの手法の正当性や性能の優劣について、理論的な解析が十分されているとは言えない状況であった。この問題に対し、1)アンサンブルカーネル回帰により得られる推定結果の汎化誤差が、個々の再生核により得られる推定結果汎化誤差の期待値よりも小さくなることを理論的に解明するとともに、2) 所与の再生核の族に対応する再生核ヒルベルト空間の族が、不変な計量を有する線形族を有する場合、未知の真関数が当該線形族に属するならば、アンサンブルカーネル回帰による推定結果の汎化誤差がマルチカーネル回帰による推定結果の汎化誤差よりも小さくなることを理論的に解明した。また、3)より柔軟性の高いマルチカーネル回帰法のモデルについても調査し、一般に用いられる経験誤差最少化の枠組では、当該モデルの潜在能力を引き出すことができないことも併せて解明した。
|
