2016 Fiscal Year Research-status Report
| Project/Area Number |
16K05264
|
|---|
| Research Institution | Hokkaido University |
|---|
Principal Investigator |
田中 章 北海道大学, 情報科学研究科, 教授 (20332471)
|
|---|
| Project Period (FY) |
2016-04-01 – 2019-03-31
|
| Keywords | 機械学習 / カーネル回帰 / 再生核 / 再生核ヒルベルト空間 / マルチカーネル / 汎化性能 |
|---|
| Outline of Annual Research Achievements |
本研究課題は，再生核ヒルベルト空間論に立脚する機械学習の分野において近年注目を浴びている，複数再生核を用いた学習法に新たな方法論を導入し，機械学習の性能を劇的に向上させることを目的としたものである．より具体的には，推定対象を単なる複数再生核の線形結合で表現するのではなく，各再生核と訓練データが規定する部分空間への直交射影を拘束条件とし，当該拘束条件を利用して，射影により失われた成分を積極的に推定する(我々は，これを「射影バイアス推定」と呼んでいる)ことにより，より高精度な学習の実現を目指すものである．
今年度当初の目標は，比較的単純な有限次元の再生核ヒルベルト空間における「射影バイアス推定」の可能性について検討する予定であった．一方，従来の複数再生核を用いた学習法について，これまでその理論的な限界や性質等が明らかになっていなかったことから，本研究課題にて構築を目指す新しい学習法の評価に支障をきたす可能性があると考え，今年度は，従来の複数再生核を用いた学習法の理論解析に充当した．その結果，従来，複数の再生核を用いることで，単一の再生核を用いた推定法よりも表現力の高いモデルが構築可能と考えられていたが，現実には，単に所与の複数再生核を線形結合して得られる単一の再生核による学習結果以上の推定精度は得られないことが理論的に明らかになった．このことは，本研究課題にて構築を目指す新たな学習法の優位性を相対的に高める結果となるといえる。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
研究実績の概要にて述べたように，今年度は，計画段階では予定していなかった，従来の複数再生核を利用した学習法の理論的な限界や性質等の解明に充当した．これにより，当初予定していた「射影バイアス推定」を用いた学習法の構築には若干の遅れが生じている．一方，今年度の成果，すなわち，従来の複数再生核を用いた学習法についての理論解析により，従来の複数再生核を用いた学習法は，本来，複数再生核を用いることにより期待される，潜在的な学習モデルの表現力の高さを有効に利用することすらできておらず，単に複数再生核を線形結合して得られる単一再生核を用いた学習に過ぎないことが初めて明らかとなった．これは，当初計画にはなかったものの，非常に重要な論点であり，また，結果と言える．また，この結果は，本研究課題にて構築を目指す新たな学習法の意義を相対的に高めるものであるとも言える．
以上のことから，本研究課題は，概ね順調に推移していると考える．
|
| Strategy for Future Research Activity |
平成29年度以降は，当初計画において主論点であった，「射影バイアス推定」に基づく，複数再生核を用いた学習理論の検討・構築に着手する．現状，基礎的な検討を行う数学的な方法論については概ね準備を終えた段階であり，本格的な理論解析にとりかかることが可能となっている．
他方，今年度の成果により，従来の複数再生核を用いた学習法においても，改良の余地が大きく残されていることが判明したため，新たな論点として，従来の複数再生核の線形結合による学習法の直接の改良や，より精度の高い学習結果を与える再生核そのものの設計法についても並行して検討を進める予定である．
|
| Causes of Carryover |
平成28年度に計上したソフトウエアに関しては，研究室での学生の利用も見込まれることから校費で購入した一方，当該年度は，急遽計算機環境の拡充が必要となったため，計算機の購入に予算の多くを充当した．約26万円の残額では，情報収集のための旅費(海外出張)に充てるには不足したことから，次年度に使用することとした．
|
| Expenditure Plan for Carryover Budget |
今年度は，複数の国際会議で成果発表を行う予定であることから，残額はその旅費に充当する予定である．
|
