2017 Fiscal Year Research-status Report
| Project/Area Number |
16K05264
|
|---|
| Research Institution | Hokkaido University |
|---|
Principal Investigator |
田中 章 北海道大学, 情報科学研究科, 教授 (20332471)
|
|---|
| Project Period (FY) |
2016-04-01 – 2019-03-31
|
| Keywords | 機械学習 / カーネル回帰 / 再生核 / 再生核ヒルベルト空間 / マルチカーネル / 汎化性能 |
|---|
| Outline of Annual Research Achievements |
本研究課題は，再生核ヒルベルト空間論に立脚する機械学習の分野において近年注目を浴びている，複数再生核を用いた学習法である，所謂マルチカーネル学習に新たな方法論を導入し，機械学習の性能を劇的に向上させることを目的としたものである．より具体的には，推定対象となる関数を単なる複数再生核の線形結合で表現するのではなく，各再生核と訓練データが規定する部分空間への複数の直交射影を拘束条件とし，当該拘束条件を利用して，射影により失われた成分を積極的に推定する(我々は，これを「射影バイアス推定」と呼んである)ことにより，より高精度な学習の実現を目指すものである．
今年度は，本研究課題の主論点である「射影バイアス推定」に関する詳細な理論検討を開始したが，当該理論検討を通して，計量の異なる再生核ヒルベルト空間に対応する複数の再生核に基づく直交射影を用いても，単一再生核を用いた直交射影による拘束条件以上の情報が得られないことが理論的に明らかになった．一方，当該検討の中で，カーネル回帰における再生核の役割について新たな知見を得るに至った．より具体的には，再生核として，推定対象である未知関数の自己相関関数を用いることにより，期待二乗誤差最小という意味で最適な結果が得られることを理論的に証明した．
また，本課題に密接に関連する，再生核ヒルベルト空間における標本化理論に関する新知見，具体的には，移動不変な再生核ヒルベルト空間と等間隔標本点に基づく標本化定理が成立するための新たな必要十分条件や，回帰推定において問題となる雑音を抑制する新たな手法を開発した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
研究実績の概要にて述べたように，本研究課題の主論点である，カーネル回帰問題において複数再生核を用いた場合に，複数の再生核に由来する計量の異なる再生核ヒルベルト空間における直交射影による拘束を用いる「射影バイアス推定」に関して，実際は，当該拘束が当初予想したようには機能しないことが理論的に解明された．
ところで，単一再生核を利用するにせよ、複数再生核を利用するにせよ，カーネル回帰の目的は，汎化性能の高い推定結果を与える手法を構築することにある．
先に述べた主論点に関しては，これ以上の進展は望めなくなったものの，研究実績の概要にて述べたように，理論検討の中で，汎化性能の高い再生核とは何か，というより重要な問題に対して，一定の理論的成果を得た．具体的には，推定対象である未知関数の自己相関関数に対応する再生核が最も良い性能を与えるものであることを理論的に証明した．この成果は，単一再生核であるか、複数再生核であるかによらず，カーネル回帰問題に対して重要な知見であるといえる．
また，本研究課題に密接に関連する標本化理論や雑音抑制等に関しても新しい知見も得ている。
以上のことから，本研究課題は，概ね順調に推移していると判断する．
|
| Strategy for Future Research Activity |
研究実績の概要にて述べたように，本研究課題の主論点については，これ以上の進展は望めないことが明らかになった．よって，最終年度である平成30年度は，先に述べた自己相関関数を再生核として利用するカーネル回帰問題について詳細に検討し，最終的には，正則化パラメーター等の選択を含む，モデル選択理論を構築する．また，これらの成果を学術論文としてまとめ，学術雑誌に投稿することを目指す．
|
| Causes of Carryover |
ほぼ予定通りに執行した結果、1,497円という、ごく小額の残額となった。次年度予算に組み入れ、消耗品費・旅費等に利用予定である。
|
