2004 Fiscal Year Annual Research Report
| Project/Area Number |
14380158
|
|---|
| Research Institution | TOKYO INSTITUTE OF TECHNOLOGY |
|---|
Principal Investigator |
小川 英光 東京工業大学, 大学院・情報理工学研究科, 教授 (50016630)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
熊沢 逸夫 東京工業大学, 大学院・理工学研究科, 教授 (70186469)
|
|---|
| Keywords | 教師付き学習 / 汎化能力 / 射影学習 / 部分射影学習 / 射影学習族 / SL射影学習 / 能動学習 / 部分空間情報量基準 |
|---|
| Research Abstract |
教師付き学習の研究は、従来、誤差逆伝搬法や射影学習など個々の学習に関するものが中心であった。しかし、このような個別の学習理論だけでは、学習の問題を深く理解することはできない。たとえば、誤差逆伝搬法は丸暗記能力だけを要請するにも関わらず、高い汎化能力を獲得できることがある。このような現象を理解していくためには、個別学習理論かち、無限に多くめ種類の学習を同時に扱う学習族の理論へと進む必要がある。当研究代表者は、訓練データの中の標本点が固定されている場合に、SL射影学習という概念を導入することにより、無限種類の学習を含む学習族の理論を世界に先駆けて構築してきた。そして、記憶学習が時によって高い汎化能力を獲得できる理由等、多くの問題を理論的に解明してきた。しかし、追加学習や能動学習のように、標本点が変化していく場合には、このSL射影学習の概念は必ずしも使いやすいものではなかった。
この理論を、標本点が変化していく場合に対応できるようにするために、本年度は次の研究を行った。まず、異なる標本点に対して「同じ学習である」という概念を明確に定義した。ところで、当研究代表者のグループでSL射影学習の概念を導入する際に、実は3種類の方法を考えてきた。そして、標本点が固定されている場合に自然なものとして、現在使われているSL射影学習の定義を採用したのである。そこで、この「同じ学習」という立場から3種類の定義を見直した結果、標本点が変化していく場合には、SL射影学習の定義よりも、T作用素と呼ばれる作用素を介する定義の方が有効であることを明らかにした。また、T作用素全体がつくる空間の構造も解明していった。また,既に学習が進んでいる段階で、今までの学習結果を活かしながら、次の最適な標本点を決めていく追加能動学習の問題を解明していった。
|
