研究課題
基盤研究(C)
本研究は、オンライン学習の枠組みで集団学習と呼ばれる、多数の学習機械を用いた学習法において、各学習機械の協調メカニズムとその動的過程を明らかにすることが目的である。集団学習は能力の低い学習機械を多数用い、それらが協調することによって、単一の学習機械より優れた学習能力を実現しようとする学習法である。名称は「学習」となっているが、実際には学習は行わない。学習機械の協調メカニズムのもっとも単純なものは、独立に学習した学習機械の出力を平均する方法である。この方法は、ブースティング学習の一種であるバギングでも用いられている。また、協調メカニズムとして重み付き平均を用い、評価関数が最小となるように重みを調整するパラレルブースティングという方法もある。我々は、集団学習を2つに分けて、理論解析を行った。1つは学習機械の集団に対し、協調法を支持するスーパーバイザがいて、その指示に従って協調する場合である。2つは学習機械の集団が自発的に協調する場合である。我々はこれらの2つの場合の学習の動的過程を、統計力学的な手法を用いて解析した。その結果、前者の場合、学習機械が均質であれば、学習機械の数が無限大の極限での汎化誤差は、1個の学習機械の汎化誤差の半分になること、学習機械の数Kに対して、汎化誤差が1/Kで減少することを明らかにした。また、均質でない場合、多数の学習機会を用い、協調した場合の学習機械が1個の汎化誤差より劣化することがあるが、この場合は、協調メカニズムとして重み付き平均を用い、汎化誤差が最小となるように重みを調整することにより、汎化誤差の劣化を防げることを示した。後者では、2個の学習機械を用いた場合、2個の学習機械が均質であれば、バギングと同等の能力を持つことを示した。また、2個の学習機械が不均質なばあい、学習のステップサイズが0の極限では、協調メカニズムとして重み付き平均を用い、汎化誤差が最小になるように重みを調整した場合の集団学習と同等の能力が一時的に実現できることがわかった。
すべて 2007 2005 2004
すべて 雑誌論文 (18件)
Journal of physical society of Japan 76・1
ページ: 014001
Journal of physical society of Japan vol.76, no.1
Virtual journal of biological physics research 9・6
Progress of theoretical physics, supplement, 157
ページ: 270-274
Journal of physical society of Japan 74・11
ページ: 2966-2972
System and Computer in Japan 36・12
ページ: 63-74
Virtual journal of biological physics research vol.9,no.6
Progress of theoretical physics no.157(supplement)
Journal of physical society of Japan vol.74, no.11
System and Computer in Japan vol.36, no.12
電子情報通信学会論文誌 J87・7
ページ: 1391-1401
System and Computer in Japan 35・7
ページ: 98-105
Physical Review E
ページ: 036116
システム制御情報学会論文誌 17・12
ページ: 28-36
Transactions on Information and systems, The Institute of Electronics, Information and Communication Engieers vol.J87, no.7
System and Computer in Japan vol.35, no.7
Transactions of the institute of systems, control and information engineers vol.17, no.12
