| 研究課題/領域番号 |
16500146
|
|---|
| 研究種目 |
基盤研究(C)
|
| 配分区分 | 補助金 |
|---|
| 応募区分 | 一般 |
|---|
| 研究分野 |
感性情報学・ソフトコンピューティング
|
|---|
| 研究機関 | 東京都立産業技術高等専門学校 (2006)
東京都立工業高等専門学校 (2004-2005) |
|---|
研究代表者 |
原 一之 東京都立産業技術高等専門学校, ものづくり工学科, 教授 (30311004)
|
|---|
| 研究分担者 |
三好 誠司 神戸市立工業高等専門学校, 電子工学科, 助教授 (10270307)
|
|---|
| 研究期間 (年度) |
2004 – 2006
|
| 研究課題ステータス |
完了 (2006年度)
|
| 配分額 *注記 |
3,100千円 (直接経費: 3,100千円)
2006年度: 600千円 (直接経費: 600千円)
2005年度: 1,000千円 (直接経費: 1,000千円)
2004年度: 1,500千円 (直接経費: 1,500千円)
|
|---|
| キーワード | 集団学習 / 協調メカニズム / 動的過程 / オンライン学習 / 単純パーセプトロン / 統計力学 / アンサンブル学習 / 相互学習 / 線形パーセプトロン / 非線型パーセプトロン / 情報統計力学 / 多数決 |
|---|
| 研究概要 |
本研究は、オンライン学習の枠組みで集団学習と呼ばれる、多数の学習機械を用いた学習法において、各学習機械の協調メカニズムとその動的過程を明らかにすることが目的である。集団学習は能力の低い学習機械を多数用い、それらが協調することによって、単一の学習機械より優れた学習能力を実現しようとする学習法である。名称は「学習」となっているが、実際には学習は行わない。学習機械の協調メカニズムのもっとも単純なものは、独立に学習した学習機械の出力を平均する方法である。この方法は、ブースティング学習の一種であるバギングでも用いられている。また、協調メカニズムとして重み付き平均を用い、評価関数が最小となるように重みを調整するパラレルブースティングという方法もある。
我々は、集団学習を2つに分けて、理論解析を行った。1つは学習機械の集団に対し、協調法を支持するスーパーバイザがいて、その指示に従って協調する場合である。2つは学習機械の集団が自発的に協調する場合である。我々はこれらの2つの場合の学習の動的過程を、統計力学的な手法を用いて解析した。その結果、前者の場合、学習機械が均質であれば、学習機械の数が無限大の極限での汎化誤差は、1個の学習機械の汎化誤差の半分になること、学習機械の数Kに対して、汎化誤差が1/Kで減少することを明らかにした。また、均質でない場合、多数の学習機会を用い、協調した場合の学習機械が1個の汎化誤差より劣化することがあるが、この場合は、協調メカニズムとして重み付き平均を用い、汎化誤差が最小となるように重みを調整することにより、汎化誤差の劣化を防げることを示した。後者では、2個の学習機械を用いた場合、2個の学習機械が均質であれば、バギングと同等の能力を持つことを示した。また、2個の学習機械が不均質なばあい、学習のステップサイズが0の極限では、協調メカニズムとして重み付き平均を用い、汎化誤差が最小になるように重みを調整した場合の集団学習と同等の能力が一時的に実現できることがわかった。
|
