| 研究課題/領域番号 |
13680472
|
|---|
| 研究種目 |
基盤研究(C)
|
| 配分区分 | 補助金 |
|---|
| 応募区分 | 一般 |
|---|
| 研究分野 |
知能情報学
|
|---|
| 研究機関 | 東京都立工業高等専門学校 |
|---|
研究代表者 |
原 一之 東京都立工業高等専門学校, 電子情報工学科, 助教授 (30311004)
|
|---|
| 研究分担者 |
中山 謙二 金沢大学, 大学院・自然科学研究科, 教授 (00207945)
|
|---|
| 研究期間 (年度) |
2001 – 2002
|
| 研究課題ステータス |
完了 (2002年度)
|
| 配分額 *注記 |
1,300千円 (直接経費: 1,300千円)
2002年度: 500千円 (直接経費: 500千円)
2001年度: 800千円 (直接経費: 800千円)
|
|---|
| キーワード | 階層型ニューラルネットワーク / 誤差分布 / 学習の収束性の改善 / マージン / アンサンブル学習 / オンライン学習 / 単純パーセプトロン / 階層形ニューラルネットワーク / 収束性の改善 / 例題数の偏り / 対称性の破壊 |
|---|
| 研究概要 |
本研究では、階層形ニューラルネットワーク学習の収束性の改善とサーチエンジンへの応用に関する研究を行った。その結果の概要は以下の通りである。
1.カテゴリー間で例題数に偏りのある問題の学習
バッチ学習において、全例題に対する2乗誤差の分布に比例した確率で学習を行う方法を開発した。結合荷重の更新に寄与する例題数のバランスを取ることにより、例題の少ないカテゴリーの例題も学習が可能となった。
2.結合荷重の対称性の破壊を想起に起こさせる方法についての研究
結合荷重をランダムに1個選択し、更新する、という学習法を開発し、学習の停留が発生しないことを計算機シミュレーションにより確認した。
3.マージンを用いたパーセプトロン学習に関する研究
単純パーセプトロンをパーセプトロン学習によって学習する場合、学習則にマージンを導入することにより、学習の初期においてヘブ学習則より汎化誤差が小さくなる現象を発見した。
4.アンサンブル学習の汎化誤差の解析に関する研究
性能の劣るニューラルネットワーク(ウィークラーナー)を多数用いることにより、単一のニューラルネットワークより優れた性能を得る学習法であるアンサンブル学習の汎化誤差をニューラルネットワークが線形のパーセプロトンである場合について解析した。その結果、ウィークラーナーの数が無限大の極限では単一の場合の汎化誤差の1/2に収束する事がわかった。
|
