| 研究概要 |
教師付き学習とは,訓練データからその背後にある法則を推定する問題である.よく用いられる学習方式は誤差逆伝搬法であり,訓練データに対する誤差だけを小さくしようとするものである.一般に記憶学習とよばれているこのような学習方式が頻繁に用いられる理由は,第一に記憶学習が多くの前提知識を必要としないからであり,第二に工学的に実現しやすいからであると考えられる.
ところで,教師付き学習の目的は,学習したい法則にできるだけ近い法則,すなわちできるだけ汎化能力の高い法則を推定することである.しかし,記憶学習は訓練データに対する誤差だけを小さくしようしているので,必ずしも学習結果の汎化能力が高いとは限らない.にも関わらず,記憶学習によって高い汎化能力が得られることがあることも経験的に知られている.
こうして,次の問題が生じる.第一は,直接的には汎化能力を要請していない記憶学習によって高い汎化能力を得ることができる理由を解明することである.第二は,記憶学習が有効に働く適用限界を見極めることであり,第三は,適用限界を更に拡大する方法を開発することである.当研究代表者は,「許容性」の概念を導入することによって,既に第一の問題に対して明確な答を与えている.
そこで本年度は,第二の問題,すなわち記憶学習をどこまで広い範囲の学習方式の実現手段として適用していくことができるかどうかという"記憶学習の適用範囲"の問題を解明した.このような問題を論じるためには,適用可能な学習方式を探す探索範囲を決めなくてはいけないが,本研究では無限に多くの種類の学習方式を含んでいる「射影学習族」を採用した.その結果,射影学習族における適用範囲が,訓練データの選び方,及び,学習の雑音抑制能力によって決まることがわかった.
|
