2006 Fiscal Year Annual Research Report
情報幾何学および情報理論を用いた学習機械の特性解析
| Project/Area Number |
18300078
|
|---|
| Research Institution | Kyoto University |
|---|
Principal Investigator |
池田 和司 京都大学, 情報学研究科, 助教授 (10262552)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
岩田 一貴 広島市立大学, 情報科学部, 助手 (20405492)
|
|---|
| Keywords | 学習理論 / 情報幾何学 / 情報理論 / SVM |
|---|
| Research Abstract |
本研究は,情報幾何学や情報理論などの高度な数学的手法を駆使することにより,SVMをはじめとした学習機械の性質を理論的に解明することを目的としている.
本年度はまず,高い汎化能力を持つ一方で必要な計算量が多いという欠点を持つSVMについて,その解がスパースであるという性質を利用し,幾何学的な視点からその必要な例題を抽出することで例題数に比例という少ない計算量を持つアルゴリズムを開発し,その有効性を計算機実験により確認した.
また,パーセプトロン学習を一般化した準加法的アルゴリズム(パラメータに例題を加算し,パラメータを非線形変換して重みベクトルを生成する)について,情報幾何学の視点からは,パラメータ空間と重みベクトル空間が互いに双対なアファイン座標系となる双対平坦空間を成していることを示した.
さらに,情報理論の手法を用いることで,マルチエージェントの強化学習問題をマルコフ決定過程とみなし,その性能向上の限界を導出するとともに,パターン分離問題における新しい"非類似度"を提案し,その合理性および有効性を示した.
なお,当初の予定にはなかったが,スモールワールドやスケールフリーなどの性質について議論するネットワーク科学の視点から,遺伝的アルゴリズムのネットワークとしての性質を解析し,交差および突然変異というオペレータの役割を明らかにした.
|
