2016 Fiscal Year Annual Research Report
Development of the learning algorithm based on feature space geometry
Project/Area Number |
25330276
|
Research Institution | National Institute of Advanced Industrial Science and Technology |
Principal Investigator |
赤穗 昭太郎 国立研究開発法人産業技術総合研究所, 人間情報研究部門, 研究グループ長 (40356340)
|
Co-Investigator(Kenkyū-buntansha) |
藤木 淳 福岡大学, 理学部, 准教授 (10357907)
|
Project Period (FY) |
2013-04-01 – 2017-03-31
|
Keywords | 機械学習 / アルゴリズム / 情報幾何 |
Outline of Annual Research Achievements |
本研究課題の目的は、特徴空間の幾何学的構造の解明およびそれに基づく学習アルゴリズムの構築を行い、パターン認識やコンピュータビジョンに応用することであり、下記のような本研究課題で得られた成果について発信を中心に活動した。 まず、入力空間を情報幾何学で考える情報空間としてとらえ、指数分布族の空間での自己平行な部分多様体への射影問題として定式化し、拡張ピタゴラス定理に基づくロバストな推定アルゴリズムを構築した。これらは種々の機械学習の設定に応用可能であり、非負値行列分解や転移学習などの問題にも応用可能であることを示した。非負値行列分解においては、自然言語処理で用いられるトピックモデルと等価なモデルに対し、より情報幾何的に自然な射影方が存在することを示した。また、従来手法はスパースな基底ベクトルの場合に数値的な不安定性が生じるという問題があったがそれも解決することができた。一方、転移学習は情報幾何学の基本モデルである e-混合モデルが最大エントロピー規準などの観点から有効であると考え、さらに柔軟なモデル化のためにノンパラメトリックな設定で推定を行う手法に拡張した。従来手法はノンパラメトリックな設定に対しては適用できないため、提案手法はその意味でも有効である。そのほか多様体あてはめにおける局所次元推定問題についても高次テイラー展開に基づく拡張により精度の高い手法を開発でき、今後の研究に結びつく新規の課題として研究を進めた。
|