2006 Fiscal Year Annual Research Report
ランダムウォークと幾何学に基く学習・最適化に関する研究
| Project/Area Number |
16650050
|
|---|
| Research Institution | National Institute of Advanced Industrial Science and Technology |
|---|
Principal Investigator |
西森 康則 独立行政法人産業技術総合研究所, 脳神経情報研究部門, 研究員 (00357724)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
赤穂 昭太郎 独立行政法人産業技術総合研究所, 脳神経情報研究部門, 主任研究員 (40356340)
北澤 茂 順天堂大学, 医学部, 教授 (00251231)
|
|---|
| Keywords | 機械学習 / 幾何学 |
|---|
| Research Abstract |
昨年度提案した旗多様体上のリーマン幾何的最適化法を以下の2点で発展させた。
1.複素独立成分分析(複素ICA)への応用
混合データにホワイトニングによる前処理を施した後は、複素ICAは適当なユニタリー行列を求めることに帰着するので、複素シュティーフェル多様体上の最適化によって解くことができる。複素シュティーフェル多様体は複素多様体であるが、サイズが倍の実シュティーフェル多様体に埋め込むことができる。さらに複素独立成分分析の評価関数がもつ対称性のため、結局、実旗多様体の全測地的部分多様体上の最適化問題を解けばよいことになる。リーマン幾何的最適化法を全空間の実旗多様体に適用すれば、更新点が埋め込まれた全測地的部分多様体をはみでることなく、複素ICAに必要な複素シュティーフェル多様体上の最適化問題を解くことができる。この実旗多様体上のリーマン幾何的最適化法に基づくアルゴリズムが、複素グラディエント法を用いる方法よりも複素ICAの学習アルゴリズムとして優れた性能をもつことを実験的に確かめた。
2.独立部分空間分析(ISA)の大域的最適解
各部分空間を独立な確率分布から生成させた人工データを用いて、独立部分空間分析が通常の勾配法によっては局所最適解に留まってしまう可能性があることを確認した。この局所最適解の問題を解消するために、解行列の任意の2つの列ベクトルを、MCMC的なアニーリング・スケジュールによって確率的にフリップさせることと、旗多様体上のリーマン幾何的最適化法を組み合わせて用いるハイリッドMCMC測地線法を提案した。この手法によって、高確率で、独立部分空間分析の大域的最適解が得られることを先の人工データにより実験的に確かめた。
これらの結果は発表論文以外にThe Learning Workshopにおいて発表された。
|
