2004 Fiscal Year Annual Research Report
| Project/Area Number |
14658106
|
|---|
| Research Institution | National Institute of Advanced Industrial Science and Technology |
|---|
Principal Investigator |
高畠 一哉 独立行政法人産業技術総合研究所, 脳神経情報研究部門, 主任研究員 (10344128)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
赤穂 昭太郎 独立行政法人産業技術総合研究所, 脳神経情報研究部門, 主任研究員 (40356340)
新田 徹 独立行政法人産業技術総合研究所, 脳神経情報研究部門, 主任研究員 (20357726)
神嶌 敏弘 独立行政法人産業技術総合研究所, 脳神経情報研究部門, 研究員 (50356820)
西森 康則 独立行政法人産業技術総合研究所, 脳神経情報研究部門, 研究員 (00357724)
藤木 淳 独立行政法人産業技術総合研究所, 脳神経情報研究部門, 研究員 (10357907)
|
|---|
| Keywords | 確率モデル / 学習理論 / 情報幾何 / 複素ニューラルネット / グラフィカルモデル / マルコフチェーンモンテカルロ / 特異点 / 組み合わせ構造 |
|---|
| Research Abstract |
1.MCMC(Markov chain Monte-Carlo)法においてモンテカルロ積分を速く収束させる手法を提案した.本手法はマルコフ連鎖の推移において系が同じ状態をなるべく取らないように推移行列を設計するものである.本手法の優位性を理論と実験の両面から示した.
2.MCMC法の一種であるGibbs sampler法は状態推移において1つの変数のみを更新するが,複数の変数を同時に更新する手法を提案した.本手法は単一変数更新の通常のGibbs sampler法に比べ,分布の収束の速さや得られる乱数列の独立性において優位であり,計算量も同じオーダーである.さらに数値実験により本手法の優位性を示した.
3.複数の確率分布があるとき,これらを最も良く近似する低次元のパラメータのなす多様体を求める手法を提案した.多様体をe-平坦なものに取るe-PCAとm-平坦なものに取るm-PCAが考えられる.本手法では反復法により多様体を変形し近似する多様体を求める.これは大域的最適解に至る保証は無いものの,初期の多様体をうまく選ぶ方法を与え,実験的にも良い結果が得られた.
4.複素ニューラルネットワークの計算能力を落とさずにネットワークの大きさを小さくするための十分条件を明らかにした.
|
