2008 Fiscal Year Annual Research Report
| Project/Area Number |
20800012
|
|---|
| Research Institution | The University of Tokyo |
|---|
Principal Investigator |
渡辺 一帆 The University of Tokyo, 大学院・新領域創成科学研究科, 特任助教 (10506744)
|
|---|
| Keywords | 指数型分布 / クラスタリング / 次元圧縮 / 変分ベイズ法 / 発火率推定 / 局所変分近似 |
|---|
| Research Abstract |
混合指数型分布を用いた変分ベイズ法によるクラスタリングと次元圧縮の同時最適化法について,MNIST手書き数字認識データに適用し,認識率を評価する数値実験を行った.その結果,先行研究において開発された混合正規分布に基づく手法に匹敵する認識結果を得られることや学習データ数が少ない時の次元圧縮の有効性が確認された.また,圧縮する次元数を変え実験を行い,手法の近似精度を与える変分自由エネルギーの評価を行った.学習データ数が少ないほど,より次元圧縮を行った方が,認識誤り率,自由エネルギーともに小さくなる傾向が見られ,自由エネルギーを次元数選択のための指標として用いることができることが示唆された.これらの結果は,高次元データが実質的に低次元の広がりを持ち,かつクラスタ構造を持つような実データ解析における上記同時最適化法の有効性を示している.
また,神経スパイクの発火・非発火を表わすバイナリデータからの発火率関数の推定について,局所変分近似を用いたベイズ推定の近似アルゴリズムを導出し,周辺尤度の近似値を高速に計算する手法を提案した.一般に発火率推定における周辺尤度の計算は莫大な計算量が必要となるが,本手法では周辺尤度の上界と下界を与える精度評価付きの近似値を高速に求めることができる.数値実験により厳密に周辺尤度の計算を行う場合と比べ,はるかに高速であり,従来の近似手法に比べて,より高精度に周辺尤度の計算及び発火率の推定を行うことができることを示した.
|
