2012 Fiscal Year Annual Research Report
対数の一般化に基づく高速な尤度最適化アルゴリズムとその応用
| Project/Area Number |
22656088
|
|---|
| Research Institution | Waseda University |
|---|
Principal Investigator |
松山 泰男 早稲田大学, 理工学術院, 教授 (60125804)
|
|---|
| Project Period (FY) |
2010-04-01 – 2013-03-31
|
| Keywords | アルファＨＭＭ推定アルゴリズム / Ｒａｐｉｄ ＩＣＡアルゴリズム / 高速化 / アルファ対数尤度比 / 過去情報 / モーメンタム項 |
|---|
| Research Abstract |
凸ダイバージェンスは，確率構造間の類似度を測る情報距離として最上位にある．その逆で，最下部にあるものが対数関数に基づく情報量である．対数は，乗法的コストを加法的コストに変換するものとして最もよく用いられているが，その曲率のために増加が鈍く，繰り返しが必要な最適化においては収束が遅くなる．
この研究では，凸ダイバージェンスから導かれるアルファ対数を用いて，情報量最適化に基づく確率的学習アルゴリズムを理論的に一般化し，かつ高速なアルゴリズムを得ることを課題とした．対象としては，高速な隠れマルコフモデル推定アルゴリズム（アルファHMM推定）と高速な独立成分分析（Rapid ICA）を選んだ．これらのいずれにおいても，アルファ対数の利用は繰り返しにおける過去情報をモーメンタム項として利用するという形で現れるので，少ないオーバーヘッドで対数の場合よりも高速な収束を達成できるものとなった．
[アルファHMM推定] アルファ対数に基づく隠れマルコフモデルの高速推定アルゴリズムとして，次の4種類を完成した：すなわち，(1)離散記号の情報源,(2)連続記号の情報源，(3)半連続記号の情報源，(4)離散・連続混在の情報源の各場合である．これらのいずれにおいても，べき関数の展開，時間軸のシフト，過去情報の利用が新たな共通な手段となっている．過去情報を利用するオーバーヘッドは4%程度であり，それに対して3倍程度という優れた高速性を得ることができた．
[Rapid ICA] 繰り返しにおける過去情報の利用は，独立成分分析においても有効であった．これは，至高の高速性であると思われていてデファクトスタンダードとなっているFast ICAを打ち破るRapid ICAを確立できたことである．Rapid ICAのソースコードは論文誌において公開しており，新たなデファクトスタンダードとなるものである．
|
| Current Status of Research Progress |
Reason
24年度が最終年度であるため、記入しない。
|
| Strategy for Future Research Activity |
24年度が最終年度であるため、記入しない。
|
