研究課題
凸ダイバージェンスは,確率構造間の類似度を測る情報距離として最上位にある.その逆で,最下部にあるものが対数関数に基づく情報量である.対数は,乗法的コストを加法的コストに変換するものとして最もよく用いられているが,その曲率のために増加が鈍く,繰り返しが必要な最適化においては収束が遅くなる.この研究では,凸ダイバージェンスから導かれるアルファ対数を用いて,情報量最適化に基づく確率的学習アルゴリズムを理論的に一般化し,かつ高速なアルゴリズムを得ることを課題とした.対象としては,高速な隠れマルコフモデル推定アルゴリズム(アルファHMM推定)と高速な独立成分分析(Rapid ICA)を選んだ.これらのいずれにおいても,アルファ対数の利用は繰り返しにおける過去情報をモーメンタム項として利用するという形で現れるので,少ないオーバーヘッドで対数の場合よりも高速な収束を達成できるものとなった.[アルファHMM推定] アルファ対数に基づく隠れマルコフモデルの高速推定アルゴリズムとして,次の4種類を完成した:すなわち,(1)離散記号の情報源,(2)連続記号の情報源,(3)半連続記号の情報源,(4)離散・連続混在の情報源の各場合である.これらのいずれにおいても,べき関数の展開,時間軸のシフト,過去情報の利用が新たな共通な手段となっている.過去情報を利用するオーバーヘッドは4%程度であり,それに対して3倍程度という優れた高速性を得ることができた.[Rapid ICA] 繰り返しにおける過去情報の利用は,独立成分分析においても有効であった.これは,至高の高速性であると思われていてデファクトスタンダードとなっているFast ICAを打ち破るRapid ICAを確立できたことである.Rapid ICAのソースコードは論文誌において公開しており,新たなデファクトスタンダードとなるものである.
24年度が最終年度であるため、記入しない。
すべて 2012 その他
すべて 雑誌論文 (3件) (うち査読あり 3件) 備考 (2件)
Journal of Signal and Information Processing
巻: Vol.3, No.3 ページ: 275-285
DOI:10.4236/jsip.2012.33037
Proc. International Association of Science and Technology for Development’s Int. Conf. on Artificial Intelligence and Soft Computing
巻: 1 ページ: 270-277
10.2316/P.2012.777-015
Lecture Notes in Computer Science
巻: 7667 ページ: 267-274
10.1007/978-3-642-34500-5_32
http://www.wiz.cs.waseda.ac.jp
http://researchmap.jp/read0169581/