Statistical pattern classifier training based on cross-validation likelihood

2008 Fiscal Year Final Research Report

• Project/Area Number: 19700167
• Research Category: Grant-in-Aid for Young Scientists (B)
• Allocation Type: Single-year Grants
• Research Field: Perception information processing/Intelligent robotics
• Research Institution: Tokyo Institute of Technology
• Principal Investigator: SHINOZAKI Takahiro Tokyo Institute of Technology, 大学院・情報理工学研究科, 助教 (80447903)
• Project Period (FY): 2007 – 2008
• Keywords: 統計モデル / 過学習 / 汎化性能 / クロスバリデーション / 隠れマルコフモデル / 期待値最大化学習

Research Abstract

モデル選択手法として用いられているクロスバリデーション的手法を繰り返し最尤パラメタ推定法の内部に効果的に組み込むことで、少ないデータから精密かつ一般性の高い統計モデルを学習するための手法を提案した。具体的には期待値最大化学習法にクロスバリデーションを組み込んだ手法の提案を行い、さらに教師なし適応への応用も行った。提案手法を音声認識で用いる統計モデルの学習に応用し、認識性能の向上に非常に効果的であることを示した。

Research Products

• [Journal Article] Unsupervised Cross-validation Adaptation Algorithms for Improved Adaptation Performance (2009)
  • Author(s): Takahiro Shinozaki, Yu Kubota, and Sadaoki Furui
  • Journal Title: Proc. ICASSP 2009 Pages: 4377-4380
  • Peer Reviewed
• [Journal Article] 高精度音声認識のための教師なしクロスバリデーションおよび集合適応法の提案 (2009)
  • Author(s): 篠崎隆宏, 久保田雄, 古井貞熙
  • Journal Title: 情処研報 2009-SLP-75 Pages: 1-6
• [Journal Article] Aggregated Cross-validation and Its Efficient Application to Gaussian Mixture Optimization (2008)
  • Author(s): Takahiro Shinozaki, Sadaoki Furui, and Tatsuya Kawahara
  • Journal Title: Proc. Interspeech 2008 Pages: 2382-2385
  • Peer Reviewed
• [Journal Article] 効率的なクロスバリデーションに基づく混合ガウス分布の最適化法とその拡張 (2008)
  • Author(s): 篠崎隆宏, 古井貞熙, 河原達也
  • Journal Title: 情処研報 2008-SLP-72 Pages: 69-74
• [Journal Article] 効率的なクロスバリデーション尤度評価に基づく混合ガウス分布の最適化 (2007)
  • Author(s): 篠崎隆宏, 河原達也
  • Journal Title: 情処研報 2007-SLP-67 Pages: 81-86
• [Journal Article] 頑健なパラメタ推定のためのAggregated EM法の提案と評価 (2007)
  • Author(s): 篠崎隆宏, Ostendorf, Mari, 河原達也
  • Journal Title: 信学技報 Vol. 107 Pages: 223-228
• [Presentation] 高精度音声認識のための教師なしクロスバリデーション適応法の提案 (2009)
  • Author(s): 篠崎隆宏, 久保田雄, 古井貞熙
  • Organizer: 日本音響学会
  • Place of Presentation: 東京工業大学
  • Year and Date: 2009-03-17
• [Presentation] Aggregated cross-validation 尤度を用いた混合ガウス分布最適化アルゴリズムの提案 (2008)
  • Author(s): 篠崎隆宏, 古井貞熙, 河原達也
  • Organizer: 日本音響学会
  • Place of Presentation: 千葉工業大学
  • Year and Date: 2008-03-18
• [Remarks]
  • URL: http://www.furui.cs.titech.ac.jp/~shinot