2014 Fiscal Year Research-status Report
システム協調型適応学習に基づくパターン認識システムの全体最適化に関する研究
| Project/Area Number |
25330207
|
|---|
| Research Institution | Waseda University |
|---|
Principal Investigator |
小川 哲司 早稲田大学, 理工学術院, 准教授 (70386598)
|
|---|
| Project Period (FY) |
2013-04-01 – 2016-03-31
|
| Keywords | パターン認識 / 全体最適化 / 行動モデリング |
|---|
| Outline of Annual Research Achievements |
本研究では，複雑な依存関係を有する複数のパターン認識システムを協調的に最適化しながら，システム全体を効率的かつ自動で成長させる方式を開発する．平成26年度はこのうち，システムの使用者や使用環境の違いにより生じるデータの変動に応じてシステムを適応的に改善する方式（【26-1，2】）と複数システムの協調的な最適化のためのクラスタリング技術（【26-3】）について主に検討を行った．
【26-1】マルチストリーム型パターン認識による環境変動に対する教師なし適応技術の開発：異なる現象を扱うパターン認識システムをディープニューラルネットワーク（DNN）により多数構築しておき，最適なシステムを時々刻々選択的に用いることで，環境の変化や未知環境に対して頑健に高い性能を与えるパターン認識を実現した．平成25年度に予備的な検討を行い，本年度は未知の雑音環境下での音声認識により有効性を実証した．
【26-2】システムの性能予測技術の開発：パターン認識システムの性能を予測する方式について検討を行った．この技術は，【26-1】においてシステムを適応的に選択する際や，システム間および認識属性間の類似性の評価にも利用可能である．ここでは，DNNの出力（事後確率ベクトル）の平均的な時間変化量，自己符号化器の入出力誤差，DNNの隠れ層の空間における尤度などが有効であることを明らかにした．
【26-3】環境変動に頑健なクラスタリング技術の開発：本課題の対象となる時系列データに適した特徴ベクトル（i-vector）を用いて計算した類似度行列に対してスペクトラルクラスタリングを適用することで，雑音等の環境変動に頑健なクラスタリング方式を提案し，発話者のクラスタリングにおいて有効性を実証した．このクラスタリングの結果は，複数システムを協調的に最適化する際に利用する．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
平成26年度の実施計画においては，「複雑な依存関係を有する複数のパターン認識システムを状況に応じて協調的に最適化しながら，システム全体を効率的かつ自動で成長させる」ための基本方式として，システムを使用者や使用環境の違いにより生じるデータの変動に応じて適応的に改善する方式（a）と，その改善の効果を全ての認識システムに反映させるシステム間の協調的な全体最適化（b）について検討を行う計画であった．（a）については，【26-1】および【26-2】がその成果であり，初期段階の結果を音声処理の主要国際会議であるICASSP2015において発表し，詳細な結果を同様に音声処理の主要国際会議であるINTERSPEECH2015に投稿済みである．また（b）については，その要素技術【26-3】をICASSP2015において発表した．
なお，（b）のシステム間の協調的な適応学習については，ラベル情報を認識システム間で伝搬させる方式と，ラベル情報を陽に用いずにシステムを適応学習する方式の二通りについて検討予定であったが，本年度は【26-1】において後者についてのみ検討を行い，前者のラベル情報を積極的に利用しながらシステムを成長させる方式については平成27年度に検討を行うことにした．これは，【26-2】で検討を行ったシステムの性能予測，関連性推定技術において新たな課題が見つかり精力的に検討を行ったためである．検討の結果，汎用性の高い有望な方式や知見が得られ，INTERSPEECH2015に論文を2件投稿済みである．
以上より，研究の進捗状況は概ね実施計画通りに進展していると言える．これら基本方式開発は本研究の根幹を成す重要な検討項目であることから，データ収録よりも優先して検討を行った．
|
| Strategy for Future Research Activity |
平成27年度は，前年度に引き続き，システムをデータの変動に応じて適応的に改善する方式とその改善の効果を全ての認識システムに反映させる，システム間の協調的な全体最適化について検討を行い，行動モニタリングデータにより評価を行う．
【27-1】システム協調型適応学習に基づく複合的パターン認識システムの全体最適化：複数のパターン認識システムから構成される複合的なシステム（行動推薦システムなど）のための効率的な最適化技術を開発する．ここでは，複合システムを構成するある認識システムにおいて，教師ラベルが得られるなどしてシステムが改善された場合，その効果を伝搬させて他の認識システムおよび上段の複合システムを効率的に最適化することを目指す．特に，平成26年度の検討事項【26-2】および【26-3】の成果を用いて，部分的に得られたラベル情報を積極的に利用し，複数のシステムをそれらの関連性を考慮しながら協調的に最適化する方式に焦点を当てて検討を行う．
【27-2】行動モニタリングデータの収録とシステムの協調的全体最適化の評価：少人数でのディスカッションと対話型講義データの収録を行い，ディスカッションの活性状態に関するラベルを付与する．収録されたデータを用いてシステムの協調的全体最適化の評価を行う．ここでは当初の計画を変更し，複合的なシステムとしてまず，発話者・発話内容・トピックなどの属性を認識対象とした多数の認識システムから成る音声認識システムを構築し，評価を行う．この変更により「複雑な依存関係を有する複数のパターン認識システムを状況に応じて協調的に全体最適化する」技術を開発する，という本課題の目的の達成が損なわれることはない．この評価が終わり次第，より規模の大きい複合システムとしてディスカッションや講義の活性状況の認識システムおよび，行動のモニタリングを支援するシステムを構築する予定である．
|
Research Products
(10 results)
-
-
[Journal Article] Towards machines that know when they do not know: Summary of work done at 2014 Frederick Jelinek Memorial workshop2015
Author(s)
Hynek Hermansky, Lukas Burget, Jordan Cohen, Emmanuel Dupoux Naomi Feldman, John Godfrey, Sanjeev Khudanpur, Matthew Maciejewski, Sri Harish Mallidi, Anjali Menon, Tetsuji Ogawa, Vijayaditya Peddinti, Richard Rose, Richard Stern, Matthew Wiesner, Karel Vesely
-
Journal Title
Proc. ICASSP2015
Volume: 1
Pages: 5009-5013
Peer Reviewed
-
-
-
-
-
-
-
-
