研究課題
近年の統計的データ解析・機械学習の中心的な研究対象の一つとして,カーネル法と呼ばれる多変量解析の手法群がある.カーネル法の効果は,利用するカーネル関数の種類と,関数を特徴付けるパラメタの選択に大きく依存する.本研究は,特徴空間におけるデータ分布とデータの潜在構造に着目したカーネル関数最適化の方法論の確立,及び音声認識を始めとする各種のデータ解析の実問題への応用を目的としている.本研究課題では,カーネル関数によって定められる特徴空間におけるデータの分布を効率的に評価する手法が不可欠である.特に,データ分布を特徴付ける量として情報論的エントロピーに着目し,本年度は特徴空間におけるデータ分布のエントロピーの高精度・効率的な推定量を開発し,研究成果を複数の学会・セミナーで発表した.また,特徴空間におけるデータ分布を判別に適した形状に調整するようなカーネル関数の設計方法として,指数エントロピー不等式に基づくカーネル最適化手法を定式化し,論文誌で発表した.本研究課題で扱うカーネル法の利点の一つに,従来のベクトル型データだけではなく,種々のデータ形式に対して統一的な枠組みで多変量解析を展開することが可能になることがある.また,データ間の潜在的な構造を,カーネル関数を介して抽出することも可能である.特に,グラフとして表現されるデータはその応用範囲も広く,グラフの構造推定もカーネル法と関連して研究されている.本年度は,グラフ構造推定の手法を重点的に研究し,国内研究会・国際会議及び論文誌で成果を発表した.
1: 当初の計画以上に進展している
本研究課題における中心的な問題として考えていた,指数エントロピー不等式に基づくカーネル学習の手法の定式化を行ない,成果を論文誌にて発表することが出来た.また,従来の手法では捉えられなかった高次のモーメントまで考慮した高精度なエントロピー推定手法の基礎検討を行い,研究会・セミナーで発表した.昨年度開発したデータ分布の推定手法を応用して,データのクラスタリング手法を開発し,国際会議及び論文誌で成果を発表した.本研究により,国際会議にてbest paper awardを受賞した.また,カーネル法の展開としてグラフ構造推定問題に取り組み,従来法では発見できなかったデータ間の潜在的構造を見出す手法を提案した.この成果は国際会議及び論文誌で発表することが出来た.神経回路網の解析,企業間の関連性の解析など,種々の応用にも取り組んだ.理論・応用ともに順調に進展しており,当初の計画以上の成果が得られている.
昨年度の研究成果として,高精度・安定なデータ分布推定量に基づくデータクラスタリングがある.この研究を通して,高精度な判別を実現するためには,様々なデータに対して高精度にデータ分布を推定する必要があり,特に再生核ヒルベルト空間におけるデータ分布も推定可能な手法が望ましいことがわかった.そこで,今後の方針としては,要素技術としてデータ間の距離のみに基づく高精度な分布・エントロピー推定手法を開発する予定である.この際,陽なベクトルとしての次元が未知のデータ形式も取り扱えるよう,データの本質的な次元推定も合わせて検討する.本研究課題で扱うカーネル法は,通常のベクトルデータ以外の形式のデータも柔軟に扱うことが可能である.再生核ヒルベルト空間の構造に着目することで,昨年度に続き,グラフ構造を持ったデータに対するカーネルの設計と,グラフ構造推定手法の開発に取り組む.特に,昨年度開発したグラフ構造推定手法は高精度かつ従来手法では発見できなかった潜在的なグラフ構造を推定することが出来るものの,計算コストが大きく,大規模なグラフへの適用が困難であるという問題があった.本年度は,昨年度開発の手法とは異なる数理モデルに基づき,計算効率の高いグラフ構造推定手法の開発に取り組む.本課題の最終年度である本年度は,実データ解析への応用も積極的に取り組み,本研究課題において開発した諸手法の適用可能性の検証と,実社会への成果還元を目指す.
すべて 2015 2014
すべて 雑誌論文 (6件) (うち査読あり 6件、 謝辞記載あり 4件) 学会発表 (9件) (うち招待講演 2件)
Journal of Signal Processing Systems
巻: 79(2) ページ: 201-210
10.1007/s11265-014-0899-7
Neural Computation
巻: 26(7) ページ: 1455-1483
10.1162/NECO_a_00603
巻: 26(9) ページ: 2074-2101
10.1162/NECO_a_00628
21st International Conference, ICONIP 2014, Kuching, Malaysia, November 3-6, 2014. Proceedings, Part II
巻: 8835 ページ: 26-34
10.1007/978-3-319-12640-1_4
24th International Conference on Artificial Neural Networks, Hamburg, Germany, September 15-19, 2014. Proceedings
巻: 8681 ページ: 113-120
10.1007/978-3-319-11179-7_15
巻: 8681 ページ: 145-152
10.1007/978-3-319-11179-7_19