2012 Fiscal Year Annual Research Report
拡張カーネル法による信号多様体の時空間計量表現とその応用
| Project/Area Number |
23300069
|
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
山下 幸彦 東京工業大学, 理工学研究科, 准教授 (90220350)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
杉山 将 東京工業大学, 情報理工学(系)研究科, 准教授 (90334515)
田中 聡久 東京農工大学, 大学院工学研究院, 准教授 (70360584)
鷲沢 嘉一 電気通信大学, 情報理工学(系)研究科, 助教 (10419880)
|
|---|
| Project Period (FY) |
2011-04-01 – 2014-03-31
|
| Keywords | 時空間計量 / マハラノビス計量 / 拡張カーネル法 / 最小2乗確率的分類器 / マルチカーネル適応フィルタ / 適応的カーネル主成分分析 / Fisher判別分析の修正項 / 線形計画法による最大事後確率識別 |
|---|
| Research Abstract |
時空間計量に関しては，確率測度に基づく通常の局所独立から，局所平衡方程式を通じて幾何学的局所独立方程式を導くことができた。これにより，方程式の名前から「幾何学的」を外すことができるだけではなく，方程式の一般化への道を開いた。そして，局所マルチカーネル識別器同時学習法をFisher判別分析に適用する過程で，Fisher判別分析自体の問題点が明らかになり，その修正項を提案した。また，2次制約最大事後確率識別器において，重み関数を変えることにより，学習データの外れ値に対して頑健にすることを可能にした。
リスクを評価する学習法に関して，昨年度に再定式化を行った確率的分類手法である最小二乗確率的分類器を拡張し，マルチラベル分類に対応できるアルゴリズムを開発し，その有効性を実験的に検証した．また，確率密度関数間のL2距離を推定する新しい手法を考案した。
カーネル部分空間追跡につ関して，基底関数の効果的な追加方法と削除方法を構築した。この方法では，基底関数を削除した時に，適応アルゴリズムが不安定化する問題を，直交化によって解決できる。通常，直交化を行うためには固有値問題を解く必要があるが，本手法によって，いかなるスケールの問題でも，2x2行列の固有値問題に帰着できることを示したため，固有値問題の解析解が必ず得られ，計算コストを抑えながらパラメータを更新することが可能になった。
時系列パターンに対して，計算量を抑えつつ，逐次的に特徴を抽出する適応的部分カーネル主成分分析について，定式化，アルゴリズム導出，基底標本の選択手法の提案を行った。さらに提案手法を脳磁図の雑音除去問題や物体追跡問題へ適用し，提案手法の有効性を示した。得られた標本から一部の標本を基底標本として選択することにより，従来法では適用できない問題に対しても，カーネル主成分分析による特徴抽出を行うことができるようになった。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
実績の項目で示したように，基本的には計画に基づき順調に理論を整備し計算機実験を行っている。
線形計画法による最大事後確率識別器に関する研究では，それを変形した2次制約最大事後確率識別器を提案し，新たに重み関数を変えることにより，最小2乗誤差識別器やサポートベクトルマシンと等価になること，そして，学習データの外れ値に対して頑健な識別器を得ることを可能にしたという計画以上の成果が得られた。
逆に カーネル関数で表現した計量テンソルによってマハラノビス計量を求める研究に関しては，格子を使う場合に比べて境界条件の設定が難しいためであるが，まだ良好な実験結果が得られていない。
また，既存の評価基準の問題点が明らかになり，その対応が必要となっている項目も存在する。たとえば，局所マルチカーネル識別器同時学習法をフィッシャー判別分析に適用する過程で，フィッシャー判別分析自体の問題が明らかになった。フィッシャー判別分析は古くから広く使われている手法であり，パターン識別のための基本的な手法である。その評価基準は，クラス平均の分散をクラス内分散の和で割ったものである。しかしながら，たとえば2つの正規分布において，クラス平均が同じでもそれぞれのクラス内分散が異なる場合，フィッシャー判別分析の評価基準は0となるが，一方の分布が平均付近に集中するために，識別は可能である。また，この場合は一方クラス内分散が大きい方が識別が容易になる。これは，パターンの分布が正規分布である場合でも生じる問題であり，解決する必要がある。この問題を解決するために，フィッシャー判別分析の一般化固有値方程式の修正項を提案している。この問題が解決されしだい，カーネル識別器同時学習法適用する予定である。しかしながら，これに関しては，研究の遅れと言うよりも，研究がさらに深化したと言うことができる。
|
| Strategy for Future Research Activity |
本研究では理論の構築とともに，計算機実験を行い理論の評価を行っている。その結果に関しては，想定していたよりも良い場合，悪い場合の両方が存在する。また，新たな研究の起点となる式を示すことができたり，研究を遂行する上で必要となる既存の理論の問題点が明らかになり，それに対応した理論の構築などが必要になってきているが，おおむね計画の範囲内であると考えられる。そのため，基本的には当初の計画どおり研究を遂行する。
計算機実験の結果が良くない例としては，カーネル関数で表現した計量テンソルによってマハラノビス計量を求める研究を挙げることができる。その理由は，計量の表現にカーネル関数を使うと，計量を格子点上の値として表現する場合に比べて境界条件を組み込むことが難しいためである。そのため，周辺部分の値が安定せずに，それが中央部まで悪影響を及ぼしている。この問題を解決するために，境界条件を表すためのダミーの標本点を追加し，ダミーのカーネル関数の係数に対するノイマン境界条件などを表す線形制約条件を求め，マハラノビス計量を求める評価基準を構成し計算機実験を行う予定である。
また，新たな起点としては，確率測度を使った通常の局所独立の定義から，幾何学的局所独立方程式を導くことができたことにより，確率測度に基づいた，確率に時間の概念を導入するための王道である確率過程論を本研究に適用することを考えることができるようになった。この確率過程論を応用して幾何学的局所独立方程式に時間の概念を組み込むことを研究する必要性は極めて高いと考えられる。そのため，これまでの複素数によって状態とその変化を同時に表す関数に対する方程式を構成する研究に優先して，確率測度を使って時間を導入する研究を行う。ただし，優先度は下がるが複素数を使う方法に関しても研究を続ける。
|
