2014 Fiscal Year Annual Research Report
カーネル法による高次元データの非線形スパースモデリング
| Project Area | Initiative for High-Dimensional Data-Driven Science through Deepening of Sparse Modeling |
|---|
| Project/Area Number |
25120011
|
|---|
| Research Institution | National Institute of Advanced Industrial Science and Technology |
|---|
Principal Investigator |
赤穗 昭太郎 独立行政法人産業技術総合研究所, ヒューマンライフテクノロジー研究部門, 研究グループ長 (40356340)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
麻生 英樹 独立行政法人産業技術総合研究所, 知能システム研究部門, 主任研究員 (10344194)
末谷 大道 大分大学, 工学部, 教授 (40507167)
|
|---|
| Project Period (FY) |
2013-06-28 – 2018-03-31
|
| Keywords | 機械学習 / アルゴリズム / モデル化 |
|---|
| Outline of Annual Research Achievements |
課題１として設定したマルチモーダルスパースモデリングについては，相互情報量に基づく最適化規準を採用したカーネル正準相関分析の拡張手法について定式化を行った．正準変数同士のみならず入力変数と正準変数との間の相関性が必要であることを見出した．それに基づき最適化を行うことによって，カーネル正準相関分析に比べてより正しく共通潜在変数を抽出することができた．また，局所最適解の問題を解決するためにパラレルテンパリング法による最適化を行った．これにより，複数のモダリティ間の非線形関係をより少数の本質的な次元で表現することが実証できた．課題２として設定したダイナミカルスパースモデリングについては，互いに作用を及ぼし合う変数間の観測時系列からその作用のスパースな依存関係を抽出する問題を取り扱い，カーネル法で用いられる拡散カーネルによるモデル化が可能であることを見出し，それに基づく簡便な依存関係推定の手法を開発した．株価のデータに加え，脳活動データにおいても結合性を正しく推定できることを確認した．当該手法は，向きのある依存関係を，観測されていないノードの活動の存在があっても抽出可能であり，今後の発展が強く期待できる．課題３として設定した構造的スパースモデリングについては，Kemp らによって提案した確率的潜在構造抽出の手法を連想記憶モデルの記憶構造の内部構造の抽出に適用し，理論的に導出される結果とデータ駆動型の結果が一致することを確認し，Kemp らが試したよりも大規模な問題でも取り扱うことができることが示唆された．また，n-gram 言語モデルを疎分解することによって要素的な意味を組み合わせた新たな現象に対する n-gram モデルを，言語データなしで構成するzero-shot学習の手法を提案し，有効性を示した．
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
課題１については最適化規準の設計について当初考えていなかった発見もあり，学術的にも進展が大きかった．またパラレルテンパリングが非常に有効に働くことを確認し，国際会議にも採択された．課題２については，ネットワーク推定の話が大いに発展し，実問題への適用を試みることができ，国際誌や国際会議で発表できた．また，他の計画班との連携も進み，特にモデリング班との連携では当初の計画書で想定されていたものよりも多くの共同研究が進んでいる．以上のことから，計画研究は当初の計画以上に進展していると考える．
|
| Strategy for Future Research Activity |
研究計画の基本的な路線や進め方に変更はない．各課題について，他の計画班・公募班とさらなる協力を行い，よりリアルなデータの解析に取り組んでいく予定である．
|
