| 研究領域 | スパースモデリングの深化と高次元データ駆動科学の創成 |
|---|
| 研究課題/領域番号 |
25120013
|
|---|
| 研究機関 | 東京工業大学 |
|---|
研究代表者 |
樺島 祥介 東京工業大学, 総合理工学研究科(研究院), 教授 (80260652)
|
|---|
| 研究分担者 |
井上 純一 北海道大学, 情報科学研究科, 准教授 (30311658)
渡邊 澄夫 東京工業大学, 総合理工学研究科(研究院), 教授 (80273118)
竹田 晃人 茨城大学, 工学部, 准教授 (70397040)
|
|---|
| 研究期間 (年度) |
2013-06-28 – 2018-03-31
|
| キーワード | 圧縮センシング / 潜在変数モデリング / レプリカ法 / 平均場近似 / 特異モデル |
|---|
| 研究実績の概要 |
以下の研究を実施した．
①過完備基底による次元削減：信号処理の分野では，次元数より多くのベクトルを辞書行列として用いる過完備基底によりスパース表現が得られ，ノイズ低減，情報圧縮等に用いられている．こうした方法に備わる理論的性能限界，および，実際的方法を用いた場合に得られる性能を統計力学のレプリカ法および数値実験により分析した．その結果，過完備基底のサイズを十分大きくすることにより，有限の次元削減率でも信号の歪を任意に小さくできることを解明した．また，スパース表現を求める代表的な実際的近似法であるOMP法，LASSO法を比較し，ランダムな信号に対する次元削減の性能はOMP法の方が優れていることがわかった．
②行列分解：情報圧縮やデータからの規則性発見に関する理論的な知見を得るためにランダムな行列に関する辞書学習（＝与えられた行列を辞書行列とスパース行列の積に分解する課題）について検討した．その結果，提示される行列が「正解」の積である場合に良好な結果が得られるアルゴリズムが望ましい結果を与えないことがわかった．現在その改良法について検討している．
③WAICの有効性に関する分析：特異モデルに対しても有望視されるモデル選択基準にWAICがある．LASSO問題に対し，行列Aがスパースであるときとないときについて人工的に作成したデータを用いて，WAICによるハイパーパラメータの選択が，平均予測損失を最小にすることを実験的に解明した．また周辺尤度を最大にするハイパーパラメータはWAICを最小にするハイパーパラメータと大きく異なる場合があることを示した．これらのことについて都市データ解析に応用することにより実データにおいても同様の現象が生じることを明らかにした．
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
本研究は，大自由度性に起因する計算困難の問題を大自由度結合システムの取り扱いに長けている統計力学の概念／技術を用いて克服し，具体的な事例を多数検討することを通じて，「システマティック」かつ「実践できる」方法論を構築することを目指している．これまでに以下の７つの成果が得られており，計画に沿って順調に進展していると考えている．
【課題１】圧縮センシング：①直交行列：実用上重要である各行ベクトルが互いに直交している観測行列(＝行直交行列)や直交行列の横方向への連接で観測行列を構成した場合(＝連接直交行列)に得られる圧縮センシングの性能を理論的に調べ，EC近似による近似的信号復元アルゴリズムを開発した．②１ビットCS：リモートセンシングなどで有望視される１ビットCSに対して理論的性能限界を解明し，近似的信号復元アルゴリズムを開発した．③分散CS：分散CSの代表的モデルであるJSM-2 に対して理論的性能限界を解明し，近似的信号復元アルゴリズムを開発した．
【課題２】潜在変数モデリング：④辞書学習：辞書学習問題に対するサンプル複雑度を解明した．また，近似的辞書学習アルゴリズムを開発した．⑤過完備基底による次元圧縮（当初、【課題１】に含めていたが，内容の適切性を鑑み【課題２】に分類しなおした．）：ランダムな過完備基底による次元圧縮の性能限界を明らかにした．⑥制限等長性定数の評価：圧縮センシングの分析で広く用いられている制限等長性定数を統計力学のレプリカ法を利用して評価する枠組みを与えた．
【課題３】モデル選択：⑦WAICの有効性の検証：WAICのSpMに関するモデル選択への有効性を実験的に調べた．また，都市データ解析に応用することにより，実問題での有効性を確認した．
|
| 今後の研究の推進方策 |
平成27年度以降もこれまでと同様，【課題1】圧縮センシング，【課題2】潜在変数モデリング，【課題3】モデル選択の研究を並行して実施する．それぞれについて具体的に検討する問題は以下を予定している．
【課題1】圧縮センシング：EC近似による信号復元法に対して，アルゴリズムの高速化をはかる．具体的な問題に対して分散圧縮センシングを応用する．信号復元法にオンラインアルゴリズムを導入した圧縮センシングの可能性を探る．
【課題2】潜在変数モデリング：過完備基底による次元圧縮に関する研究成果を取りまとめる．前年度までに得られた行列分解アルゴリズムに解探索を安定化させる機構を導入し，その効果を吟味する．
【課題3】モデル選択：前年度に引き続きスパースモデリングにおける情報量基準WAICの有用性を理論的，実験的に吟味する．WAICによるハイパーパラメータの最適化と周辺尤度最大化によるハイパーパラメータの最適化が一致する条件および異なる条件を分析する．
|
