2020 Fiscal Year Annual Research Report
Structured Convolutional Networks for High-dimensional Signal Restoration
| Project/Area Number |
19H04135
|
|---|
| Research Institution | Niigata University |
|---|
Principal Investigator |
村松 正吾 新潟大学, 自然科学系, 教授 (30295472)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
日比野 浩 大阪大学, 医学系研究科, 教授 (70314317)
崔 森悦 新潟大学, 自然科学系, 准教授 (60568418)
山田 寛喜 新潟大学, 自然科学系, 教授 (20251788)
安田 浩保 新潟大学, 災害・復興科学研究所, 准教授 (00399354)
湯川 正裕 慶應義塾大学, 理工学部(矢上), 准教授 (60462743)
小野 峻佑 東京工業大学, 情報理工学院, 准教授 (60752269)
|
|---|
| Project Period (FY) |
2019-04-01 – 2022-03-31
|
| Keywords | スパースモデリング / 信号復元 / 信号推定 / 辞書学習 / 畳み込み構造 |
|---|
| Outline of Annual Research Achievements |
計測技術の発展と共に多様かつ膨大な物理データの取得が可能となった。同時に、信号復元の高性能化への要求が高まっている。高性能な信号復元の実現には、対象となる物理データを効果的に表現できる生成モデルが必要である。ただし、既存の生成モデルにはドメイン知識を反映し難い課題が残されている。そこで本研究では、フィルタバンク理論を適用し、最適化理論の研究成果と組み合わせた新たな構造化畳み込みネットワークモデルの創出を試みている。提案法により、物理的に解釈が容易な構造設定を可能とし、設計や実装を効率化することを目指している。
多様な実データに対して、ドメイン知識を反映する畳み込みネットワークを実現し、提案手法の有効性と汎用性の実証を試みている。2020年度は対称性やタイト性、非分離性など畳み込み辞書が有する性質について各種応用での評価と必要な拡張について議論を進めてきた。加えて、既存の非分離冗長重複変換(NSOLT)の枠組みを一般化するために同変換を非線形に拡張した。ほかに階層化とグループスパース性の導入、学習設計の加速について検討した。以下に2020年度の主な成果をまとめる。
(i) NSOLTに活性化関数を導入し非線形辞書へと一般化した。また、完全再構成を可能とした上で誤差逆伝播設計を実現した。(ii) NSOLTを各レベル間で独立な設計パラメータを持つツリー構成で実現し、完全再構成を可能とした上で誤差逆伝播設計を実現した。(iii) NSOLTのツリー構成における係数間の関連付けを信号復元処理に導入し、その有効性を確認した。(iv) NSOLT設計に確率的分散縮小勾配(SVRG)法を導入し学習設計の加速を実現した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究では、高次元信号の生成モデルに有効な構造制約を明らかにするため、新たな構造化辞書や構造化畳み込みネットワークを構築し、複素拡張、並列化、階層化、多層化、学習設計および復元アルゴリズムの効率化に取り組んでいる。ボリュームデータ、複素画像データ、高次元時系列データなど多様な実データを対象として、提案する復元処理の有効性を評価している。迅速な評価検証を実施するため、データ・センター向けフィールド・プログラマブル・ゲート・アレイ（FPGA）アクセラレータを採用し、設計、復元処理の高速化に取り組んでいる。また、様々な条件下での実験を繰り返せるよう、提案モデルの有効性と汎用性の実証環境の強化を進めている。
2020 年度は主に多様な対象に対する復元処理への畳み込み辞書の課題の解決を試みた。畳み込み辞書が有する性質について各種応用での評価と必要な拡張について議論を進めてきた。既存のNSOLTの枠組みを非線形に拡張し、階層化と学習設計の加速を進めた。当初の計画では、畳み込み辞書が有する性質について各種応用での評価を進め、復元処理システムのFPGA実装、構造制約を取捨選択できる枠組みの構築、学習設計の加速、多重スケール表現のための階層化、復元処理のループ展開による多層化に取り組む予定であった。FPGA実装や多層化など一部の課題が計画から遅れているもののおおむね順調に進んでいる。また、応用展開における試みとして、ミリ波レーダ画像再構成処理の組込み実装、河川状態推定の高性能化に取り組む計画であった。一部、計画から遅れているものの２年目を終えておおむね順調に進んでいる。
広く研究成果を公表し、関係する分野の人脈の構築と最新情報を収集するために国内学会、国際会議へ積極的に参加した。特に、国際会議におけるチュートリアル講演１件とセミナー講演１件を実施した。
|
| Strategy for Future Research Activity |
2021年度は、提案する構造化畳み込みネット―ワークの固定小数点実装評価と信号復元システムのFPGA実装、NSOLT と主双対近接分離(PDS)法による繰り返し復元処理のループ展開と構造制約を課したフィードフォワード型畳み込みネットワークの創出、対称性やタイト性など構造制約を取捨選択できる枠組みの構築を進める。引き続き、学習設計の加速を試みるほか、事例データのない状況下での学習設計、3次元ボリュームデータ復元処理の高品質化と高効率化、複素NSOLT の辞書学習とミリ波レーダ画像再構成処理の組込み実装、構造化畳み込みネットワークとDMD による河川状態推定の高性能化と高効率化に取り組む。広く研究成果を公表し、関係する分野の人脈の構築と最新情報を収集するために国内学会、国際会議へ積極的に参加するとともに、研究成果の英文ジャーナル論文投稿および掲載を目指す。
|
