2020 Fiscal Year Research-status Report
| Project/Area Number |
19K20290
|
|---|
| Research Institution | The University of Tokyo |
|---|
Principal Investigator |
椋田 悠介 東京大学, 先端科学技術研究センター, 講師 (50830874)
|
|---|
| Project Period (FY) |
2019-04-01 – 2023-03-31
|
| Keywords | パターン認識 / 群畳み込み / 対称性 |
|---|
| Outline of Annual Research Achievements |
本年度も不変な認識のための基礎となるレイヤである群畳み込みレイヤの高速化に取り組んだ。昨年度に考案した高速フーリエ変換を用いた手法とは別により直接的に群畳み込み演算の計算量を削減する手法として、非零の畳み込み重みをある決めた部分集合のみに制限する部分集合畳み込みの手法と特徴量毎に決められた群要素分ずらすことで群畳み込みを代替する群シフト畳み込みの手法を考案した。これらはそれぞれ一般的な画像認識における畳み込みレイヤのカーネルサイズを下げることと、画像におけるシフト畳み込みレイヤに相当する。提案手法により部分集合が十分小さければ計算量が群要素の2乗オーダから1乗オーダに減り、計算速度が向上することが期待される。
提案した部分集合畳み込みに対しては台となる部分集合が条件を満たすときにニューラルネットワークの表現力に関する定理である不変近似定理が成り立つことを確かめた。通常の全ての群要素を用いた畳み込みに対しては不変近似定理が成り立つことが既に示されており、我々は部分集合畳み込みの合成を通常の群畳み込みに帰着させることにより不変近似定理を証明した。
本年度に様々な計算量削減のためのレイヤを提案し、またそれらは互換性があるため、Neural Architecture Searchのような自動アーキテクチャチューニング手法と組み合わせることにより、認識性能と計算速度のトレードオフが取れたネットワークアーキテクチャを構築することが可能になると考えられる。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本年度において様々な効率的な群畳み込み演算を提案し、さらにそれら演算が十分な表現力を持つことを示した。これらは通常の群畳み込み演算と互換性を持つため認識性能の確認が容易であり、また自動アーキテクチャ探索手法と組み合わせることにより学習されたモデル構造からデータの背後にある対称性に関する知見を得ることが可能になると期待される。
|
| Strategy for Future Research Activity |
提案した手法を自動アーキテクチャ探索手法と組み合わせることによりデータからの効率的なモデルの学習を試みる。さらに提案した畳み込みをより大きな群の部分集合畳み込みと見做すことでデータからの不変性の学習を目指す。
|
| Causes of Carryover |
学会出張が無くなったため。
計算機使用料に充てる。
|
