2015 Fiscal Year Annual Research Report
畳み込み層の識別的初期化に基づく少サンプル深層学習法の構築
| Project/Area Number |
26730085
|
|---|
| Research Institution | The University of Tokyo |
|---|
Principal Investigator |
中山 英樹 東京大学, 情報理工学(系)研究科, 講師 (00643305)
|
|---|
| Project Period (FY) |
2014-04-01 – 2016-03-31
|
| Keywords | 畳み込みニューラルネットワーク / 深層学習 / 少サンプル学習 / 画像認識 |
|---|
| Outline of Annual Research Achievements |
前年度に完成させた、フィッシャー重みマップ(FWM)を用いた解析的初期化法で構成した多層畳み込みニューラルネットワーク(CNN)に対し、H27年度の当初計画に従い以下のような拡張を行った。
まず、FWMにより得られる初期状態に誤差逆伝搬法を適用し、最終的な目標としていたend-to-endの学習に至る一連の枠組みを完成させた。この際、バッチ正規化等の最適化に関する最新の知見は本手法においても有効であり、最終的な識別精度に大きな影響を及ぼすことが判明した。本手法を細胞画像の識別タスクにおいて評価した結果、一般的なランダム初期化によるCNNと比較し、約半分程度の反復回数で良好な識別精度を達成できることが示された。また、最終的な識別精度もランダム初期化を上回る結果となり、おおむね当初の予想通りの効果を得た。一方で、他の初期化手法と比較した場合の少サンプル化における精度・速度面での優位性に関しては、より多くのデータセットを用いた慎重な検証が必要である。
また、本手法をChainer等のオープンソースフレームワークを用いてGPU実装を行い、一連の学習・認識処理をより大規模かつ実践的な問題設定で実行できるように整え、ImageNet [Fei-Fei,2009]等のデータを用い動作確認を行った。
なお、当初計画には直接含まれないが、研究の進展に伴い以下のような派生的な成果を得た。まず、FWMを用いた畳み込みを部位特徴の抽出に応用することで、詳細画像識別タスクにおいて良好な識別精度を得た。本成果は国際論文誌に採択済みである。さらに、線形判別分析を規範とするFWMに対し、正準相関分析を規範とした正準重みマップ法(CWM)を提案し、画像のセマンティックセグメンテーションタスクにおいて良好な結果を得た。
|
-
-
-
-
-
-
[Presentation] 深層一般化正準相関分析2016
Author(s)
岩瀬智亮，中山英樹
Organizer
情報処理学会第78回全国大会
Place of Presentation
慶應義塾大学矢上キャンパス，神奈川県横浜市
Year and Date
2016-03-10 – 2016-03-12
-
-
-
