2017 Fiscal Year Research-status Report

選択的注意に基づく動的深層学習

Research Project

Project/Area Number	16K16090
Research Institution	Tokyo Denki University
Principal Investigator	日高章理東京電機大学, 理工学部, 准教授 (70553519)
Project Period (FY)	2016-04-01 – 2019-03-31
Keywords	畳み込みニューラルネットワーク / 深層学習 / 顕著性マップ
Outline of Annual Research Achievements	前年度に，ヒトの視覚処理の特性を探る上での指標の一つである顕著性マップ（Saliency map）を畳み込みニューラルネットワーク（Convolutional Neural Network: CNN）によって高精度に予測する手法に関する実験を行っており，その成果を2017年5月人工知能学会で報告した．その後，そのようなCNNが獲得した中間層ユニット（特徴抽出フィルタ）の性質を分析し，ヒトの低次視覚野（V1，V2領野等）におけるニューロンとの類似性を定量的に確認する実験を行った．さらに，サルに特定の質感を持つ画像を見せたときのV1, V2, V4, IT領野の反応を計測した生理データと，顕著性マップを予測するために学習されたCNNに同一の画像を見せたときの内部応答を計測したデジタルデータとの間で，それらの類似性／不一致性を検証する実験を行ってきた．顕著性マップを予測するCNNにおいても，ヒトやサルの初期視覚野と同様に，エッジやエッジの組み合わせで表現しうる単純な形状に反応するユニット（フィルタ）が獲得されているものの，CNN高次層と大脳高次視覚野では振る舞いに異なる傾向が見られるという知見が得られている．当該実験の成果は，次年度上半期中にまとめ，論文投稿する予定である．また，大脳視覚野およびCNNの階層構造によってもたらされる，段階的視覚情報抽出処理の特性を分析するため，正準相関分析法に基づく階層間正準相関分析法（Interlayer Canonical Correlation Analysis）を提案した．これにより，CNN内部の隣接する中間層の間における相関性／非相関性を定量化および可視化することが可能となった．当該研究の成果はシステム制御情報学会（ISCIE）論文誌に投稿し，採録された．
Current Status of Research Progress	Current Status of Research Progress 3: Progress in research has been slightly delayed. Reason 顕著性マップを高精度に予測するCNNを前年度の段階で構築できており，今年度はさらにその性質をより詳細に解析してきた．これらの結果は次年度上半期にまとめ，論文投稿を行う予定である．また，そのような解析に用いるツールとして，CNNの階層構造における中間層同士の相関性を分析する手法（階層間相関分析法）を開発し，CNN中間層の挙動をこれまでと異なる尺度で定量化・可視化することが可能となった．この成果はジャーナル論文として採録済みである．これらより，「視覚野の基本的処理特性をDNN上で再現する研究」についてはおおむね順調に進捗していると言える．一方で，アテンション（注意）に基づくCNNの認識結果の切り替えや視覚的再学習については，まだ十分な進捗がないため，次年度に集中的に研究を進めていく必要がある．
Strategy for Future Research Activity	顕著性マップを予測するCNNの性質に関する実験の結果をまとめ，学会発表および論文出版を図る．顕著性マップ以外の大脳視覚野の基本的処理特性として，近年「遮蔽の有無」を判定するニューロンが存在することが生理学的実験によって示されている．画像認識技術の実応用では，被写体の部分的遮蔽が認識性能に悪影響を及ぼすことがあるため，遮蔽の有無を検知する機能をDNNに具備することが可能であれば，認識性能向上のため有益であると考えられる．このような性質をCNNに組み込むことも検討する．アテンション（注意）に基づくCNNの認識結果の切り替えや視覚的再学習については，ヒトの顕著性マップを予測するCNNにおいて顕著性が高いと判定された画像領域や，CNNベースの物体検出手法においてExpected Error Reduction法で得られる学習効果の期待値が高い画像領域を再学習に用いる枠組みを検討する．
Causes of Carryover	実験用ワークステーションの緊急時保守費用として故障対応やパーツ補充のために4万円強を確保しておいたが，年度内に問題が発生しなかったため，次年度の保守費用等に用いる．