2016 Fiscal Year Research-status Report
画像認識のための文脈とトップダウン情報を利用した中間表現の獲得に関する研究
| Project/Area Number |
16K00239
|
|---|
| Research Institution | Hiroshima University |
|---|
Principal Investigator |
栗田 多喜夫 広島大学, 工学研究院, 教授 (10356941)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
日高 章理 東京電機大学, 理工学部, 助教 (70553519)
|
|---|
| Project Period (FY) |
2016-04-01 – 2021-03-31
|
| Keywords | 画像認識 / 機械学習 / 人工知能 / 深層学習 |
|---|
| Outline of Annual Research Achievements |
深層学習(Deep Learning)，特に，Deep Convolutional Neural Network (DCNN)を用いることで画像認識の性能が飛躍的に向上した．その性能や適応領域をさらに拡大するために，ニューラルネットワークに関する学習法に関する知見や脳の視覚情報処理に関する知見を取り入れた画像認識の研究を発展させ，深層学習を用いた画像認識等の応用の拡大を目指す．本年度は，文脈情報を利用した中間表現の獲得に関する研究の基礎として，深層学習で獲得した中間表現を利用して，新しい画像認識タスクを少数の訓練データで学習できるようにする転移学習について検討し，DCNNに複数のタスクを同時に学習させて得られた中間表現を別のタクスに適用する際，新しいタスクに対する再学習が必要なネットワーク内の位置を詳細に解析した．また，新しいタスクと学習させたタスクの性質（文脈）の違いによる再学習の有効性等についても解析した．その結果，複数のタスクを学習する方が転移学習に有向であること，DCNNの初段の層の結合係数は新しいタスクに対して再学習する必要はほとんど無いこと等を確認した．この成果は，ニューラルネットワークに関する国際会議（IJCNN2016)で発表した．また，正準相関分析を用いて，学習済のネットワークの2つの中間層の出力の関係を可視化する手法を提案した．この手法により，ネットワークの層間での線形モデルで表現し切れない変動を可視化することが可能となった．その他，第1次視覚野での特徴抽出フィルタがスパース性を導入することで再現できるという先行研究をDCNNに取り入れて，学習の最適化関数にネットワークの各層の出力をスパースにする正則化項を導入する手法等についても検討した．
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
平成28年度に予定していた深層学習で獲得した中間表現を利用して新しい画像認識タスクを少数の訓練データで学習できるようにする転移学習について検討し，DCNNに複数のタスクを同時に学習させて得られた中間表現を別のタクスに適用する際，新しいタスクに対する再学習が必要なネットワーク内の位置を詳細に解析した．また，正準相関分析を用いて，学習済のネットワークの2つの中間層の出力の関係を可視化する手法を提案した．これらの成果は，研究計画通りであり，研究は順調に進捗している．さらに，今年度は，第1次視覚野での特徴抽出フィルタがスパース性を導入することで再現できるという先行研究をDCNNに取り入れて，学習の最適化関数にネットワークの各層の出力をスパースにする正則化項を導入する手法等についても検討検討を開始した．
|
| Strategy for Future Research Activity |
予定していた研究課題の内，深層学習で獲得した中間表現を利用して新しい画像認識タスクを少数の訓練データで学習できるようにする転移学習に関する研究や学習済のネットワークの2つの中間層の出力の関係を可視化する手法については，ほぼ完了したので，平成29年度は，最適化関数にネットワークの各層の出力をスパースにする正則化項を導入する学習手法やAuto-encoderを利用した画像処理手法の開発などに注力する．
|
| Causes of Carryover |
国際会議（IJCNN2016）の参加費，旅費の支出を予定していたが，全額支出するには予算が不足していたため他の予算で支出した．
|
| Expenditure Plan for Carryover Budget |
国際会議（ICIAR2017）の参加費，旅費として使用する予定である．
|
