2019 Fiscal Year Annual Research Report
Development of Deep Glial Neural Network and thier Applications to Signal Processing
| Project/Area Number |
17K14687
|
|---|
| Research Institution | Suzuka National College of Technology |
|---|
Principal Investigator |
生田 智敬 鈴鹿工業高等専門学校, その他部局等, 講師 (70757319)
|
|---|
| Project Period (FY) |
2017-04-01 – 2020-03-31
|
| Keywords | グリア / 人工グリアニューラルネットワーク / 畳み込みニューラルネットワーク / ドロップアウト |
|---|
| Outline of Annual Research Achievements |
本研究は，グリア細胞特にアストロサイトの生物的な特徴をニューラルネットワークへ適用し，新たな人工グリアニューラルネットワークの開発とその応用を行うものである．本年度の研究実績として，畳み込みニューラルネットワークと呼ばれる画像処理によく利用されるディープニューラルネットワークに対し，アストロサイトのシナプス可塑性への働き及びニューロンへのクラスタ作成の機能をモデル化し適用した．本モデルでは，ドロップアウトの発生源をアストロサイトと仮定し，アストロサイトが形成するクラスタ毎で固有のドロップアウト率を有する．このドロップアウト率の違いにより，ネットワーク学習の速度が異なってくる．これにより，ドロップアウトによるアンサンブル学習効果が向上し単純に等確率で発生するドロップアウトと比較して優れることを示した．さらに，本モデルの発展型として，アストロサイトがニューロンクラスタを作成し，クラスタごとに一定の確率で学習が行われないグリアグループドロップアウトを提案した．各ニューロン毎でドロップアウトの発生する従来のドロップアウトと比較して，ドロップアウトの発生に関する条件分岐を少なくすることができるため計算コストを下げることができる．さらに，クラスタ内のニューロンがすべて学習されないため，より高いアンサンブル学習効果が期待できる．実際に実験を行った結果，通常のドロップアウトを持った畳み込みニューラルネットワークと比較しグリアグループドロップアウトを有した畳み込みニューラルネットワークの方が学習性能及び汎化性能に関して優位であることを示した．
|
Research Products
(3 results)
