2021 Fiscal Year Research-status Report
| Project/Area Number |
21K11971
|
|---|
| Research Institution | Meijo University |
|---|
Principal Investigator |
堀田 一弘 名城大学, 理工学部, 教授 (40345426)
|
|---|
| Project Period (FY) |
2021-04-01 – 2024-03-31
|
| Keywords | 深層学習 / 情報リーク / GAN / マルチタスク / フィードバック |
|---|
| Outline of Annual Research Achievements |
まずは１つのネットワーク内の情報リークとして出力確率を入力側にフィードバックする研究に行った。人間の脳内ではフィードフォワード処理だけでなくフィードフォワード処理も利用されていることが知られている。しかし、従来のConvolutional Neural Networkの推論ではフィードフォワード処理のみが利用されている。ここでは、セマンティックセグメンテーションの問題において、一度出力確率を得た後、その情報を入力側にフィードバックして再度同じネットワークで推論を行う方法を提案した。複数のデータセットを用いた実験により内部の情報を入力側にリークすることの有効性を示した。
また、Generative Adversarial Networkを用いたpix2pixでもセマンティックセグメンテーションは可能である。この方法では生成器と識別器が敵対的な学習を行うが、２つは独立なネットワークである。しかし、識別器は生成器が悪い部分を知っているはずなので、識別器から生成器に情報をリークすれば精度が改善すると考えられる。さらに、生成器側からも識別器に情報をリークすることにより、相互に精度を高め合うことができる。この方法により、従来のpix2pixよりも精度を改善した。
また、他のネットワークからの情報リークとして知識蒸留の研究も行った。通常の知識蒸留では教師と生徒ネットワークが同じクラス数の識別を行うが、ここでは2クラス毎にセグメンテーションした教師ネットワークから識別の方法をリークすることにより、出現頻度の低いクラスのセグメンテーション精度を向上させることができた。また、１つのネットワークの中でループ構造を導入し、情報フィードバックのような枠組みを利用することにより動画像認識の精度を高めた。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
情報リークをキーアイディアとしていくつかの研究を進め、国内会議および国際会議で研究成果を発表できた。また、Journalにも採択され、論文が掲載されたことからおおむね順調に進展していると言える。
|
| Strategy for Future Research Activity |
今後も１つのネットワーク内部での情報のフィードバックやループ構造、他のネットワークから得られる情報など、情報リークをキーアイディアとして様々な画像認識問題の精度向上を図る予定である。
|
| Causes of Carryover |
国内会議、国際会議がオンラインになったことで旅費が減ったことと、論文が国際会議とJournalに不採録になってしまったことで参加費や掲載料が不要になったことが理由です。
来年度に国際会議の参加費やJournal掲載料として使う予定です。
|
