2021 Fiscal Year Research-status Report
Image Classification Models based on Grid Neural Networks for Small Datasets
| Project/Area Number |
20K11871
|
|---|
| Research Institution | Tohoku Gakuin University |
|---|
Principal Investigator |
武田 敦志 東北学院大学, 教養学部, 准教授 (90424001)
|
|---|
| Project Period (FY) |
2020-04-01 – 2023-03-31
|
| Keywords | ニューラルネットワーク / 画像認識 |
|---|
| Outline of Annual Research Achievements |
短絡経路を動的に変化させる仕組みを導入した新しい多層畳み込みニューラルネットワークSkipResNetの性能評価を行い、SkipResNetの画像分類性能が既存手法よりも優れていることを標準的な画像分類データセットであるImageNetを用いた実験により確認した。また、最新の多層畳み込みニューラルネットワークであるConvNeXtに対して短絡経路を動的に変化させる仕組みを導入したSkipConvNeXtを新たに開発し、SkipConvNeXtの画像分類性能がConvNeXtよりも優れていることを実験により確認した。
さらに、SkipResNetをBackboneとした物体検知モデルや領域識別モデルを実装し、これらのモデルの画像認識性能がResNetをBackboneとしたモデルよりも優れていることを標準的なデータセットであるMS-COCOやADE20Kを用いて確認した。また、これらのモデルに含まれるBackboneとHeadを接続する部分に短絡経路を動的に変化させる仕組みを導入することにより、物体検知モデルや領域識別モデルの性能が改善することを発見した。
一方、Vision Transformerが提案されて以来、Self-Attention機構を中心とした多くの画像認識モデルが提案されている。そこで、Self-Attention機構を中心としたニューラルネットワークであるSwinTransformerに対して本研究課題で開発した短絡経路を動的に変化させる仕組みを導入したSkipSwinTransformerを新たに開発し、このSkipSwinTransformerの画像分類性能が従来手法よりも優れていることを実験により確認した。
本研究課題で開発したニューラルネットワークの実装と実験結果をGitHubにて公開している。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究課題にて開発した短絡経路を動的に変化させる仕組みを導入することにより、従来手法よりも高い性能を有する複数の画像分類モデルSkipResNet・SkipConvNeXt・SkipSwinTransformerを開発した。また、これらの画像分類モデルをBackboneとする物体検知モデルや領域識別モデルを実装し、これらの画像認識モデルの性能が従来手法よりも優れていることを検証した。さらに、これらの画像認識モデルにおいて、BackboneとHeadを接続する新たな方法を開発することにより、従来よりも高い性能を有する物体検知モデルや領域識別モデルの実現に成功した。これらの研究成果は、当初計画していた研究手法とは詳細が異なるが、本研究課題の目的である「転移学習モデルの性能を改善するBackboneとその効果的な接続方法を明らかにすること」を達成したものであるため、本研究課題の目標達成については当初の計画以上に進展していると考えられる。
一方、令和2年度、及び、令和3年度は対外発表の機会を大きく制限されたため、本研究成果の発表の機会のみならず、新たに開発した画像認識モデルについて他の研究者と議論する機会を十分には得られなかった。そのため、本研究課題の対外発表については不十分であると言わざるをえず、令和4年度はより積極的に対外的に研究成果を発表していく必要がある。
以上より、総合的に判断すると、本研究課題はおおむね順調に進展しているといえる。
|
| Strategy for Future Research Activity |
これまでに開発した画像認識モデルとその実験結果について、国際会議発表論文、及び、学術論文としてまとめる。特に、新しい画像分類モデルであるSkipResNet・SkipConvNeXt・SkipSwinTransformerについては十分な実験結果を得られたため、これらのモデルの詳細と実験成果をまとめた論文を画像認識分野の主要国際会議へ投稿する予定である。一方、これらの画像分類モデルをBackboneとした物体検知モデルや領域識別モデルの性能評価については不十分な点があるため、これらの画像認識モデルの性能評価実験を引き続き実施する。最後に、本研究課題の研究成果をまとめた学術論文を執筆し、令和4年度末を目途に学術論文誌に投稿する予定である。
|
| Causes of Carryover |
令和3年度は、令和2年度に引き続き、コロナ禍のために国外主張が不可となったため、国際会議の旅費や参加費として計上していた経費を次年度使用としている。令和3年度までは研究成果を発表する機会が制限されており、十分な対外発表を行えなかったため、令和4年度はより積極的に対外的に発表することを予定している。そのため、これらの次年度使用となった経費については、令和4年度に開催される国際会議、及び、国内研究会への論文投稿費、旅費、及び、参加費として使用する予定である。
|
Research Products
(1 results)
