研究課題/領域番号 |
20K11999
|
研究機関 | 関西大学 |
研究代表者 |
肥川 宏臣 関西大学, システム理工学部, 教授 (10244154)
|
研究期間 (年度) |
2020-04-01 – 2023-03-31
|
キーワード | 自己組織化マップ / 画像認識 / MNIST / ハードウェアアクセラレータ |
研究実績の概要 |
令和3年度は,提案する階層化ふるい分け自己組織化マップ(Self-organizing map: SOM)をclass-SOMに適応させたシステムの提案を行った.令和2年度の研究で階層化SOMは学習時間を大幅に短縮できることが確認された.これは,提案する階層化ふるい分けSOMは小規模SOMに分割した階層化構造だが,小規模SOMのほうが圧倒的に学習時間が短かく,総合すると時間短縮ができるためである.しかし,認識性能に関しては,MNISTと呼ばれる手書き文字の認識において深層学習モデルの認識率が99%以上に対して,階層化ふるい分けSOMの認識率は95%程度で見劣りする結果となり,大幅な計画変更が必要となった.そこで,別途研究を行っているclass-SOMに階層化SOMを組み合わせたシステムの検討を行った.class-SOMに含まれるSOMを階層化SOMに置き換えることで,学習時間の短縮と認識率の向上を図った.さらに,マルチスレッド化による並列計算の導入による高速化も併せて行った. その結果,従来のSOMに対して認識率を改善することができた.また,学習時間については大幅な時間短縮を達成した.以上の結果を電子情報通信学会のニューロコンピューティング研究会で成果発表を行った. また,ハードウェアアクセラレータの開発として,パイプライン演算を用いた多次元ベクトル用ハードウェア SOM を電子情報通信学会論文誌に,ハードウェアSOMに関するサーベイを行い,IEEE Trans. Neural Networks and Learning SYSTEMS に投稿し成果発表を行った.
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
令和2年度の研究では,手書き文字のデータベースであるMNISTデータセットを使って,提案システムである階層化ふるい分けSOMの認識性能を調べた.その結果,深層学習モデルの認識率が 99%以上に対して,階層化ふるい分けSOMの認識率は約95%程度で,大幅な計画変更が必要となった.そこで,令和3年度は別途研究を行っているclass-SOMに階層化ふるい分けSOMを組み合わせたシステムの提案と検証を行った. class-SOMは認識クラス数と同じ数のSOMを持つシステムである.まず,同じクラスに属する学習データを各SOMに学習させる.認識時は,すべてのSOMに未知データを入力し,最もベクトル距離が小さいニューロンを含むSOMのクラスを認識結果とするものである.class-SOMの認識率は通常のSOMより良くなるが,多くのSOMを必要とするため,学習と認識に時間がかかるという欠点がある.階層化ふるい分けSOMは総ニューロン数が多くても学習時間が短い特徴があるので,class-SOMを構成するSOMを階層化SOMに置き換えることで学習時間の短縮と認識率の向上を図った.また,class-SOMは含まれるSOMの学習を並列に行うことができるため,各学習をCPU内の異なるコアで実行させるマルチスレッドを用いた実装に適している.このマルチスレッド化による高速化も併せて行った. 認識実験には,Fashion-MNISTと呼ばれるデータセットを用いた.その結果,従来の SOM で80%だった認識率を85%まで改善することができた.また,学習時間については 4,888分から85分に短縮することができた.
|
今後の研究の推進方策 |
令和3年度に開発を行ったclass-階層化SOMの認識率改善を図る.画像の認識では,画像の全ピクセルをまとめて,ベクトルとして表現する.そして,あらかじめ求めておいた各クラスの代表ベクトル(プロトタイプベクトル)を求めておき入力画像(入力ベクトル)に近いプロトタイプベクトルのクラスを認識結果とする. ベクトルの類似度にベクトル距離を用いるが,現在のSOMでは,ベクトル距離の計算は2つのベクトルの全ベクトル要素距離の和を使っている.しかし,クラスの認識に必要となるベクトル要素は各クラスの画像ごとに異なる.そこで,認識率が向上するようにベクトル距離計算に用いるベクトル要素を選択する改良を行う.必要なベクトル要素の選択は,主成分分析等により行う.既存の分析方法で改善されない場合は,新たにベクトル要素の選択方法の開発を行う. 次に,現在までの手法では,画像をそのままベクトルに変換しているが,より画像の特徴を表すことができる特徴ベクトルへ変換を検討する.提案者は,画像の垂直・水平方向のヒストグラムにフーリエ変換を行うことで得られる特徴ベクトルを提案している.フーリエ変換を行うことで,プロトタイプ画像と未知画像の比較において位置の違いの影響を受けない特徴ベクトルとなっている.こういった,より認識に適した特徴ベクトルの導入により認識率の改善を目指す. 最終的には,現在のFashion-MNIST に対する認識率85%を90%以上にすることを目標とする.
|
次年度使用額が生じた理由 |
令和3年度は令和2年度同様,世界的なパンデミックのため,出席を予定していた国際会議,国内会議がリモート開催となった.そのため,予定していた旅費が不要となり次年度使用額が生じてしまった.令和4年度はシステム開発用に高速なワークステーションの購入を予定していたが,令和3年度使用額と令和4年度分として請求した助成金と合わせて,よりハイスペックなワークステーションの購入と成果発表の費用(国際ジャーナルへの論文掲載と英文校閲)に充てる計画である.
|