| 研究課題/領域番号 |
20K11900
|
|---|
| 研究機関 | 国立研究開発法人産業技術総合研究所 |
|---|
研究代表者 |
小林 匠 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (30443188)
|
|---|
| 研究期間 (年度) |
2020-04-01 – 2023-03-31
|
| キーワード | 畳み込みニューラルネットワーク / 受容野 / フィルタサイズ / 平滑化関数 |
|---|
| 研究実績の概要 |
令和３年度は、畳み込みニューラルネットワーク（CNN）のフィルタに着目して研究を進めた。フィルタサイズはCNN内の各ニューロンの受容野のサイズに相当しており、様々なサイズの対象を認識するためには、適切な大きさに設定する必要がある。従来よりそのようなフィルタサイズはネットワークモデルを設計する段階で人手により設定されてきた。フィルタサイズはネットワークの計算量にも大きく影響するパラメータであるため、３x３といった比較的小さなサイズが適用されることが多いが、その最適性についてはこれまで議論されることは少なかった。そこで本年度は、フィルタサイズも学習により最適化する枠組みを提案した。フィルタサイズは離散値であり、サイズそのものを学習対象とすることは困難となる。ここでは、フィルタサイズを平滑化フィルタにおけるガウシアン関数の分散スケール値に対応させることで、連続量である分散スケール値を最適化パラメータとして定式化をおこなった。これは、任意の畳み込みフィルタを全体の外形を定める包絡関数としてのガウシアン関数と細かな画像特性を抽出する高空間周波数関数とに分解し、それぞれを個別に最適化することに相当する。大規模画像データに対して本提案方式を適用してフィルタサイズを同時最適化したところ、初段の畳み込みレイヤーほどフィルタサイズは小さく、後段になるにつれて最適なフィルタサイズは大きくなっていた。これは、後段のニューロンほどより抽象化された特徴を抽出していることから、そのようなニューロンに対して広い受容野を設定することで対象の特性を効率よく統合しているものと解釈することができる。
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
畳み込みニューラルネットワークのフィルタに対する事前モデルとして、平滑化を導入し、その最適化の枠組みを定式化できた。
|
| 今後の研究の推進方策 |
引き続きニューラルネットを構成するプーリング層や畳込み層に事前モデルを導入し、性能評価実験を進める。
|
| 次年度使用額が生じた理由 |
理由:高額なGPGPUボードを、次年度に複数枚購入するため。
計画:大規模データを高速に処理可能なGPGPUボードを購入する予定である。
|
