• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実施状況報告書

l1ノルム損失における畳み込み型スパース表現と分散圧縮符号化・深層学習への展開

研究課題

研究課題/領域番号 20K11878
研究機関久留米工業高等専門学校

研究代表者

黒木 祥光  久留米工業高等専門学校, 制御情報工学科, 教授 (60290847)

研究期間 (年度) 2020-04-01 – 2023-03-31
キーワード畳み込み型スパース表現 / 分散圧縮符号化 / 深層学習 / 凸最適化
研究実績の概要

現在のAIブームは,畳み込みニューラルネットワーク(CNN: Convolutional Neural Network)が画像の分類問題において,既存の手法を凌駕したことを嚆矢とする.CNNは,画像の特徴を表す畳み込みフィルタと,フィルタを畳み込むことによって生じる特徴マップの組を多層化することによって構成されている.CNNの学習は,入力画像と所望の出力,例えばクラス分類であれば,one-hotと呼ばれる当該クラス番号だけを1,他を0とするベクトルの組を多数与え,誤差を少なくすることによって実現される.
本研究で着目する畳み込み型スパース表現は,CNNと異なり,畳み込みフィルタと特徴マップに相当するフィルタ係数によって画像を近似する方法であり,少数の画像でフィルタを設計できる.また,フィルタ係数の大部分がゼロで,局所的に非ゼロとなる,つまり,スパース(疎)となるようにフィルタおよびフィルタ係数を求めることができる.ここで,最適なフィルタを求める評価関数は,近似誤差を表す損失項とスパース性を表す正則化項の加重和で与えられる.
詳細は後述するが,本年度は近似誤差における外れ値のフィルタ設計への頑健性を向上させるため,損失項をL1ノルムと呼ばれる絶対値和で評価し,コンセンサス方式,つまり個別の画像に特化したフィルタを一旦作成し,それを統合することにより,大規模データに対してメモリ消費量が少なく,高速にフィルタを設計する手法を開発した.また,凸最適化問題のソルバーを一般的に用いられるADMMからDouglas-Rachford分割に変更することによる高速化,分散圧縮化やCNNの初期値への応用などに関する成果を残すことができた.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

本研究2年目となる本年度は,(1)コンセンサス方式を用いた大規模画像での成果,(2)L1誤差の評価をHuber関数で代替することによるスパース性の向上,(3)スパース係数に錐制約型部分空間法を適用することによるCNNより高精度な画像分類,(4)CNNを参考にした2層のネットワークにおける小規模データにおけるCNNより高精度な画像分類,(5)本手法で小規模なCNNの初期値を求め,少数学習画像における認識率の向上,(6)のソルバーをADMMからDouglas-Rachford分割に変更することによる高速化,(7)分散圧縮符号化への適用,に関する成果を残した.上記の(1)から(4)は査読付国際会議で,(5)は国際シンポジウムで発表した.(6)および(7)は令和4年度に査読付国際会議で発表する予定である.

今後の研究の推進方策

大規模な学習用画像におけるフィルタの設計方法を確立できたため,大規模な学習画像を用いた大規模ネットワークにおける本手法の有効性を検証したい.また,分散圧縮符号化のキーフレームの辞書設計も行う.
令和4年度は本研究の最終年度であるため,今後の展開も見据え,グラフ信号に関する応用についても視野に入れて検討する予定である.

次年度使用額が生じた理由

前者の理由は新型コロナ感染症により学会がすべて遠隔で実施され,旅費の経費がゼロになったためである.発表すべき研究成果は既に得ているため,翌年度分として請求した金額と合わせ,旅費や学会参加費等にて使用する予定である.

  • 研究成果

    (6件)

すべて 2021 その他

すべて 雑誌論文 (4件) (うち査読あり 4件、 オープンアクセス 4件) 学会発表 (1件) (うち国際学会 1件) 備考 (1件)

  • [雑誌論文] Image classification using convolutional sparce representation of l1 error term2021

    • 著者名/発表者名
      Yoshida Takahiro、Kobayashi Yusaku、Kuroki Yoshimitsu
    • 雑誌名

      6th International Conference on Intelligent Informatics and Biomedical Sciences (ICIIBMS)

      巻: 6 ページ: 248-249

    • DOI

      10.1109/ICIIBMS52876.2021.9651628

    • 査読あり / オープンアクセス
  • [雑誌論文] An image classification using convolutional sparse representation and cone-restricted subspace method2021

    • 著者名/発表者名
      Higuchi Yosuke、Hirakawa Tomoya、Kuroki Yoshimitsu
    • 雑誌名

      6th International Conference on Intelligent Informatics and Biomedical Sciences (ICIIBMS)

      巻: 6 ページ: 247-248

    • DOI

      10.1109/ICIIBMS52876.2021.9651582

    • 査読あり / オープンアクセス
  • [雑誌論文] Convolutional Dictionary Learning with Huber Error and l<sub>1</sub> Regularization Terms2021

    • 著者名/発表者名
      Yoda Satoshi、Kawazoe Hironori、Kuroki Yoshimitsu
    • 雑誌名

      2021 International Symposium on Intelligent Signal Processing and Communication Systems (ISPACS)

      巻: - ページ: 1-2

    • DOI

      10.1109/ISPACS51563.2021.9651025

    • 査読あり / オープンアクセス
  • [雑誌論文] A Consensus Framework for Convolutional Dictionary Learning based on L1 Norm Error2021

    • 著者名/発表者名
      M. Takanashi and Y. Kuroki
    • 雑誌名

      2021 Asia-Pacific Signal and Information Processing Association Annual Summit and Conference (APSIPA ASC)

      巻: - ページ: 1400-1404

    • 査読あり / オープンアクセス
  • [学会発表] On Initial CNN parameters using convolutional sparse filters2021

    • 著者名/発表者名
      Satoshi Yoda, Akito Narahara, and Yoshimitsu Kuroki
    • 学会等名
      15h International collaboration Symposium on Information, Production and Systems (ISIPS 2021)
    • 国際学会
  • [備考] Research map 黒木祥光

    • URL

      https://researchmap.jp/read0047048

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi