• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

l1ノルム損失における畳み込み型スパース表現と分散圧縮符号化・深層学習への展開

研究課題

研究課題/領域番号 20K11878
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分61010:知覚情報処理関連
研究機関久留米工業高等専門学校

研究代表者

黒木 祥光  久留米工業高等専門学校, 制御情報工学科, 教授 (60290847)

研究期間 (年度) 2020-04-01 – 2024-03-31
研究課題ステータス 完了 (2023年度)
配分額 *注記
4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
2022年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2021年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2020年度: 1,690千円 (直接経費: 1,300千円、間接経費: 390千円)
キーワード畳み込み型スパース表現 / 分散圧縮符号化 / 深層学習 / 凸最適化
研究開始時の研究の概要

畳み込み型ニューラルネットワークが実用化されつつあるが,学習に膨大なデータを必要とする.本研究では少数の学習データで畳み込みフィルタを導出可能な畳み込み型スパース表現に着目する.フィルタを求める際,雑音を含んだ画像が混入する可能性があるため,本研究では外れ値に対して頑健な畳み込みフィルタを設計する.得られたフィルタとその係数マップはパターン認識のみならず,分散圧縮符号化に適用する.フィルタは画像が平行移動しても同じであるため,外れ値だけでなく位置ずれに対しても頑健な手法であり,様々な応用が期待される.

研究成果の概要

近年のAIの発展は,畳み込みニューラルネットワークが画像分類のコンテストで既存の手法を凌駕したことがきっかけである.本研究では画像を畳み込みフィルタとその係数の和で近似する畳み込みスパース表現に着目した.ここで,スパースとはフィルタ係数ができるだけ疎,つまり多くのゼロを含むことを意味し,近似精度が同じであればスパース性が高いほど特徴をよく表現していると考えられる.本研究では分散圧縮符号化と畳み込みニューラルネットワークへの応用を検討し,既存手法を上回る成果を得た.

研究成果の学術的意義や社会的意義

本研究では畳み込みスパース表現のスパース性と近似精度の双方を向上させる方法として近似精度をL1ノルムと称する誤差ベクトルの絶対値和で評価する手法を提案した.また,計算負荷を低減し,大規模データで適用可能なコンセンサス方式を導出した.これらの成果は分散圧縮符号化および小規模な畳み込みニューラルネットワークにおける精度向上へとつながり,国際会議ICIIBMSにおけるStudent Best Paper Awardとして評価された.

報告書

(5件)
  • 2023 実績報告書   研究成果報告書 ( PDF )
  • 2022 実施状況報告書
  • 2021 実施状況報告書
  • 2020 実施状況報告書
  • 研究成果

    (12件)

すべて 2022 2021 2020 その他

すべて 雑誌論文 (7件) (うち査読あり 7件、 オープンアクセス 7件) 学会発表 (4件) (うち国際学会 4件) 備考 (1件)

  • [雑誌論文] Initial parameters of CNNs generated by Convolutional Sparse Representation with L1 error term2022

    • 著者名/発表者名
      Satoshi Yoda, Yuuto Tsukiashi, and Yoshimitsu Kuroki
    • 雑誌名

      2022 7th International Conference on Intelligent Informatics and Biomedical Science (ICIIBMS)

      ページ: 380-381

    • DOI

      10.1109/iciibms55689.2022.9971702

    • 関連する報告書
      2022 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Image classification using convolutional sparce representation of l1 error term2021

    • 著者名/発表者名
      Yoshida Takahiro、Kobayashi Yusaku、Kuroki Yoshimitsu
    • 雑誌名

      6th International Conference on Intelligent Informatics and Biomedical Sciences (ICIIBMS)

      巻: 6 ページ: 248-249

    • DOI

      10.1109/iciibms52876.2021.9651628

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] An image classification using convolutional sparse representation and cone-restricted subspace method2021

    • 著者名/発表者名
      Higuchi Yosuke、Hirakawa Tomoya、Kuroki Yoshimitsu
    • 雑誌名

      6th International Conference on Intelligent Informatics and Biomedical Sciences (ICIIBMS)

      巻: 6 ページ: 247-248

    • DOI

      10.1109/iciibms52876.2021.9651582

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Convolutional Dictionary Learning with Huber Error and l<sub>1</sub> Regularization Terms2021

    • 著者名/発表者名
      Yoda Satoshi、Kawazoe Hironori、Kuroki Yoshimitsu
    • 雑誌名

      2021 International Symposium on Intelligent Signal Processing and Communication Systems (ISPACS)

      巻: - ページ: 1-2

    • DOI

      10.1109/ispacs51563.2021.9651025

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] A Consensus Framework for Convolutional Dictionary Learning based on L1 Norm Error2021

    • 著者名/発表者名
      M. Takanashi and Y. Kuroki
    • 雑誌名

      2021 Asia-Pacific Signal and Information Processing Association Annual Summit and Conference (APSIPA ASC)

      巻: - ページ: 1400-1404

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Image classification with multi-scale convolutional sparse representation2020

    • 著者名/発表者名
      Kazuki Kitajima and Yoshimitsu Kuroki
    • 雑誌名

      Proceedigns of 2020 IEEE 7th International Conference on Engineering Technologies and Applied Sciences (ICETAS)

      巻: - ページ: 1-5

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Image Classification Using l1-fidelity Multi-layer Convolutional Sparse Representation2020

    • 著者名/発表者名
      Mizuki Takanashi and Yoshimitsu Kuroki
    • 雑誌名

      Proceedigns of 2020 IEEE 7th International Conference on Engineering Technologies and Applied Sciences (ICETAS)

      巻: - ページ: 1-5

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり / オープンアクセス
  • [学会発表] Distributed Compressed Video Sensing based on Convolutional Sparse Coding using a large number of keyframes2022

    • 著者名/発表者名
      Yosuke Higuchi and Yoshimitsu Kuroki
    • 学会等名
      16h International collaboration Symposium on Information, Production and Systems (ISIPS 2021)
    • 関連する報告書
      2022 実施状況報告書
    • 国際学会
  • [学会発表] Distributed Compressed Video Sensing based on Convolutional Sparse Coding using Fourier Measurement Matrix and L1 Fidelity Term2022

    • 著者名/発表者名
      Takuro Eguchi, Hayata Morisaki, and Yoshimitsu Kuroki
    • 学会等名
      16h International collaboration Symposium on Information, Production and Systems (ISIPS 2021)
    • 関連する報告書
      2022 実施状況報告書
    • 国際学会
  • [学会発表] On Initial CNN parameters using convolutional sparse filters2021

    • 著者名/発表者名
      Satoshi Yoda, Akito Narahara, and Yoshimitsu Kuroki
    • 学会等名
      15h International collaboration Symposium on Information, Production and Systems (ISIPS 2021)
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] Multi-layer Feature Extraction with Convolutional Dictionary Learning based on L1 Norm Error with Smoothed L0 Norm Regularization and Non-negative Coefficients2020

    • 著者名/発表者名
      Kaede KUmamoto and Yoshimitsu Kuroki
    • 学会等名
      14h International collaboration Symposium on Information, Production and Systems (ISIPS 2020)
    • 関連する報告書
      2020 実施状況報告書
    • 国際学会
  • [備考] Research map 黒木祥光

    • URL

      https://researchmap.jp/read0047048

    • 関連する報告書
      2023 実績報告書 2022 実施状況報告書 2021 実施状況報告書

URL: 

公開日: 2020-04-28   更新日: 2025-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi