• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2018 Fiscal Year Annual Research Report

Systematization of image processing by programming design pattern and design of domain specific programming language for image processing

Research Project

Project/Area Number 17H01764
Research InstitutionNagoya Institute of Technology

Principal Investigator

福嶋 慶繁  名古屋工業大学, 工学(系)研究科(研究院), 准教授 (80550508)

Co-Investigator(Kenkyū-buntansha) 津邑 公暁  名古屋工業大学, 工学(系)研究科(研究院), 准教授 (00335233)
杉本 憲治郎  早稲田大学, 理工学術院(情報生産システム研究科・センター), 講師(任期付) (00773483)
Project Period (FY) 2017-04-01 – 2020-03-31
Keywords画像処理 / 高能率計算 / 並列計算 / デザインパターン / ドメイン固有言語 / フィルタ / 画像処理コンパイラ / ハードウェアアクセラレーション
Outline of Annual Research Achievements

計算機環境が複雑化している中,高度に最適化された機械語を得るためには,分野ごとに特化した専用プログラミング言語が必要不可欠である.しかし,最新の画像処理専用プログラミング言語でも,局所的な最適化しかできず,アルゴリズム全体の最適化は未だできない.加えて,網羅的なプログラミングパターンを考慮しているとは言えない.
そこで,本研究では,画像処理研究をプログラミングのデザインパターンという新たな観点から体系化することで,この問題にアプローチする.そして,専用プログラミング言語にデザインパターンを指示する機能を与えることで,全体を見通す機能を獲得させ,この問題を解決する.これは,画像処理の高速化,アルゴリズム,計算機アーキテクチャの専門化が協力することで初めて達成される独創的な研究であり,また,プログラミングによる計算処理の学術的な体系化という方法も他の隣接分野にも波及するためこの意義は大きい.
今年度は,バイラテラルフィルタのベクトル化のパターン化,FIRフィルタのランダムサンプリングを伴うFIRフィルタの並列化・ベクトル化のパターン化,IIRフィルタの効率的な計算スケジューリングのパターン化,周波数フィルタリングであるDCTを用いたフィルタのパターン化を行い,そのアプリケーションとなるガイデットフィルタのCPU,FPGAの高効率化実装や,プログラミング言語拡張による効率的な記述を実現した.加えて,高効率なアップサンプリング方法の実現も行った.また,GPU向けへのバイラテラルフィルタの実現や,その高次元信号への応用も行った.DCTフィルタリングに関しては,一般的な定式化を行うとともに,特殊な条件下では高速化可能であることを示し,それに応じたパターンを構築した.またハードウェアに関するデータIOに関する検証も行った.

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

画像処理の基本となるFIRフィルタ,IIRフィルタ,周波数フィルタについて様々なパターンの検証を行った.各フィルタは画像処理を構築するうえで中もっとも計算コストやメモリIOが多くなり効率的なプログラミングの中で支配的な影響を持つ.このパターン化が十分できれば多くの手法の高速化パターンが明らかになる.
まず,FIRフィルタについては,様々な重み計算の方法,サンプリング間引きがある場合を考慮してメモリのロードから並列計算,ベクトル計算がどのように実現可能かを網羅的に明らかにした.また,IIRフィルタについては,主要なフィルタであるガウシアンフィルタや移動平均フィルタについて様々な実装を行い,メモリIO,ベクトル化効率,並列化効率などを明らかにした.そのほかにも様々なIIRフィルタについて検証した.また,周波数フィルタリングでは,画像全体への周波数フィルタリングと短時間周波数フィルタリングの双方を評価した.
これらを明らかにするとともに,そのアプリケーションの実現も各種行った.例えばガイデットフィルタは,FIRフィルタ,IIRフィルタを組み合わせて長い画像処理パイプラインをつなぐフィルタであり,その効率的な実装パターンの組み合わせは非常に多い.その中でも効率的なパターンを発見するために上記の知見を用い,加えてプログラミング言語として実現することでCPU向けやFPGA向けの実装を行った. 他にも,GPU向けのIIRフィルタやFIRフィルタの実現や,3次元ボリュームデータに対する拡張等,様々な用途を考慮した検証を行うことができた.
これらに加えて,色変換による汎用的な情報削減による高速化手法のなど,パターン化を行うことで,多くの発見がされている.

Strategy for Future Research Activity

最終年度では,パターン化したFIRフィルタや,IIRフィルタ,周波数フィルタに加えてダウンサンプリング,アップサンプリング,ポイントオペレータ,カラーフィルタリングなどを踏まえて検討する.上記3つは画像処理のボトルネックとなる処理であり,後述した処理は,上記の3つの処理に画像処理として演算の密結合が可能であることが多い.その場合,データIOが支配的な画像処理においては軽微なコスト増だけで済む.まずは,そのような結合パターンを明らかにする.加えて,これらのパターンを結合するための汎用的な計算フレームワークやそのコンパイラ拡張を実装する.
また,データIOを効率化するためにはタイリング処理が重要であり,この処理を行うことで,並列化効率とベクトル化効率,キャッシュ効率,演算量の関係が変わる.例えば,フィルタ単体の局所的な並列化ではなく,画像処理パイプラインをタイル単位で並列化にすることで, 演算量は増えるが,キャッシュ効率,ベクトル化効率等の向上が可能となる.これらの影響も踏まえて検討を進める.
また,検証するためにいくつかの画像処理アプリケーションを実装し,本研究であきらかになったパターンが,実際にどれくらいの効率が向上したかを置きらかにする.アプリケーションの対象としては,比較的長い画像処理パイプラインとなる定数時間バイラテラルフィルタや,ディープラーニングなどの畳み込みネットワーク,ステレオマッチングや動きベクトル推定といった処理を本研究で発見したパターンにより構築する.

  • Research Products

    (48 results)

All 2019 2018 Other

All Int'l Joint Research (1 results) Journal Article (4 results) (of which Int'l Joint Research: 1 results,  Open Access: 2 results) Presentation (41 results) (of which Int'l Joint Research: 14 results,  Invited: 1 results) Remarks (2 results)

  • [Int'l Joint Research] University of Dayton(米国)

    • Country Name
      U.S.A.
    • Counterpart Institution
      University of Dayton
  • [Journal Article] Fast Convolutional Distance Transform2019

    • Author(s)
      Karam Christina、Sugimoto Kenjiro、Hirakawa Keigo
    • Journal Title

      IEEE Signal Processing Letters

      Volume: 26 Pages: 853~857

    • DOI

      10.1109/LSP.2019.2910466

    • Int'l Joint Research
  • [Journal Article] Effective Implementation of Edge-Preserving Filtering on CPU Microarchitectures2018

    • Author(s)
      Maeda Yoshihiro、Fukushima Norishige、Matsuo Hiroshi
    • Journal Title

      Applied Sciences

      Volume: 8 Pages: 1985~1985

    • DOI

      10.3390/app8101985

    • Open Access
  • [Journal Article] Taxonomy of Vectorization Patterns of Programming for FIR Image Filters Using Kernel Subsampling and New One2018

    • Author(s)
      Maeda Yoshihiro、Fukushima Norishige、Matsuo Hiroshi
    • Journal Title

      Applied Sciences

      Volume: 8 Pages: 1235~1235

    • DOI

      10.3390/app8081235

    • Open Access
  • [Journal Article] Hardware Accelerated Marking for Mark & Sweep Garbage Collection2018

    • Author(s)
      KAWAMURA Shinji、TSUMURA Tomoaki
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E101.D Pages: 1107~1115

    • DOI

      10.1587/transinf.2017EDP7163

  • [Presentation] Accelerating Redundant DCT Filtering for Deblurring and Denoising2019

    • Author(s)
      N. Fukushima, Y. Kawasaki, and Y. Maeda
    • Organizer
      IEEE International Conference on Image Processing (ICIP)
    • Int'l Joint Research
  • [Presentation] 200 FPS Constant-time Bilateral Filter Using SVD and Tiling Strategy2019

    • Author(s)
      K. Sugimoto, N. Fukushima, and S. Kamata
    • Organizer
      IEEE International Conference on Image Processing (ICIP)
    • Int'l Joint Research
  • [Presentation] Vector Addressing for Non-Sequential Sampling in FIR Image Filtering2019

    • Author(s)
      N. Fukushima, T. Tsubokawa, and Y. Maeda
    • Organizer
      IEEE International Conference on Image Processing (ICIP)
    • Int'l Joint Research
  • [Presentation] Halide and GENESIS for Generating Domain-Specific Architecture of Guided Image Filtering2019

    • Author(s)
      A. Ishikawa, N. Fukushima, A. Maruoka, and T. Iizuka
    • Organizer
      IEEE International Symposium on Circuits and Systems (ISCAS)
  • [Presentation] DCTを用いた定数時間ガウシアンフィルタの演算数削減2019

    • Author(s)
      大塚友貴,福嶋慶繁
    • Organizer
      画像センシングシンポジウム(SSII)
  • [Presentation] 冗長DCTによる高効率な周波数フィルタリング2019

    • Author(s)
      佐藤利樹,川崎雄基,福嶋慶繁
    • Organizer
      画像センシングシンポジウム(SSII)
  • [Presentation] 領域に応じたレンジカーネル最適化による定数時間バイラテラルフィルタ2019

    • Author(s)
      宮村挙寿,杉本憲治郎,福嶋慶繁,鎌田清一郎
    • Organizer
      電子情報通信学会画像工学研究会(IE)
  • [Presentation] DCTを用いた定数時間ガウシアンフィルタの演算数削減2019

    • Author(s)
      大塚友貴, 福嶋慶繁
    • Organizer
      電子情報通信学会東海支部 卒業研究発表会
  • [Presentation] 定数時間バイラテラルフィルタの効率的な計算スケジューリング2019

    • Author(s)
      辻悠太, 福嶋慶繁
    • Organizer
      電子情報通信学会東海支部 卒業研究発表会
  • [Presentation] オプティカルフローを用いた手振れ画像からのHDR画像生成2019

    • Author(s)
      佐藤利樹, 福嶋慶繁
    • Organizer
      電子情報通信学会東海支部 卒業研究発表会
  • [Presentation] タイリングとレンジドメイン削減による定数時間バイラテラルフィルタの性能向上2019

    • Author(s)
      宮村挙寿, 福嶋慶繁
    • Organizer
      電子情報通信学会東海支部 卒業研究発表会
  • [Presentation] Local LUT Upsampling for Acceleration of Edge-Preserving Filtering2019

    • Author(s)
      H. Tajima, T. Tsubokawa, Y. Maeda, and N. Fukushima
    • Organizer
      International Conference on Computer Vision Theory and Applications (VISAPP)
    • Int'l Joint Research
  • [Presentation] Tiling Parallelization of Guided Image Filtering2018

    • Author(s)
      T. Tsubokawa, M. Nakamura, Y. Maeda, and N. Fukushima
    • Organizer
      International Workshop on Frontiers of Computer Vision (IW-FCV)
    • Int'l Joint Research
  • [Presentation] ローカルLUTによるエッジ保存平滑化フィルタの近似高速化2018

    • Author(s)
      田島寛士,坪川哲平,前田慶博,福嶋慶繁
    • Organizer
      電子情報通信学会 画像工学研究会(IE)
  • [Presentation] Vectorization of Kernel and ImageSubsampling in FIR Image Filtering2018

    • Author(s)
      T. Tsubokawa, Y. Maeda, and N. Fukushima
    • Organizer
      International Symposium on Computing and Networking (CANDAR)
  • [Presentation] ガイデットフィルタのHalideとGENESISコンパイラを用いた専用アーキテクチャ生成2018

    • Author(s)
      石川阿香里, 福嶋慶繁, 丸岡晃, 飯塚拓郎
    • Organizer
      画像符号化シンポジウム(PCSJ)/映像メディア処理シンポジウム(IMPS)
  • [Presentation] エッジ保持平滑化フィルタの非正規化数抑制による効率的な実装2018

    • Author(s)
      前田慶博,福嶋慶繁
    • Organizer
      画像符号化シンポジウム(PCSJ)/映像メディア処理シンポジウム(IMPS)
  • [Presentation] ローカルLUTを用いたエッジ保存平滑化フィルタの高速化2018

    • Author(s)
      田島寛士,坪川哲平,前田慶博,福嶋慶繁
    • Organizer
      画像符号化シンポジウム(PCSJ)/映像メディア処理シンポジウム(IMPS)
  • [Presentation] ポストスケーリング型DCTを用いた周波数フィルタリングへの冗長処理適用2018

    • Author(s)
      川﨑雄基, 前田慶博, 福嶋慶繁
    • Organizer
      画像符号化シンポジウム(PCSJ)/映像メディア処理シンポジウム(IMPS)
  • [Presentation] FIRフィルタにおける画素とカーネルのサブサンプリングによる高速化2018

    • Author(s)
      坪川哲平,前田慶博、福嶋慶繁
    • Organizer
      画像符号化シンポジウム(PCSJ)/映像メディア処理シンポジウム(IMPS)
  • [Presentation] 単精度浮動小数点における定時間バイラテルフィタの高効率化2018

    • Author(s)
      渡邉光一朗, 前田慶博, 福嶋慶繁
    • Organizer
      画像符号化シンポジウム(PCSJ)/映像メディア処理シンポジウム(IMPS)
  • [Presentation] PCAによる局所線形フィルタの高速化2018

    • Author(s)
      室岡芳樹, 前田慶博, 福嶋慶繁
    • Organizer
      画像符号化シンポジウム(PCSJ)/映像メディア処理シンポジウム(IMPS)
  • [Presentation] Efficient Computational Scheduling of Box and Gaussian FIR Filtering for CPU Microarchitecture2018

    • Author(s)
      N. Fukushima, Y. Maeda, Y. Kawasaki, M. Nakamura, T. Tsumura, K. Sugimoto, and S. Kamata
    • Organizer
      Asia-Pacific Signal and Information Processing Association Annual Summit and Conference (APSIPA ASC)
    • Int'l Joint Research
  • [Presentation] 定数時間バイラテラルフィルタの高効率な単精度浮動小数点実装2018

    • Author(s)
      渡邉光一朗, 前田慶博, 福嶋慶繁
    • Organizer
      信号処理シンポジウム
  • [Presentation] ポストスケーリング型DCTによる周波数フィルタの高速化2018

    • Author(s)
      川﨑雄基, 前田慶博, 福嶋慶繁
    • Organizer
      電子情報通信学会ソサイエティ大会
  • [Presentation] ポストスケーリング型DCTによる冗長周波数フィルタ2018

    • Author(s)
      川﨑雄基, 前田慶博, 福嶋慶繁
    • Organizer
      電気・電子・情報関係学会東海支部連合大会
  • [Presentation] 主成分分析によるガイデットフィルタの近似2018

    • Author(s)
      室岡芳樹, 前田慶博, 福嶋慶繁
    • Organizer
      電気・電子・情報関係学会東海支部連合大会
  • [Presentation] 主成分分析を用いたガイデットフィルタの高速化2018

    • Author(s)
      室岡芳樹, 前田慶博, 福嶋慶繁
    • Organizer
      電子情報通信学会ソサイエティ大会
  • [Presentation] CPUマイクロアーキテクチャに応じたエッジ保持平滑化フィルタの高速化2018

    • Author(s)
      前田慶博, 福嶋慶繁
    • Organizer
      画像の認識・理解シンポジウム(MIRU)
  • [Presentation] 多チャンネルバイラテラルフィルタの高速化2018

    • Author(s)
      福嶋慶繁, 山下頌太
    • Organizer
      情報処理学会オーディオビジュアル複合情報処理研究会(AVM)
    • Invited
  • [Presentation] Halideによるガイデットフィルタの計算スケジューリング最適化2018

    • Author(s)
      石川阿香里,前田慶博,福嶋慶繁
    • Organizer
      電子情報通信学会画像工学研究会(IE)
  • [Presentation] Halideによるガイデットフィルタの効率的な計算スケジューリング2018

    • Author(s)
      石川阿香里,福嶋慶繁
    • Organizer
      画像センシングシンポジウム(SSII)
  • [Presentation] ICP with Depth Compensation for Calibration of Multiple ToF Sensors2018

    • Author(s)
      N. Fukushima
    • Organizer
      3DTV Conference (3DTV-CON)
    • Int'l Joint Research
  • [Presentation] Guided Image Filtering with Arbitrary Window Function2018

    • Author(s)
      N. Fukushima, K. Sugimoto, and S. Kamata
    • Organizer
      IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)
    • Int'l Joint Research
  • [Presentation] Acceleration of Gaussian filter with short window length using DCT-12018

    • Author(s)
      T. Yano, K. Sugimoto, Y. Kuroki and S. Kamata
    • Organizer
      APSIPA Annual Summit and Conference (APSIPA ASC2018)
    • Int'l Joint Research
  • [Presentation] GPU-friendly approximate bilateral filter for 3D volume data2018

    • Author(s)
      K. Yano, K. Sugimoto and S. Kamata
    • Organizer
      APSIPA Annual Summit and Conference (APSIPA ASC2019)
    • Int'l Joint Research
  • [Presentation] Near-constant time bilateral filter for high dimensional images2018

    • Author(s)
      C. Karam, K. Sugimoto and K. Hirakawa
    • Organizer
      IEEE International Conference on Image Processing (ICIP)
    • Int'l Joint Research
  • [Presentation] GPU処理に適した三次元画像の高速近似バイラテラルフィルタ2018

    • Author(s)
      矢野 光一, 杉本 憲治郎, 鎌田 清一郎
    • Organizer
      画像センシングシンポジウム
  • [Presentation] Isolation-Safe Speculative Access Control for Hardware Transactional Memory2018

    • Author(s)
      Tomoki TAJIMI, Masaki HAYASHI, Yuki FUTAMASE, Ryota SHIOYA, Masahiro GOSHIMA, Tomoaki TSUMURA
    • Organizer
      IEEE Int'l Conf. on Electronics Circuits and Systems
    • Int'l Joint Research
  • [Presentation] An Analysis and a Solution of False Conflicts for Hardware Transactional Memory2018

    • Author(s)
      Yuki FUTAMASE, Masaki HAYASHI, Tomoki TAJIMI, Ryota SHIOYA, Masahiro GOSHIMA, Tomoaki TSUMURA
    • Organizer
      IEEE Int'l Conf. on Electronics Circuits and Systems
    • Int'l Joint Research
  • [Presentation] Speculatively Granting Conflicting Accesses on Hardware Transactional Memory2018

    • Author(s)
      Tomoki Tajimi, Yuki Futamase, Masaki Hayashi, Ryota Shioya, Masahiro Goshima, Tomoaki Tsumura
    • Organizer
      ACM Student Research Competition
    • Int'l Joint Research
  • [Remarks]

    • URL

      https://github.com/yoshihiromaed/FastImplementation-BilateralFilter

  • [Remarks]

    • URL

      https://fukushima.web.nitech.ac.jp/research/awgif/

URL: 

Published: 2019-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi