• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2019 年度 実績報告書

再構成可能システムとGPUによる複合型高性能計算プラットフォーム

研究課題

研究課題/領域番号 18H03246
研究機関筑波大学

研究代表者

朴 泰祐  筑波大学, 計算科学研究センター, 教授 (90209346)

研究分担者 佐野 健太郎  国立研究開発法人理化学研究所, 計算科学研究センター, チームリーダー (00323048)
塙 敏博  東京大学, 情報基盤センター, 准教授 (30308283)
山口 佳樹  筑波大学, システム情報系, 准教授 (30373377)
天野 英晴  慶應義塾大学, 理工学部(矢上), 教授 (60175932)
研究期間 (年度) 2018-04-01 – 2021-03-31
キーワードFPGA / GPU / 高性能計算 / 高位合成 / 高速シリアル通信 / 多重複合演算加速
研究実績の概要

◎FPGAとGPUを連携させた多重複合型演算加速ノード上で、OpenCLを用いたユーザレベルでのFPGA間通信機構を実装し、ノード内では多重複合演算加速のコンセプトの実現のため、GPUとFPGAをPCIeバス上でDMA通信させる機構をCPUの援助なしにFPGAから能動的に実行するシステムを開発した。これらにより、ノード内でGPUとFPGAの協調計算で宇宙輻射輸送シミュレーションを実行することに成功した。
◎FPGAをスイッチと演算の両者に用い、総合的な並列演算加速ベンチマーキングを行うために、PCIeにXilinx社KCU1500ボードを接続し、そこに統合設計環境SDAccelを実装した。このボード上で演算加速を行うと共に、シリアルリンクを用いてマルチFPGAシステムFiCと接続する環境を構築した。
◎高バンド幅メモリを持つFPGAの活用に向けて、Stratix10 MX FPGAでOpenCLを使ったアプリケーション開発について検討した。併せて、FPGA上でOpenCLを用いて可変精度での演算を実現する方法について検討した。
◎提案するFPGA基盤構想に基づく基板設計および基板製造が終了し、製造した同基板をSC’19にて展示した。また、同基板を想定した隣接ノードとの高速通信における設計効率化とそこで生ずるメモリアクセス問題などについて代替基板によって研究発表を行った。
◎複数FPGAによる高性能計算の実現に向けて、FPGA間通信のフロー制御を実現するフローコントローラモジュールを開発した。リング状に接続した複数のStratix10 FPGAで津波シミュレーションや多体問題のストリーム計算性能を向上でき、その評価を行った。また、直接網と間接網を組み合わせたハイブリッド通信の評価を行った。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

◎FPGAとGPUを連携させた多重複合型演算加速ノード上で、OpenCLを用いたユーザレベルでのFPGA間通信機構CIRCUSを最大64台のFPGA間で動作させ理論ピーク性能の90%の通信性能達成、一方ノード内でGPUとFPGAの協調計算で宇宙輻射輸送シミュレーションを、GPUのみの場合の最大17倍まで加速することに成功した。
◎開発システムは稼働し、高速シリアル転送とSDAccelによる加速の両方を実現できたが、FPGAの能力の限界によりアクセラレーション自体はさほど性能向上を得られなかった。
◎HBM2を搭載したFPGAにおいて、OpenCLを用いて高バンド幅を実現する記述方法について評価を行った。さらに、行列積を用いて、倍精度、単精度、半精度における性能と資源量を評価した。
◎100Gbps x 12本の高速光シリアル通信、PCIe Gen3、およびストレージ(SATA x 128個)を備えたFPGA基板を製造し、電気試験を開始した。この試験が完了した入出力より、同基板上のFPGA上の回路設計を進めている。また、代替基板上で入出力制御やそれを利用した演算実装に関する試験も実施した。
◎リングトポロジの直接網で接続したFPGAクラスタ試作機が動作するようになり、データフロー計算を評価できた。問題に適合した数値フォーマットによる計算に関しては、引き続きデータフローコンパイラを拡張中である。

今後の研究の推進方策

◎FPGA間通信機構CIRCUSと宇宙輻射輸送アプリケーションを筑波大学計算科学研究センターで稼働中のGPU+FPGAを搭載したCygnusスーパーコンピュータ上で稼働させ性能評価することで、多重複合演算加速システムの性能を実証していく。
◎本年度の結果を踏まえ、強力なシリアルリンクと、ホストとの密接続を合わせ持つ新しいボードM-KUBOSを用いて、他のアクセラレータとの交信とFPGA内での演算の両立を図る。
◎宇宙物理のN体計算を中心に、OpenCLによる可変精度を考慮に入れた演算オフローディングの検討を進める。
◎25Gbpsの高速シリアルI/Oを大量に含み、かつクロックドメインの異なる回路設計は難しい。COVID-19の影響で提案システムの一部機材の納入が2020年夏など遅れは見られるが、これまでの設計資産と組み合わせ性能評価およびベンチマーク試験などを実施する。
◎直接網ではなく間接網による通信性能、および並列計算性能の評価を行う。また、引き続きデータフローコンパイラの拡張を行う。

  • 研究成果

    (48件)

すべて 2020 2019 その他

すべて 国際共同研究 (2件) 雑誌論文 (17件) (うち査読あり 15件、 オープンアクセス 1件) 学会発表 (29件) (うち国際学会 23件、 招待講演 14件)

  • [国際共同研究] Oak Ridge National Laboratory(米国)

    • 国名
      米国
    • 外国機関名
      Oak Ridge National Laboratory
  • [国際共同研究] Argonne National Laboratory(米国)

    • 国名
      米国
    • 外国機関名
      Argonne National Laboratory
  • [雑誌論文] Comparison of direct and indirect networks for high-performance FPGA clusters2020

    • 著者名/発表者名
      Antoniette Mondigo, Tomohiro Ueno, Kentaro Sano, and Hiroyuki Takizawa
    • 雑誌名

      LNCS Reconfigurable Computing: Architectures, Tools, and Applications

      巻: - ページ: -

    • 査読あり
  • [雑誌論文] Performance Evaluation and Power Analysis of Teraflop-scale Fluid Simulation with Stratix 10 FPGA2020

    • 著者名/発表者名
      Atsushi Koshiba, Kouki Watanabe, Takaaki Miyajima, and Kentaro Sano
    • 雑誌名

      Proceedings of 28th ACM/SIGDA International Symposium on Field-Programmable Gate Arrays (FPGA2020)

      巻: - ページ: -

    • 査読あり
  • [雑誌論文] FPGA-Based Computational Fluid Dynamics Simulation Architecture via High-Level Synthesis Design Method2020

    • 著者名/発表者名
      Changdao Du, Iman Firmansyah and Yoshiki Yamaguchi
    • 雑誌名

      Proc. of International Symposium on Applied Reconfigurable Computting (ARC2020)

      巻: - ページ: -

    • 査読あり
  • [雑誌論文] High-Performance Computation of LGCA Fluid Dynamics on an FPGA-based Platform2020

    • 著者名/発表者名
      Changdao Du, Iman Firmansyah, and Yoshiki Yamaguchi
    • 雑誌名

      Proc. of International Conference on Computer and Communication Systems (ICCCS2020)

      巻: - ページ: -

    • 査読あり
  • [雑誌論文] 宇宙輻射輸送コードにおけるOpenCLによるFPGA演算加速最適化2019

    • 著者名/発表者名
      藤田 典久, 小林 諒平, 山口 佳樹, 朴 泰祐, 吉川 耕司, 安部 牧人, 梅村 雅之
    • 雑誌名

      理学会論文誌コンピューティングシステム(ACS)

      巻: Vol. 12, No.3 ページ: 64-75

    • 査読あり
  • [雑誌論文] OpenCL-Enabled GPU&FPGA Accelerated Computing with Inter-FPGA Communication2019

    • 著者名/発表者名
      Ryohei Kobayashi, Norihisa Fujita, Yoshiki Yamaguchi, Ayumi Nakamichi, Taisuke Boku
    • 雑誌名

      Proc. of IXPUG Workshop HPC Asia 2020

      巻: - ページ: -

    • 査読あり
  • [雑誌論文] Parallel Processing on FPGA Combining Computation and Communication in OpenCL Programming2019

    • 著者名/発表者名
      Norihisa Fujita, Ryohei Kobayashi, Yoshiki Yamaguchi and Taisuke Boku
    • 雑誌名

      Proc. of AsHES2019 (Int. Workshop on Acceleraors and Hybrid Exascale Systems)

      巻: - ページ: -

    • 査読あり
  • [雑誌論文] GPU-FPGA Heterogeneous Computing with OpenCL-enabled Direct Memory Access2019

    • 著者名/発表者名
      Ryohei Kobayashi, Norihisa Fujita, Yoshiki Yamaguchi, Ayumi Nakamichi and Taisuke Boku
    • 雑誌名

      AsHES2019 (Int. Workshop on Acceleraors and Hybrid Exascale Systems)

      巻: - ページ: -

    • 査読あり
  • [雑誌論文] GPU・FPGA複合演算加速による輻射流体シミュレーションコードARGOTの実装2019

    • 著者名/発表者名
      中道安祐未, 藤田典久, 小林諒平, 朴泰祐, 吉川耕司, 梅村雅之
    • 雑誌名

      情報処理学会研究報告ハイパフォーマンスコンピューティング(HPC)

      巻: 2019-HPC-170(22) ページ: -

  • [雑誌論文] OpenCL対応FPGA間通信機能によるGPU・FPGA複合型演算加速2019

    • 著者名/発表者名
      小林諒平, 藤田典久, 山口佳樹, 中道安祐未, 朴 泰祐
    • 雑誌名

      情報処理学会研究報告ハイパフォーマンスコンピューティング(HPC)

      巻: 2019-HPC-170(5) ページ: 1-9

  • [雑誌論文] Hybrid Network Utilization for Efficient Communication in a Tightly Coupled FPGA Cluster2019

    • 著者名/発表者名
      Tomohiro Ueno, Takaaki Miyajima, Antoniette Mondigo, Kentaro Sano
    • 雑誌名

      Proceedings of 2019 International Conference on Field-Programmable Technology (FPT)

      巻: - ページ: 363-366

    • 査読あり
  • [雑誌論文] Scaling performance for N-Body Stream Computation with a ring of FPGAs2019

    • 著者名/発表者名
      Jens Huthmann, Shin Abiko, Artur Podobas, Kentaro Sano and Hiroyuki Takizawa
    • 雑誌名

      Proceedings of the International Symposium on Highly-Efficient Accelerators and Reconfigurable Technologies (HEART)

      巻: - ページ: -

    • 査読あり
  • [雑誌論文] Scalability Analysis of Deeply Pipelined Tsunami Simulation with Multiple FPGAs2019

    • 著者名/発表者名
      Antoniette Mondigo, Tomohiro Ueno, Kentaro Sano, and Hiroyuki Takizawa
    • 雑誌名

      IEICE Transactions on Information and Systems(Special Section on Reconfigurable Systems)

      巻: E102-D(5) ページ: 1029-1036

    • DOI

      https://doi.org/10.1587/transinf.2018RCP0007

    • 査読あり
  • [雑誌論文] RDMAを用いた密結合FPGAクラスタのメモリ間通信性能2019

    • 著者名/発表者名
      上野 知洋, 佐野 健太郎, 土方 康平, 滝沢 寛之
    • 雑誌名

      電子情報通信学会リコンフィギャラブルシステム研究会 信学技法

      巻: 119(18) ページ: 7-10

    • 査読あり
  • [雑誌論文] A High-Level Synthesis Design for a Scalable Hydrodynamic Simulation on OpenCL FPGA Platform2019

    • 著者名/発表者名
      Changdao Du and Yoshiki Yamaguchi
    • 雑誌名

      Proc. of International Symposium on Highly-Efficient Accelerators and Reconfigurable Technologies (HEART2019)

      巻: - ページ: -

    • 査読あり
  • [雑誌論文] FPGA-based SPARQL query acceleration2019

    • 著者名/発表者名
      Mirai Niki, Yoshiki Yamaguchi, and Toshiyuki Amagasa
    • 雑誌名

      Proc. of Asia Pacific Conference on Robot IoT System Development and Platform (APRIS2019)

      巻: - ページ: -

    • 査読あり
  • [雑誌論文] FPGA/Python co-design for lane line detection on a PYNQ-Z1 board2019

    • 著者名/発表者名
      Koki Honda, Kaijie Wei, Hideharu Amano
    • 雑誌名

      2019 IEEE 13th International Symposium on Embedded Multicore/Many-core Systems-on-Chip

      巻: - ページ: 53-60

    • DOI

      DIO 10.1109/MCSoC.2019.0015

    • 査読あり / オープンアクセス
  • [学会発表] OpenCL-Enabled GPU&FPGA Accelerated Computing with Inter-FPGA Communication2020

    • 著者名/発表者名
      Ryohei Kobayashi, Norihisa Fujita, Yoshiki Yamaguchi, Ayumi Nakamichi, Taisuke Boku
    • 学会等名
      IXPUG Workshop HPC Asia 2020
    • 国際学会
  • [学会発表] Data-flow Compiler for Stream Computing Hardware on FPGA2020

    • 著者名/発表者名
      ?サソKentaro Sano
    • 学会等名
      Workshop on Large-scale Parallel Numerical Computing Technology (LSPANC)
    • 国際学会 / 招待講演
  • [学会発表] FPGA-Based Computational Fluid Dynamics Simulation Architecture via High-Level Synthesis Design Method2020

    • 著者名/発表者名
      Changdao Du, Iman Firmansyah and Yoshiki Yamaguchi
    • 学会等名
      International Symposium on Applied Recon?ャ“urable Computting (ARC2020)
    • 国際学会
  • [学会発表] High-Performance Computation of LGCA Fluid Dynamics on an FPGA-based Platform2020

    • 著者名/発表者名
      Changdao Du, Iman Firmansyah, and Yoshiki Yamaguchi
    • 学会等名
      International Conference on Computer and Communication Systems (ICCCS2020)
    • 国際学会
  • [学会発表] Japanese Supercomputer Development and Hybrid Accelerated Supercomputing2019

    • 著者名/発表者名
      Taisuke Boku
    • 学会等名
      HPCI-AI Advisory Council Meeting, Perth 2019
    • 国際学会 / 招待講演
  • [学会発表] Next Generation Accelerated Supercomputing: Cygnus System at University of Tsukuba2019

    • 著者名/発表者名
      Taisuke Boku
    • 学会等名
      AHeDD2019/IPAB2019, Kawasaki
    • 国際学会 / 招待講演
  • [学会発表] Parallel Processing on FPGA Combining Computation and Communication in OpenCL Programming2019

    • 著者名/発表者名
      Norihisa Fujita, Ryohei Kobayashi, Yoshiki Yamaguchi and Taisuke Boku
    • 学会等名
      AsHES2019 (Int. Workshop on Acceleraors and Hybrid Exascale Systems)
    • 国際学会
  • [学会発表] GPU-FPGA Heterogeneous Computing with OpenCL-enabled Direct Memory Access2019

    • 著者名/発表者名
      Ryohei Kobayashi, Norihisa Fujita, Yoshiki Yamaguchi, Ayumi Nakamichi and Taisuke Boku
    • 学会等名
      AsHES2019 (Int. Workshop on Acceleraors and Hybrid Exascale Systems)
    • 国際学会
  • [学会発表] GPU・FPGA複合演算加速による輻射流体シミュレーションコードARGOTの実装2019

    • 著者名/発表者名
      中道安祐未, 藤田典久, 小林諒平, 朴泰祐, 吉川耕司, 梅村雅之
    • 学会等名
      情報処理学会研究報告ハイパフォーマンスコンピューティング(HPC)
  • [学会発表] OpenCL対応FPGA間通信機能によるGPU・FPGA複合型演算加速2019

    • 著者名/発表者名
      小林諒平, 藤田典久, 山口佳樹, 中道安祐未, 朴 泰祐
    • 学会等名
      情報処理学会研究報告ハイパフォーマンスコンピューティング(HPC)
  • [学会発表] Networks of FPGA Cluster with High Flexibility of Resource Allocation2019

    • 著者名/発表者名
      Kentaro Sano
    • 学会等名
      SC19 Booth talk of University of Tsukuba
    • 国際学会 / 招待講演
  • [学会発表] May Pipelining Be with You2019

    • 著者名/発表者名
      Kentaro Sano
    • 学会等名
      SC19 Panel:Reconfigurable Computing in HPC: Success Stories Today and Future?
    • 国際学会 / 招待講演
  • [学会発表] FPGA Cluster as Off-loading Engine for Existing Machines2019

    • 著者名/発表者名
      Kentaro Sano
    • 学会等名
      SC19 BOF:Reconfigurable/FPGA Clusters for High Performance Computing
    • 国際学会 / 招待講演
  • [学会発表] 柔軟な資源割当てを可能とするFPGAクラスタシステムとそのネットワーク2019

    • 著者名/発表者名
      佐野 健太郎
    • 学会等名
      第12回FPGAエクストリームコンピューティング (FPGAX12)
    • 招待講演
  • [学会発表] High-Performance Custom Computing with FPGA Cluster as Off-loading Engine for Supercomputers2019

    • 著者名/発表者名
      Kentaro Sano
    • 学会等名
      11th International Symposium on Discovery, Fusion, Creation of New Knowledge by Multidisciplinary Computational Sciences
    • 国際学会 / 招待講演
  • [学会発表] FPGAを用いたカスタムコンピューティングと高性能計算の将来2019

    • 著者名/発表者名
      佐野 健太郎
    • 学会等名
      第12回総合科学を考えるセミナー(東北大学)
    • 招待講演
  • [学会発表] FPGA Cluster as Off-loading Engine for Supercomputers2019

    • 著者名/発表者名
      Kentaro Sano
    • 学会等名
      1st International Workshop on Reconfigurable High-Performance Computing (ReHPC), in conjunction with FPL
    • 国際学会 / 招待講演
  • [学会発表] FPGA Cluster as Custom Computing Engine for Supercomputers2019

    • 著者名/発表者名
      Kentaro Sano
    • 学会等名
      5th workshop on Programming Abstractions for Data Locality (PADAL)
    • 国際学会 / 招待講演
  • [学会発表] FPGA-based High-Performance Custom Computing based Dataflow Approach2019

    • 著者名/発表者名
      Kentaro Sano
    • 学会等名
      Workshop on Post Moore's Law HPC Computing in conjunction with ISC'19
    • 国際学会 / 招待講演
  • [学会発表] Stratix10 FPGA Cluster as Off-loaded Custom Computing Engine for Supercomputers2019

    • 著者名/発表者名
      Kentaro Sano
    • 学会等名
      Workshop of Intel eXtreme Performance Users Group (IXPUG) in conjunction with ISC'19
    • 国際学会 / 招待講演
  • [学会発表] Scaling performance for N-Body Stream Computation with a ring of FPGAs2019

    • 著者名/発表者名
      Jens Huthmann
    • 学会等名
      International Symposium on Highly-Efficient Accelerators and Reconfigurable Technologies (HEART)
    • 国際学会
  • [学会発表] A High-Level Synthesis Design for a Scalable Hydrodynamic Simulation on OpenCL FPGA Platform2019

    • 著者名/発表者名
      Changdao Du and Yoshiki Yamaguchi
    • 学会等名
      International Symposium on Highly-Efficient Accelerators and Reconfigurable Technologies (HEART2019)
    • 国際学会
  • [学会発表] FPGA-based SPARQL query acceleration2019

    • 著者名/発表者名
      Mirai Niki, Yoshiki Yamaguchi, and Toshiyuki Amagasa
    • 学会等名
      Asia Pacific Conference on Robot IoT System Development and Platform (APRIS2019)
    • 国際学会
  • [学会発表] An ARM-based heterogeneous FPGA accelerator for hall thruster simulation2019

    • 著者名/発表者名
      Hiroyuki Noda
    • 学会等名
      International Symposium on Highly-Efficient Accelerators and Reconfigurable Technologies
    • 国際学会
  • [学会発表] Implementation of ART algorithm with Xilinx SDAccel2019

    • 著者名/発表者名
      Yasuaki Okamoto
    • 学会等名
      CoolChips22
    • 国際学会
  • [学会発表] FPGA SoC implementation of a subroutine for Hall Thruster Simulation in OpenCL2019

    • 著者名/発表者名
      Manfred Orsztynowicz
    • 学会等名
      CoolChips 22
    • 国際学会
  • [学会発表] Xilinx SDAccelによるART法の高速化2019

    • 著者名/発表者名
      岡本泰明
    • 学会等名
      電子情報通信学会コンピュータシステム研究会
  • [学会発表] 宇宙物理アプリケーションのための FPGA 演算オフロー ディングの検討2019

    • 著者名/発表者名
      塙 敏博、三木 洋平
    • 学会等名
      情報処理学会第172回HPC研究会
  • [学会発表] Reconfigurable/FPGA Cluster for HPC2019

    • 著者名/発表者名
      Taisuke Boku
    • 学会等名
      SC19 BOF:Reconfigurable/FPGA Clusters for High Performance Computing
    • 国際学会 / 招待講演

URL: 

公開日: 2021-01-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi