• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Dynamic task scheduling strategies for deep memory hierarchies in the future

Research Project

Project/Area Number 22KJ0677
Project/Area Number (Other) 21J22305 (2021-2022)
Research Category

Grant-in-Aid for JSPS Fellows

Allocation TypeMulti-year Fund (2023)
Single-year Grants (2021-2022)
Section国内
Review Section Basic Section 60090:High performance computing-related
Research InstitutionThe University of Tokyo

Principal Investigator

椎名 峻平  東京大学, 情報理工学系研究科, 特別研究員(DC1)

Project Period (FY) 2023-03-08 – 2024-03-31
Project Status Completed (Fiscal Year 2023)
Budget Amount *help
¥2,200,000 (Direct Cost: ¥2,200,000)
Fiscal Year 2023: ¥700,000 (Direct Cost: ¥700,000)
Fiscal Year 2022: ¥700,000 (Direct Cost: ¥700,000)
Fiscal Year 2021: ¥800,000 (Direct Cost: ¥800,000)
Keywordsタスク並列 / タスクスケジューリング / ワークスティーリング / 並列分散処理 / PGAS / 並列プログラミング / 局所性 / マルチスレッディング / タスク並列処理 / 動的負荷分散 / 大域アドレス空間 / 高性能計算
Outline of Research at the Start

動的で複雑な並列性を持つアルゴリズムの負荷分散をプログラマが自ら記述することは難しく、処理系のレベルで自動的なスケジューリングを行うことが望ましい。しかし、既存のタスクスケジューラは現代の深いメモリ階層を持つ計算機においてあまり効率的でなく、本研究では新しいタスクスケジューラAlmost Deterministic Work Stealing (ADWS)を提案する。これによって、深いメモリ階層および複数計算機をまたいだ効率の良いスケジューリングが可能になる。

Outline of Annual Research Achievements

本研究課題では、深いメモリ階層向けの動的タスクスケジューリング手法であるAlmost Deterministic Work Stealing (ADWS)について研究を行った。まず、従来のADWSには共有キャッシュミス数を削減できる余地が存在し、共有キャッシュサイズを考慮してスケジューリングを行うMulti-Level ADWSを提案することでこの問題を解決した。この成果は国際ジャーナルIEEE TPDSに採録された。

次のステップとして、当初の計画からは外れるものの、ADWSを大規模な分散メモリ計算機上で動作させることでADWSのさらなるスケーラビリティを実証することを優先し、タスク並列処理を効率的に分散メモリ上で動作させるタスク並列処理系の研究を行った。本処理系は分散メモリに対し共有メモリのビューを与える区分化大域アドレス空間(PGAS)上で動的にタスクをスケジューリングするもので、ソフトウェア的にPGASへのアクセスをローカルメモリにキャッシュすることで通信を効率化している。実装した処理系はItoyoriと命名し、OSSとして公開した。また、Itoyoriの設計、効率化についての論文は高性能計算に関する最高峰の国際会議SC23に採択された。

従来のADWSの実験評価は100コア未満でのスケールであったが、ItoyoriにADWSを実装したことで、最大27,648コアでの良好なスケーラビリティを確認できた。将来の計算機のコア数はより多く、メモリ階層も深くなっていくと想定される中、本成果はADWSが現在から将来に渡って有用な手法であることを裏付けるものである。さらに、ADWSを実装したItoyoriは一般的な分散並列処理を高水準に記述可能であり、高い生産性と性能を両立するHPCプログラミングを可能にすることをN体計算をはじめとする多様なアプリケーションを用いて検証した。

Report

(3 results)
  • 2023 Annual Research Report
  • 2022 Annual Research Report
  • 2021 Annual Research Report
  • Research Products

    (7 results)

All 2023 2022 Other

All Journal Article (1 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (4 results) (of which Int'l Joint Research: 2 results) Remarks (2 results)

  • [Journal Article] Improving Cache Utilization of Nested Parallel Programs by Almost Deterministic Work Stealing2022

    • Author(s)
      Shumpei Shiina and Kenjiro Taura
    • Journal Title

      IEEE Transactions on Parallel and Distributed Systems (TPDS)

      Volume: 33 (12) Issue: 12 Pages: 4530-4546

    • DOI

      10.1109/tpds.2022.3196192

    • Related Report
      2022 Annual Research Report
    • Peer Reviewed / Open Access
  • [Presentation] 分散タスク並列処理系Itoyoriにおける局所性に配慮した大域アドレス空間およびスケジューリング2023

    • Author(s)
      椎名 峻平,田浦 健次朗
    • Organizer
      並列/分散/協調処理に関するサマー・ワークショップ (SWoPP 2023), 第190回HPC研究会
    • Related Report
      2023 Annual Research Report
  • [Presentation] Itoyori: Reconciling Global Address Space and Global Fork-Join Task Parallelism2023

    • Author(s)
      Shumpei Shiina, Kenjiro Taura
    • Organizer
      The International Conference for High Performance Computing, Networking, Storage, and Analysis (SC '23)
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Distributed Continuation Stealing is More Scalable than You Might Think2022

    • Author(s)
      Shumpei Shiina and Kenjiro Taura
    • Organizer
      IEEE International Conference on Cluster Computing (Cluster '22)
    • Related Report
      2022 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 分散ワークスティーリングと協調するキャッシュ機構を備えたPGAS処理系2022

    • Author(s)
      椎名 峻平,田浦 健次朗
    • Organizer
      並列/分散/協調処理に関するサマー・ワークショップ (SWoPP 2022), 第185回HPC研究会
    • Related Report
      2022 Annual Research Report
  • [Remarks] Itoyori Documentation

    • URL

      https://itoyori.github.io

    • Related Report
      2023 Annual Research Report
  • [Remarks] Itoyori (GitHub)

    • URL

      https://github.com/itoyori/itoyori

    • Related Report
      2023 Annual Research Report

URL: 

Published: 2021-05-27   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi