Next-Generation Memory Management for Heterogeneous Memory Systems

• Project/Area Number: 19K20232
• Research Category: Grant-in-Aid for Early-Career Scientists
• Allocation Type: Multi-year Fund
• Review Section: Basic Section 60040:Computer system-related
• Research Institution: Tohoku University
• Principal Investigator: Sato Masayuki 東北大学, 情報科学研究科, 准教授 (50781308)
• Project Period (FY): 2019-04-01 – 2024-03-31
• Project Status: Completed (Fiscal Year 2023)
• Budget Amount: ¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000); Fiscal Year 2022: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000); Fiscal Year 2021: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000); Fiscal Year 2020: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000); Fiscal Year 2019: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
• Keywords: Memory / Metadata / Prefetch / メモリシステム / ニア・ファーメモリ / 複合型メインメモリ / メタデータ / プリフェッチ / 性能 / 消費電力 / データ管理 / アクセスパターン / 低消費電力 / 高性能 / 積層メモリ / データ置換

Outline of Research at the Start

大容量かつ高性能な次世代メモリシステムを実現するものとして，高バンド幅積層メモリモジュールと大容量外部メモリモジュールを併用した複合型メインメモリが注目されている．一方，各モジュールに分けて保存されるデータをアプリケーションの実行状況に合わせてどう管理するかが実現に向けた重要な課題である．そこで，複合型メインメモリに必要となる高効率なメモリ管理方式の実現を本研究の目的とし，搭載された各メモリモジュールの性能をアプリケーションの高効率実行のために最大限引き出せるような要素技術の検討を行う．これにより，次世代の複合型メインメモリの実現に向けて必要となる要件を明らかにする．

Outline of Final Research Achievements

This project investigates next-generation memory management methods for hybrid memory architectures (HMAs). The project has analyzed the memory access of applications and has unveiled the characteristics of the access patterns to metadata on HMAs. Based on these results, this project has proposed a prefetch mechanism that hides the access latency to metadata for HMAs. Moreover, the project clarified that it is possible to improve the performance by eliminating duplicated requests that access the same metadata.

Academic Significance and Societal Importance of the Research Achievements

ビッグデータやAI等の処理の増加によって，計算機システムに対するメモリの大容量化への要求が今後ますます強くなることが予想される．また，データセンターへの計算機資源の集約のためにディスアグリゲートメモリ等が採用されることにより，一つのプロセッサが異なる性能特性を持つ複数のメモリにアクセスするようなケースが増加すると考えられる．本研究の成果によって得られた複合型メインメモリに関する知見が，これらの状況への対応策として貢献できると考える．

Research Products

• [Journal Article] クラスタ型 アーキテクチャのメモリ性能特性に関する一検討 (2023)
  • Author(s): 佐藤 雅之, 小松 一彦, 小林 広明
  • Journal Title: 情報処理学会論文誌コンピューティングシステム Volume: 16
  • Peer Reviewed
• [Journal Article] Page-Address Coalescing of Vector Gather Instructions for Efficient Address Translation (2022)
  • Author(s): Hikaru Takayashiki, Masayuki Sato, Kazuhiko Komatsu, Hiroaki Kobayashi
  • Journal Title: In Proceedings of 12th Workshop on Irregular Applications: Architectures and Algorithms Volume: － Pages: 1-8
  • DOI: 10.1109/ia356718.2022.00007
  • Peer Reviewed
• [Journal Article] An Energy-aware Dynamic Data Allocation Mechanism for Many-Channel Memory Systems (2019)
  • Author(s): Masayuki Sato, Takuya Toyoshima, Hikaru Takayashiki, Ryusuke Egawa, Hiroaki Kobayashi
  • Journal Title: Journal of Supercomputing Frontiers and Innovations Volume: Vol.6, No.4 Issue: 4 Pages: 4-19
  • DOI: 10.14529/jsfi190401
  • Peer Reviewed / Open Access
• [Presentation] ベクトルプロセッサの消費電力推定, (2022)
  • Author(s): 橋口航弥, 佐藤雅之, 小松一彦, 小林広明
  • Organizer: LSIとシステムのワークショップ
• [Presentation] A Metadata Prefetching Mechanism for Hybrid Memory Architectures (2021)
  • Author(s): Shunsuke Tsukada, Hikaru Takayashiki, Masayuki Sato, Kazuhiko Komatsu, Hiroaki Kobayashi
  • Organizer: IEEE Symposium in Low-Power and High-Speed Chips and Systems (COOL CHIPS)
  • Int'l Joint Research
• [Presentation] Metadata Management for Large-Scale Hybrid Memory Architectures (2020)
  • Author(s): Shunsuke Tsukada, Masayuki Sato Kazuhiko Komatsu, Hiroaki Kobayashi
  • Organizer: ISC High Performance
  • Int'l Joint Research
• [Presentation] 複合型メインメモリのメタデータ管理のためのデータアクセス解析 (2020)
  • Author(s): 塚田 竣介, 佐藤 雅之, 高屋敷 光, 小松 一彦, 小林 広明
  • Organizer: 並列/分散/協調処理に関する「福井」サマー・ワークショップ(SWoPP2020)
• [Presentation] 複合型メインメモリのためのメタデータ管理手法に関する一考察 (2020)
  • Author(s): 塚田 竣介, 佐藤 雅之, 小松 一彦, 小林 広明
  • Organizer: 電子情報通信学会総合大会