2022 Fiscal Year Research-status Report
Multi-Layer In-Memory Computing and Its Application for GNNs
| Project/Area Number |
22K21284
|
|---|
| Research Institution | Keio University |
|---|
Principal Investigator |
藤木 大地 慶應義塾大学, 理工学部(矢上), 助教 (60963254)
|
|---|
| Project Period (FY) |
2022-08-31 – 2024-03-31
|
| Keywords | インメモリ計算 / PIM / 計算機アーキテクチャ |
|---|
| Outline of Annual Research Achievements |
インメモリ計算という新しい計算技術を用いた計算機の構成法、及び、複雑分散化した計算資源の効率的な活用法に関する研究を行った。インメモリ計算はメモリの物理特性を利用してメモリ内で直接計算を行い、計算機システム上で支配的となっているデータ移動コストを削減する技術であるが、実装されるメモリによってその計算効率は大きく異なり、アプリケーションを効率的にマッピング及びスケジューリングする手法の探索には大きな余地が残っている。ヘテロジーニアスなメモリ内計算資源の活用のため、本研究では、まずどのようなアプリケーションが多層インメモリ計算の恩恵を受けうるかの調査を行った。そのうえで、メモリインテンシブ・計算インテンシブな要求の両方を持つグラフニューラルネットワーク（GNN）及びマルチプログラミングを想定した多層インメモリ計算アーキテクチャの検討した。また、主要となる疎行列積演算カーネルなどについて、どのようにメモリ上で計算を行ったら性能とコストの良いトレードオフが取れるか検討し、その方法を提案した。
研究を進めるうえで、プログラムの入力データの特性によって計算タスクのメモリへの最適マッピングが大きく影響を受けることが明らかになり、コンパイル時に判明するプログラムの特性に加え、入力から素早く特徴を抽出することが求められることが判明した。検討をしているアプリケーションでは、入力が多種多様かつ予測困難であることから、機械学習を使ってオンザフライで入力から期待される性能を事前学習し、入力データのダイナミクスを考慮するスケジューリング手法を検討した。OSなどで一般的に使用されるスケジューリング手法では不十分であり、かつ最適解を求めるにはNP困難な問題を解く必要があるが、提案手法では軽量な機械学習を用いたヒューリスティックを用いることで、十分精度の高いスケジューリングの解を求められることを示した。
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
多層インメモリ計算を実現するための３つの重要課題であるアプリケーションスタディー、アプリケーションマッピング、タスクスケジューリングのそれそれに関する要素技術の開発と、それらの統合は順調に進んでいる。対外的には、国際学会IEEE/ACM International Symposium on Microarchitecture 2022に本研究の結果の一部を報告し、さらに同時に開催されたワークショップでも関連研究者と議論を行った。
|
| Strategy for Future Research Activity |
当初の計画通り研究を進め、多層インメモリ計算の有用性について多面的な検討を行う。さらに、既存の計算機システムとのより良いインテグレーションについて、各種メモリマネジメントシステムとの協調動作についての調査を行う。また、ミシガン大学との国際共同研究を発展させる。CPUにより近いキャッシュについてのインメモリ計算の有効性の検証や、モバイルデバイスなどの幅広いプラットフォームでのアプリケーションスタディ及び性能検証をし、インメモリ計算の汎用性及び多様な形態を想定したインメモリ計算アーキテクチャを追求する。
|
| Causes of Carryover |
コロナウイルス等の情勢により出張費が大幅に上昇したため、費目間流用により物品費から充当した。本年度第四四半期購入予定の物品を次年度に延期し、その端数として次年度使用額が生じた。
|
