テンソル連想メモリによる大規模モデル向けPIM-AIフレームワーク

• 研究課題/領域番号: 25K03092
• 研究種目: 基盤研究(B)
• 配分区分: 基金
• 応募区分: 一般
• 審査区分: 小区分60040:計算機システム関連; 小区分60090:高性能計算関連; 合同審査対象区分:小区分60040:計算機システム関連、小区分60090:高性能計算関連
• 研究機関: 東京科学大学
• 研究代表者: 藤木 大地 東京科学大学, 総合研究院, 准教授 (60963254)
• 研究期間 (年度): 2025-04-01 – 2030-03-31
• 研究課題ステータス: 交付 (2025年度)
• 配分額: 18,850千円 (直接経費: 14,500千円、間接経費: 4,350千円); 2029年度: 3,770千円 (直接経費: 2,900千円、間接経費: 870千円); 2028年度: 3,770千円 (直接経費: 2,900千円、間接経費: 870千円); 2027年度: 3,770千円 (直接経費: 2,900千円、間接経費: 870千円); 2026年度: 3,380千円 (直接経費: 2,600千円、間接経費: 780千円); 2025年度: 4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
• キーワード: PIM / 機械学習 / 計算機アーキテクチャ

研究開始時の研究の概要

本研究では、メモリ内計算技術を用いて、特徴量読み出しがボトルネックとなっている大規模モデル推論の効率化を目指す。内部表現や出力特徴量を縮約した形式で保持するテンソル連想メモリを中心とした、新たなPIM-AIアーキテクチャを主軸とするフレームワークを開発し、1桁以上の効率向上を目指す。本フレームワークは、汎用的でGPUや機械学習アクセラレータなどに広く応用可能であり、大規模モデル推論の効率化・グリーン化に幅広く寄与することが期待される。