Performance estimation of scientific computing of an extremely large AI accelerator with 850,000 PEs.

Research Project

Project/Area Number	24K14972
Research Category	Grant-in-Aid for Scientific Research (C)
Allocation Type	Multi-year Fund
Section	一般
Review Section	Basic Section 60090:High performance computing-related
Research Institution	Meiji University
Principal Investigator	宮島敬明明治大学, 理工学部, 専任講師 (90770850)
Project Period (FY)	2024-04-01 – 2027-03-31
Project Status	Granted (Fiscal Year 2024)
Budget Amount *help	¥4,550,000 (Direct Cost: ¥3,500,000、Indirect Cost: ¥1,050,000) Fiscal Year 2026: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000) Fiscal Year 2025: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000) Fiscal Year 2024: ¥2,730,000 (Direct Cost: ¥2,100,000、Indirect Cost: ¥630,000)
Keywords	高性能計算 / 科学技術計算 / Cerebras
Outline of Research at the Start	本研究の概要は、2次元メッシュトポロジを持つ85万PEのAIアクセラレータは科学技術計算へ適用可能か？である。Cerebras CS-2は、巨大な1チップに85万個の演算器（PE）を搭載し、PEが簡素な2次元メッシュで接続されたAIアクセラレータである。また、各PEは階層キャッシュや行列演算器を搭載せず構造は非常に単純である。しかし、巨大な2次元メッシュと従来の計算機と異なるプログラミングパラダイムを持つため、世界的にもCS-2の科学技術計算分野の適用可能性の理解は進んでいない。CS-2の性能予測が行えれば、より簡単に科学技術計算分野への適用可能性が理解できると考える。