連想メモリコンピューティング：大規模言語モデル時代の超高効率AIチップ技術の確立

• 研究課題/領域番号: 24K02918
• 研究種目: 基盤研究(B)
• 配分区分: 基金
• 応募区分: 一般
• 審査区分: 小区分60040:計算機システム関連; 小区分60090:高性能計算関連; 合同審査対象区分:小区分60040:計算機システム関連、小区分60090:高性能計算関連
• 研究機関: 国立研究開発法人産業技術総合研究所
• 研究代表者: 更田 裕司 国立研究開発法人産業技術総合研究所, エレクトロニクス・製造領域, 主任研究員 (30587423)
• 研究期間 (年度): 2024-04-01 – 2028-03-31
• 研究課題ステータス: 交付 (2024年度)
• 配分額: 18,330千円 (直接経費: 14,100千円、間接経費: 4,230千円); 2027年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円); 2026年度: 6,370千円 (直接経費: 4,900千円、間接経費: 1,470千円); 2025年度: 6,370千円 (直接経費: 4,900千円、間接経費: 1,470千円); 2024年度: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
• キーワード: 連想メモリ / 深層学習 / ニューラルネットワーク / FPGA / 大規模言語モデル

研究開始時の研究の概要

近年の人口知能(AI)の技術革新は目覚ましく、特に自然言語処理用AIである大規模言語モデル(LLM)に注目が集まっている。しかし、LLMは計算量が多く、その電力消費が大きな課題となっている。AI処理の大半は積和算で構成され、従来のAI処理向け専用チップ(AIチップ)では積和算の効率化に主眼が置かれている。本研究では、連想メモリを使用することで積和算をメモリ読み出しに置き換え、高効率のAI処理を実現する新しいAIチップ技術＜連想メモリコンピューティング＞を提案する。そして本技術をLLMなどの実用的なAIタスクに適用する為のアルゴリズム・回路技術を確立し、FPGAを用いてその有効性を実証する。