Binary Vision Transformer の専用ハードウェアに関する研究

• 研究課題/領域番号: 24K02912
• 研究種目: 基盤研究(B)
• 配分区分: 基金
• 応募区分: 一般
• 審査区分: 小区分60040:計算機システム関連; 小区分60090:高性能計算関連; 合同審査対象区分:小区分60040:計算機システム関連、小区分60090:高性能計算関連
• 研究機関: 東北大学
• 研究代表者: 中原 啓貴 東北大学, 未踏スケールデータアナリティクスセンター, 教授 (20624414)
• 研究分担者: 神宮司 明良 国立研究開発法人理化学研究所, 計算科学研究センター, 研究員 (90914242)
• 研究期間 (年度): 2024-04-01 – 2029-03-31
• 研究課題ステータス: 交付 (2024年度)
• 配分額: 13,000千円 (直接経費: 10,000千円、間接経費: 3,000千円); 2028年度: 2,080千円 (直接経費: 1,600千円、間接経費: 480千円); 2027年度: 2,080千円 (直接経費: 1,600千円、間接経費: 480千円); 2026年度: 2,080千円 (直接経費: 1,600千円、間接経費: 480千円); 2025年度: 2,080千円 (直接経費: 1,600千円、間接経費: 480千円); 2024年度: 4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円)
• キーワード: Machine Learning / AI / Transformer / FPGA

研究開始時の研究の概要

2020年には画像タスクに適したVision Transformer (ViT)が提案された. ViTは内部パラメータ数が膨大であり，組込み機器に搭載するにはメモリ量が不足するため, パラメータ削減法が求められている. 本研究では焼きなまし法を用いて事前学習分布からBinary ViT (BViT)に適した分布に学習する方法を提案する. 提案するBViT学習では学習中のパラメータ分布の変動を抑えつつ, Binary重みに適した分布に逐次更新する. FPGAを用いてBViT専用ハードウェアのプロトタイプを実現する. GPUと比較して電力を削減しつつ, 高速に推論できる見込みである.