Constraint Reasoning for Trustworthy AI

• Project/Area Number: 25K03190
• Research Category: Grant-in-Aid for Scientific Research (B)
• Allocation Type: Multi-year Fund
• Section: 一般
• Review Section: Basic Section 61030:Intelligent informatics-related; Basic Section 60030:Statistical science-related; Sections That Are Subject to Joint Review: Basic Section60030:Statistical science-related , Basic Section61030:Intelligent informatics-related
• Research Institution: National Institute of Informatics
• Principal Investigator: 井上 克巳 国立情報学研究所, 情報学プリンシプル研究系, 特任教授 (10252321)
• Co-Investigator(Kenkyū-buntansha): 清 雄一 電気通信大学, 大学院情報理工学研究科, 教授 (20700157) ; 鍋島 英知 山梨大学, 大学院総合研究部, 准教授 (10334848) ; Phua Yin・Jun 東京科学大学, 情報理工学院, 助教 (20963747)
• Project Period (FY): 2025-04-01 – 2029-03-31
• Project Status: Granted (Fiscal Year 2025)
• Budget Amount: ¥18,720,000 (Direct Cost: ¥14,400,000、Indirect Cost: ¥4,320,000); Fiscal Year 2028: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000); Fiscal Year 2027: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000); Fiscal Year 2026: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000); Fiscal Year 2025: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
• Keywords: 制約 / 推論 / 機械学習 / ニューロシンボリックAI / 信頼できるAI

Outline of Research at the Start

人工知能(AI)技術が急速に進展している現在、信頼されるAIの必要性が論じられている。AIをより信頼可能なものにするためには、解釈可能性、説明可能性、ロバスト性を向上させ、目標・要請・事実を知識や制約として記述できる記号系との融合が必要となる。本研究では、機械学習と知識表現・推論を統合した技術をベースとして、制約を取り入れた機械学習モデルや生成AIシステムを構築することでAIの信頼性向上に寄与することを目指す。本研究を遂行するために、ニューロシンボリックAI・記号AI・制約処理系の各分野における技術を融合し、信頼されるAIのための技術基盤を構築する。