Counterfactual explanation considering uncertainty in machine learning

• Project/Area Number: 24K17465
• Research Category: Grant-in-Aid for Early-Career Scientists
• Allocation Type: Multi-year Fund
• Review Section: Basic Section 25010:Social systems engineering-related
• Research Institution: Tokyo Institute of Technology
• Principal Investigator: 小林 健 東京工業大学, 工学院, 助教 (90913517)
• Project Period (FY): 2024-04-01 – 2028-03-31
• Project Status: Granted (Fiscal Year 2024)
• Budget Amount: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000); Fiscal Year 2027: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000); Fiscal Year 2026: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000); Fiscal Year 2025: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000); Fiscal Year 2024: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
• Keywords: 反実仮想説明 / 数理最適化 / 機械学習

Outline of Research at the Start

反実仮想説明とは, 予測モデルから望ましい出力を得るために必要な行動 (アクション) をユーザに提示する技術である. ここで予測モデルが運用される現実的な状況下では, 再学習や学習データの傾向変化によってアクション実行中に予測モデルが変化する場合がある. そこで本研究では, 機械学習モデルが不確実性を有する状況でも望ましい出力が得られることを保証する反実仮想説明技術の開発に取り組む.