| 研究課題/領域番号 |
24K17465
|
|---|
| 研究種目 |
若手研究
|
| 配分区分 | 基金 |
|---|
| 審査区分 |
小区分25010:社会システム工学関連
|
|---|
| 研究機関 | 東京科学大学 |
|---|
研究代表者 |
小林 健 東京科学大学, 工学院, 准教授 (90913517)
|
|---|
| 研究期間 (年度) |
2024-04-01 – 2028-03-31
|
| 研究課題ステータス |
交付 (2024年度)
|
| 配分額 *注記 |
4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円)
2027年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2026年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2025年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2024年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
|
|---|
| キーワード | 反実仮想説明 / ロバスト最適化 / 数理最適化 / 機械学習 |
|---|
| 研究開始時の研究の概要 |
反実仮想説明とは, 予測モデルから望ましい出力を得るために必要な行動 (アクション) をユーザに提示する技術である. ここで予測モデルが運用される現実的な状況下では, 再学習や学習データの傾向変化によってアクション実行中に予測モデルが変化する場合がある. そこで本研究では, 機械学習モデルが不確実性を有する状況でも望ましい出力が得られることを保証する反実仮想説明技術の開発に取り組む.
|
| 研究実績の概要 |
重要な意思決定に機械学習が用いられる場面が増えたことに伴い, 予測結果に対する説明を与える反実仮想説明が注目を集めている. 反実仮想説明は, 望ましくない予測結果が出力された際、「入力する特徴量をどのように変えれば望ましい結果が得られるか」を示す手法である.今年度は, 反実仮想説明に関連する研究として以下の研究成果を得た.
1) 特徴量を変化させるにあたって実現可能性の高い変え方を提示する逐次的反実仮想説明法を開発した. 従来手法の多くは, 反実仮想説明として特徴量の変更を表す摂動ベクトルを一つ提示するものであり, 実際にどのような順序で特徴量を変化させればその摂動を実現できるかは明らかでなかった. 本研究では, 特徴量の逐次的な変更を表す摂動ベクトルの系列を提示する手法を提案した. 提案手法は、標本分布からの逸脱度を評価する指標（LOF: Local Outlier Factor）に基づいて、LOFの値が大きくならないよう摂動ベクトルの系列を求める. これにより, 実現可能性の高い特徴量の逐次的な変更方法の提示を可能とした.
2) 反実仮想説明で提示する特徴量の変更には, 実現可能性だけでなく変更に要するコストなど様々な要因があり, ユーザはそれら複数の要因を総合的に考慮して望ましい説明を選択する. このような問題は多目的最適化として定式化できる. 従来の多目的最適化手法では有限個の近似パレート解集合を求めることが一般的だが, 本研究ではパレート解集合全体を表現するパラメトリックな超曲面を最適化する手法を開発した. この手法により, 反実仮想説明で複数の指標を考慮しなければならない場合でも, 望ましい説明の候補を網羅的に提示することが可能となる.
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
当初の目的である 「予測モデルが不確実な状況での望ましい出力が得られる信頼性の高い反実仮想説明法の開発」 に対して, 今年度の成果は予測モデルの不確実性を直接扱うものではない. しかし, 今年度開発したアクションの実行過程に注目した逐次的反実仮想説明法やパレート解集合を網羅的に求める多目的最適化手法は, 予測モデルやユーザの受容性に関する不確実性を考慮した反実仮想説明を求めるための重要な基盤技術になると考えられる. またこれらの研究成果については機械学習分野の国際会議プロシーディングスに採択されている. 以上より, 研究の進捗状況としてはおおむね順調に進展していると判断する.
|
| 今後の研究の推進方策 |
本年度から引き続き, 反実仮想説明の研究を継続する. 具体的には, アクションを実行する過程で予測モデルが再学習される状況において, その更新に適応する適応的反実仮想説明手法の開発に取り組む. また, 説明の受容性はユーザの多様な要因から影響を受けることに着目し, ユーザの属性や選好を考慮した反実仮想説明手法の開発にも取り組む.
|
