2023 Fiscal Year Annual Research Report
Fairness-aware Machine Learing Based on the Modification of Causal Graphs
| Project/Area Number |
21H03504
|
|---|
| Allocation Type | Single-year Grants |
|---|
| Research Institution | National Institute of Advanced Industrial Science and Technology |
|---|
Principal Investigator |
神嶌 敏弘 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (50356820)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
馬場 雪乃 東京大学, 大学院総合文化研究科, 准教授 (40711453)
黒木 学 横浜国立大学, 大学院工学研究院, 教授 (60334512)
|
|---|
| Project Period (FY) |
2021-04-01 – 2025-03-31
|
| Keywords | 機械学習 / 公平性 / AI倫理 |
|---|
| Outline of Annual Research Achievements |
本研究は，公平性配慮型データマイニングという機械学習分野の中でも新しい分野の研究である．この研究分野が生じた背景について述べておく．データマイニング技術の普及に伴い，与信・採用・入試など，個人の生活に大きな影響を及ぼす分野に適用されるようになった．それに伴い，人種や性別といった情報が決定に影響してしまう事例が散見されるようになった．
そこで，公平な決定が得られるように，人種や性別などの情報が，与信や採用などの決定に影響を及ぼさないように，因果グラフで表されたモデルの確率表を書き換える介入を行う方法を検討する．さらに，この介入による因果モデルの修正を，クラウドソーシングを通じて，アイテムに対する試行が，他のアイテムや認知バイアスに影響される状況や，複数の因子の影響を受ける錯視図形に対する応答に関するデータを収集することで実験的に実証もする．
2023年度は，因果モデルの理論面についての検討を行い，査読付き国際会議などに採録された．また，個別に提案されてきた各種の公平性規準を調査し，それらの間の条件の排他性や同値性などの性質を明らかにした．その他，推薦における倫理問題を扱う国際ワークショップを組織し，また国内において機械学習の公平性に関する技術情報の講演を行った．
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
2023年度は，因果モデルの理論面についての検討で進展があった．一方で，実験データの取得は，実験計画を策定する上で理論的な問題が見つかりその検討のため，進展が遅れている．
|
| Strategy for Future Research Activity |
2024年度は，引き続き因果モデルの理論面についての検討を行う．それと同時に，実験の計画を具体化し，データ取得を実施する．
|
