Fairness-aware Machine Learing Based on the Modification of Causal Graphs
| Project/Area Number |
23K21700
|
|---|
| Project/Area Number (Other) |
21H03504 (2021-2023)
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (B)
|
| Allocation Type | Multi-year Fund (2024)
Single-year Grants (2021-2023) |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 61030:Intelligent informatics-related
|
|---|
| Research Institution | Yokohama National University (2024)
National Institute of Advanced Industrial Science and Technology (2021-2023) |
|---|
Principal Investigator |
神嶌 敏弘 横浜国立大学, 大学院工学研究院, 非常勤教員 (50356820)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
馬場 雪乃 東京大学, 大学院総合文化研究科, 准教授 (40711453)
黒木 学 横浜国立大学, 大学院工学研究院, 教授 (60334512)
|
|---|
| Project Period (FY) |
2021-04-01 – 2025-03-31
|
| Project Status |
Granted (Fiscal Year 2024)
|
| Budget Amount *help |
¥14,950,000 (Direct Cost: ¥11,500,000、Indirect Cost: ¥3,450,000)
Fiscal Year 2024: ¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2023: ¥3,640,000 (Direct Cost: ¥2,800,000、Indirect Cost: ¥840,000)
Fiscal Year 2022: ¥3,640,000 (Direct Cost: ¥2,800,000、Indirect Cost: ¥840,000)
Fiscal Year 2021: ¥3,510,000 (Direct Cost: ¥2,700,000、Indirect Cost: ¥810,000)
|
|---|
| Keywords | 機械学習 / AI倫理 / 公平性 / 因果推論 / データマイニング |
|---|
| Outline of Research at the Start |
その結果の公平性を保ちつつ予測を行う公平性配慮型機械学習の手法開発とその検証を行う．公平性の条件を満たすように，データや学習結果を修正する方法が現状では開発されている．これに対し，因果グラフの条件付き確率表に介入する形で公平性を満たすように予測する手法を開発する．これにより，意思決定環境への柔軟な変化や，より明確な結果の説明が可能になる．また，錯視やセットメニューなど複数の要因が関係する意思決定問題についてクラウドソーシングを用いてデータを集める．このデータで，開発した手法を含めた，各種の公平性配慮型手法の性質を検証する．
|
| Outline of Annual Research Achievements |
本研究は，公平性配慮型データマイニングという機械学習分野の中でも新しい分野の研究である．この研究分野が生じた背景について述べておく．データマイニング技術の普及に伴い，与信・採用・入試など，個人の生活に大きな影響を及ぼす分野に適用されるようになった．それに伴い，人種や性別といった情報が決定に影響してしまう事例が散見されるようになった．
そこで，公平な決定が得られるように，人種や性別などの情報が，与信や採用などの決定に影響を及ぼさないように，因果グラフで表されたモデルの確率表を書き換える介入を行う方法を検討する．さらに，この介入による因果モデルの修正を，クラウドソーシングを通じて，アイテムに対する試行が，他のアイテムや認知バイアスに影響される状況や，複数の因子の影響を受ける錯視図形に対する応答に関するデータを収集することで実験的に実証もする．
2021年度は，因果モデルの理論面についての検討を行い，査読付き国際会議などに採録された．その他，推薦における倫理問題を扱う国際ワークショップを組織し，また国内において機械学習の公平性に関する技術情報の講演を行った．
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
2021年度は，因果モデルの理論面についての検討で進展があった．一方で，実験データの取得や，学会への調査参加などは，新型コロナなどの影響によって進展が遅れている．
|
| Strategy for Future Research Activity |
2022年度は，引き続き因果モデルの理論面についての検討を行う．それと同時に，実験の計画を具体化し，データ取得を実施する．
|
Report
(1 results)
Research Products
(3 results)
