2022 Fiscal Year Annual Research Report
Fairness-aware Machine Learing Based on the Modification of Causal Graphs
| Project/Area Number |
21H03504
|
|---|
| Allocation Type | Single-year Grants |
|---|
| Research Institution | National Institute of Advanced Industrial Science and Technology |
|---|
Principal Investigator |
神嶌 敏弘 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (50356820)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
馬場 雪乃 東京大学, 大学院総合文化研究科, 准教授 (40711453)
黒木 学 横浜国立大学, 大学院工学研究院, 教授 (60334512)
|
|---|
| Project Period (FY) |
2021-04-01 – 2025-03-31
|
| Keywords | 機械学習 / 公平性 / AI倫理 |
|---|
| Outline of Annual Research Achievements |
本研究は，公平性配慮型データマイニングという機械学習分野の中でも新しい分野の研究である．この研究分野が生じた背景について述べておく．データマイニング技術の普及に伴い，与信・採用・入試など，個人の生活に大きな影響を及ぼす分野に適用されるようになった．それに伴い，人種や性別といった情報が決定に影響してしまう事例が散見されるようになった．
そこで，公平な決定が得られるように，人種や性別などの情報が，与信や採用などの決定に影響を及ぼさないように，因果グラフで表されたモデルの確率表を書き換える介入を行う方法を検討する．さらに，この介入による因果モデルの修正を，クラウドソーシングを通じて，アイテムに対する試行が，他のアイテムや認知バイアスに影響される状況や，複数の因子の影響を受ける錯視図形に対する応答に関するデータを収集することで実験的に実証もする．
2022年度は，因果モデルの理論面についての検討を行い，査読付き国際会議などに採録された．その他，推薦における倫理問題を扱う国際ワークショップを組織し，また国内において機械学習の公平性に関する技術情報の講演を行った．
なお，本研究の元になった科研費 基盤(C) 24500194 の発表が，10年前に同じ学会で発表された研究の中で最も引用された文献に贈られる ECMLPKDD2022 Test of Time Award を受賞した．同様の賞は各種の機械学習会議に設定されているが，機械学習の分野では日本から初めての受賞である．
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
2022年度は，因果モデルの理論面についての検討で進展があった．一方で，実験データの取得や，学会への調査参加などは，新型コロナなどの影響によって進展が遅れている．
|
| Strategy for Future Research Activity |
2023年度は，引き続き因果モデルの理論面についての検討を行う．それと同時に，実験の計画を具体化し，データ取得を実施する．
|
