2020 Fiscal Year Annual Research Report
The development of a fairness-aware data-transformation technique and the validation of its effectiveness through a cloudsoucing environment
| Project/Area Number |
18H03300
|
|---|
| Research Institution | National Institute of Advanced Industrial Science and Technology |
|---|
Principal Investigator |
神嶌 敏弘 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (50356820)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
馬場 雪乃 筑波大学, システム情報系, 准教授 (40711453)
鹿島 久嗣 京都大学, 情報学研究科, 教授 (80545583)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | 公平性 / 機械学習 / データマイニング |
|---|
| Outline of Annual Research Achievements |
本研究は，公平性配慮型データマイニングという機械学習分野の中でも新しい分野の研究である.この研究分野が生じた背景について述べておく.データマイニ ング技術の普及に伴い，与信・採用・入試など，個人の生活に大きな影響を及ぼす分野に適用されるようになった．
それに伴い，人種や性別といった情報が決定 に影響してしまう事例が散見されるようになった. 公平な決定結果を得るためには，人種や性別などのセンシティブな情報への依存性を排除するために，これらの特徴とは統計的独立性を保証する制約下で予測結果を計算しなければならない．一方で，予測の効用も重要であり，この制約下で予測精度などの効用を最大にする必要がある．しかし，この予測精度と公平性の為の制約はトレードオフの関係にあり，このトレードオフを改善することが，公平性配慮型データマイニングでは重要な目標である．
2020-2021年度は，認知バイアスの除去を公平性配慮型データマイニングの手法で除去できるかどうかの実験に引き続き取り組んだ．寿司の好みを尋ねる質問を題材に，一対比較の形式で利用者から嗜好情報を収集する実験をクラウドソーシング上収集したデータの分析を行った．事前の予測では，認知バイアスの情報を使って層別に分析することで，その影響を除去できると考えていたが，実際に取得したデータではバイアスは十分に除去できなかった．その原因について考察し，予測の安定性といったアイデアを考案し国際ワークショップで発表するなどしたが，現状でもまだその原因を明らかにはできなかった．
その他，公平性に配慮した機械学習技術の進展のため，国内解説，国際ワークショップ運営，チュートリアル講演などを行った.
|
| Research Progress Status |
令和2年度が最終年度であるため、記入しない。
|
| Strategy for Future Research Activity |
令和2年度が最終年度であるため、記入しない。
|
