2019 Fiscal Year Annual Research Report
The development of a fairness-aware data-transformation technique and the validation of its effectiveness through a cloudsoucing environment
| Project/Area Number |
18H03300
|
|---|
| Research Institution | National Institute of Advanced Industrial Science and Technology |
|---|
Principal Investigator |
神嶌 敏弘 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (50356820)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
馬場 雪乃 筑波大学, システム情報系, 准教授 (40711453)
鹿島 久嗣 京都大学, 情報学研究科, 教授 (80545583)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | 公平性 / クラウドソーシング / 機械学習 / データマイニング |
|---|
| Outline of Annual Research Achievements |
本研究は，公平性配慮型データマイニングという機械学習分野の中でも新しい分野の研究である．この研究分野が生じた背景について述べておく．データマイニング技術の普及に伴い，与信・採用・入試など，個人の生活に大きな影響を及ぼす分野に適用されるようになった．それに伴い，人種や性別といった情報が決定に影響してしまう事例が散見されるようになった．
公平な決定結果を得るためには，人種や性別などのセンシティブな情報への依存性を排除するために，これらの特徴とは統計的独立性を保証する制約下で予測結果を計算しなければならない．一方で，予測の効用も重要であり，この制約下で予測精度などの効用を最大にする必要がある．しかし，この予測精度と公平性の為の制約はトレードオフの関係にあり，このトレードオフを改善することが，公平性配慮型データマイニングでは重要な目標である．
2019年度は，認知バイアスの除去を公平性配慮型データマイニングの手法で除去できるかどうかの実験にとりくんだ．寿司の好みを尋ねる質問を題材に，一対比較の形式で利用者から嗜好情報を収集する実験をクラウドソーシング上で行った．収集したデータを分析し，国際会議への投稿を準備中．また，2018年度に続き，確定的決定則の影響を考慮した最適化手法の改良にもとりくんだが，残念ながら国際会議での採録はならなかった
その他，公平性に配慮した機械学習技術の進展のため，国内解説，国際誌でのサーベイ論文執筆や講演などを行った．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
2019年度は，寿司の好みを尋ねる質問を題材に，一対比較の形式で利用者から嗜好情報を収集する実験をクラウドソーシング上で行った．このとき認知バイアスとして，位置バイアスとバンドワゴン効果を取り上げた．位置バイアスは左右や上下の配置によって，バンドワゴン効果は他者の選択を提示することによって，被験者の回答が影響を受けるバイアスである．これらのバイアスが生じるように設計したデータと，無作為化によってこれらのバイアスが生じないようにしたデータを収集した．これらのデータについて分析を行い，国際会議への投稿を準備中である．
|
| Strategy for Future Research Activity |
2020年度は以下の研究を実施する．
(1) 公平性アルゴリズム担当は，(1a) 収集した寿司の一対比較データを分析し，公平性配慮型技術を応用して認知バイアスが除去できるかを検証する (1b) ECMLPKDD2017の Perez-Suay らの既存アルゴリズムや，線形変換を用いた公平性配慮方のデータ変換アルゴリズムの開発・実装に取り込む．(1c) 2018年度より開発中の決定則を明示的に考慮したアルゴリズムの改良に取り組み，国際会議への採録をめざす．
(2) クラウドソーシング担当は (2a) 公平性配慮型アルゴリズムを実験するための，データ収集に取り組む．具体的課題としては，バイアスを除去するアルゴリズム
|
