2021 Fiscal Year Research-status Report
人工知能利用に伴うプライバシリスクの評価手法の開発
| Project/Area Number |
17K12696
|
|---|
| Research Institution | Institute of Physical and Chemical Research |
|---|
Principal Investigator |
荒井 ひろみ 国立研究開発法人理化学研究所, 革新知能統合研究センター, ユニットリーダー (20631782)
|
|---|
| Project Period (FY) |
2017-04-01 – 2023-03-31
|
| Keywords | プライバシー保護 / 情報セキュリティ |
|---|
| Outline of Annual Research Achievements |
本研究課題は個人に関する秘匿性の高いデータの取得及び利用におけるデータのプライバシーリスク評価を目的としている．令和３年度はパーソナルデータの取得及び利用におけるデータのプライバシーについて考察するために，パーソナルデータ利用の実態について調査を実施した．またプライバシーリスクの特徴の評価のために学習データの偏りの影響について検討した．パーソナルデータを用いたAIについて公平性の問題がある．これはデータ提供者の人種や性別などのセンシティブ特徴の値に依存してAIによる判断の結果が異なり，ある属性値を持つ人に対してAIの判断が不利になるような場合を扱う．パーソナルデータ から学習するアプリケーションとして生体認証を取り上げる．生体認証において犯罪捜査は主要な適用先の一つであるが，例えばウォッチリストが不均等であると，特定のグループに属する人物が候補として多く出力されるような報告がある．このような精度の不均衡は学習データのプライバシーにも影響すると考えられる．そこで表現学習に基づく汎用的な顔認証システムを取り上げ，まずシステムの精度の公平性の評価方法を検討した．学習データがセンシティブ属性ごとのサブグループのサンプル数に偏りがある場合を想定して顔照合・識別を含む顔認証システムのシナリオを整理し，顔認証システムの公平性評価として誤受理率や誤受入識別率のグループごとの差を指標とした．顔画像データを用いて指標を評価・比較し，学習データの偏りが顔特徴抽出機および顔照合・識別精度に影響を与えることを確認した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
実社会データを用いたプライバシリスク評価に向け実際のパーソナルデータ利用の例を検討した．AIの公平性に着目し，データの偏りが学習結果に与える影響について検討した結果を国内研究会で発表した．
|
| Strategy for Future Research Activity |
これまでのプライバシーリスク研究を発展させ，学習データの偏りなどの特徴と関連したプライバシーリスクの評価研究を実施する計画である。
|
| Causes of Carryover |
新型コロナウイルス感染症の影響により計画していた旅費を使用しなかったため，計算機環境やデータ作成に転用し有効活用する計画である．
|
