2017 Fiscal Year Research-status Report
人工知能利用に伴うプライバシリスクの評価手法の開発
| Project/Area Number |
17K12696
|
|---|
| Research Institution | Institute of Physical and Chemical Research |
|---|
Principal Investigator |
荒井 ひろみ 国立研究開発法人理化学研究所, 革新知能統合研究センター, 研究員 (20631782)
|
|---|
| Project Period (FY) |
2017-04-01 – 2020-03-31
|
| Keywords | プライバシ保護 |
|---|
| Outline of Annual Research Achievements |
個人に関する秘匿性の高いデータの取得及び利用においてデータのプライバシ保護は不可欠である．一方，このようなデータは個別化したデータサービスや医療などのための人工知能技術に頻繁に利用されており，プライバシの問題でデータの利用を妨げないことが望ましい．そのためにプライバシリスクを評価し，高リスクなデータ利用の際にはアクセス制限を行う等の工夫が必要である．これまで機械学習モデルや統計データの開示の際に元のデータを推定されるリスクが指摘されてきた．本研究では様々なデータ加工技術についてこれらのリスクを評価する手法を開発し，データ開示の際のプライバシリスクを明らかにし，プライバシリスクのコントロールに寄与する．
初年度の平成29年度は，次元削減，匿名化およびデータベース問い合わせにおけるプライバシに関する研究開発を実施した．データ加工方式として高次元データの次元削減などと匿名化を組み合わせた場合のプライバシリスクとデータの有用性のトレードオフを検証した．また，データベース問い合わせにおけるプライバシリスクについて，データベースの回答のみを得られる攻撃者を想定した場合にデータベースを保護できるかの検証を機械学習モデルがデータベースの場合に行った．また，データベースの回答にランダム性をもたせた場合の攻撃者のクエリ回数とプライバシ，有用性の関係について，同様にデータベースが機械学習モデルの場合に検証を行った．また，プロファイリングについてプライバシ侵害となるケースを法制度と照らし合わせ検証した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
今年度はプライバシリスク評価のための攻撃モデルの提案およびリスク評価が目標であった．双方において研究進捗があるが，当初の計画にあった実データによる検証が数例にとどまっているため，より多様なデータで引き続き検証実験を行う計画である．
|
| Strategy for Future Research Activity |
今後も研究計画に沿って，引き続き多様なデータ加工下におけるプライバシリスク評価方法の開発および実データによる評価実験を行い，成果の対外発表を目指す．ただし，プライベートデータに対する攻撃はホットトピックであり毎年様々な研究成果が発表されるため，状況に合わせ慎重にプライバシリスク評価を行う．
|
| Causes of Carryover |
やむを得ない理由により計画していた海外出張がかなわず，残額が発生した．未使用額は初年度の計画を後ろ倒しし旅費及び英文構成等の費用に当てる計画である．
|
