Statistical Security of Machine Learning

2019 Fiscal Year Final Research Report

• Project/Area Number: 16H02864
• Research Category: Grant-in-Aid for Scientific Research (B)
• Allocation Type: Single-year Grants
• Section: 一般
• Research Field: Intelligent informatics
• Research Institution: University of Tsukuba
• Principal Investigator: Sakuma Jun 筑波大学, システム情報系, 教授 (90376963)
• Co-Investigator(Kenkyū-buntansha): 日野 英逸 統計数理研究所, モデリング研究系, 准教授 (10580079) ; 神嶌 敏弘 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (50356820) ; 兼村 厚範 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 招聘研究員 (50580297) ; 松田 隆宏 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (60709492) ; 村上 隆夫 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (80587981)
• Project Period (FY): 2016-04-01 – 2019-03-31
• Keywords: 機械学習 / 人工知能 / セキュリティ / プライバシー / 公平性

Outline of Final Research Achievements

Based on differential privacy/local differential privacy, the de facto standard for statistical safety, we worked on the establishment of a statistical privacy definition of data/model/prediction publication in machine learning and its protection methods. We also construct a cryptographically secure statistical analysis method using highly-functional cryptography, which has been developed in cryptology.In many of our studies, theoretical assurance of its security was shown. Also, its usefulness was demonstrated using real data such as personal genome and location data.

Free Research Field

機械学習

Academic Significance and Societal Importance of the Research Achievements

統計解析や機械学習を実現するためには、個人からプライバシー情報を集めたり、そのような情報を使って解析した結果を公開する必要がある。また機械学習の予測事態が不公平な決定をする可能性がある。このような問題を統計理論および暗号理論の技術を用いて解決する方法を複数提案した。