2022 Fiscal Year Annual Research Report
Secure Computing Platform in the AI Era
| Project/Area Number |
21H03442
|
|---|
| Research Institution | Osaka University |
|---|
Principal Investigator |
小泉 佑揮 大阪大学, 大学院情報科学研究科, 准教授 (50552072)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
栗原 淳 兵庫県立大学, 情報科学研究科, 准教授 (10577399)
大木 哲史 静岡大学, 情報学部, 准教授 (80537407)
|
|---|
| Project Period (FY) |
2021-04-01 – 2024-03-31
|
| Keywords | 機械学習 / セキュリティ / プライバシー / 計算プラットフォーム |
|---|
| Outline of Annual Research Achievements |
本年度は、予定通り、機械学習モデルから漏洩するプライバシーの保護を目的としたセキュアなモデルの集約法の高度化と、分散学習における悪意のある通信を遮断するプロトコルの設計に取り組んだ。
機械学習の方法として、これまでと同様にフェデレーテッドラーニングに注目した。フェデレーテッドラーニングは、学習データがユーザーの端末から出ないため、プライバシー保護の観点で有利であるとされているが、モデルインバージョンなどによりモデルから漏洩するプライバシー情報の保護には課題が残る。これに対して、本課題では、モデルに対して乱数でマスクをしつつも、全ユーザーでマスクしたモデルを足し合わせることでマスクが秘密裏に消えるセキュアなモデル集約法で対応した。ただし、この方法は、各ユーザーが更新したマスク付きモデルを他のユーザーと交換するため、通信量が多いという課題が残っていた。これに対して、安全に集約する性質を満たしながら一部をサーバーによる集約に置き換えることで、安全性を担保しながら通信量を削減する手法を設計した。さらに、サーバーによる検証にはGPUの利用を可能にし、これにより、フェデレーテッドラーニングにおけるセキュアな集約のスケーラビリティーを向上させた。さらに、改変したモデルなど、悪意のあるモデルを検出する既存のプロトコルに対しても、この方法を適用することを可能にした。
一方、分散学習を支える通信プロトコルについては、これまでに検討していた軽量な匿名通信プロトコルに加え、匿名性と責任追跡性を両立する手法を設計した。具体的には、ユーザーの匿名性を担保しながらも、過去に悪意のある通信をしたユーザーからの通信を遮断することを可能にするプロトコルを設計した。
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
機械学習から漏洩するプライバシーを保護する分散型アーキテクチャについては、提案書に記載した通りに進んでいる。これに加えて、分散型の計算プラットフォームの基盤となる匿名通信プロトコルとその安全性についての研究も進んでいる。これは、当初提案から発展した内容であり、これらの進捗を鑑みると、当初の予定以上に進んでいると言える。
|
| Strategy for Future Research Activity |
最終年度は、これまでに検討した機械学習のモデルからの情報漏洩を防ぐ分散型AI計算プラットフォームの高度化に向けて研究を進める。
これまでに開発したモデルからの情報漏洩を防ぐ手法を、創薬プラットフォームなどより高度な安全性が要求される分散学習プラットフォームへ適用することを検討する。具体的には、各ユーザーが更新したモデルを、中央集権的なサーバーではなく、個々のユーザーが集約する分散集約型のフェデレーテッドラーニングに対して、これまでに設計した手法を適用する。このときの課題は、分散集約をすると、信頼できないユーザーの存在により、モデルの集約が担保されず、マスクしたモデルが復元されないまま集約されてしまうことである。これに対して、秘密分散と冗長符号化により、マスクに対して多少の冗長性を持たせながら、一部の悪意ある集約の結果を復元できる方法を設計する。
|
