2023 Fiscal Year Annual Research Report
Secure Computing Platform in the AI Era
| Project/Area Number |
21H03442
|
|---|
| Research Institution | Osaka University |
|---|
Principal Investigator |
小泉 佑揮 大阪大学, 大学院情報科学研究科, 准教授 (50552072)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
栗原 淳 兵庫県立大学, 情報科学研究科, 准教授 (10577399)
大木 哲史 静岡大学, 情報学部, 准教授 (80537407)
|
|---|
| Project Period (FY) |
2021-04-01 – 2024-03-31
|
| Keywords | 機械学習 / プライバシー / セキュリティー / 連合学習 |
|---|
| Outline of Annual Research Achievements |
2023年度は、これまでに検討した機械学習のモデルからの情報漏洩を防ぐ分散型AI計算プラットフォームの高度化に向けて研究を進め、予定通りの成果を得た。
具体的には、これまでに開発した連合学習における安全なモデル集約法は、参加者間で交換する情報の交換多く、ブロードキャストチャンネルの利用が不可能である場合には、通信効率が悪いという課題が残っていた。これに対して、集約を中継するサーバーを導入することで、そのサーバーがプロトコルにはしたがいながらもモデルから情報の奪取を試みる脅威であった場合でも、従来の手法と同レベルの安全性を保ったまま、処理の軽量化ができる方法を設計した。さらに、軽量な匿名通信、および、名前解決の匿名化手法と統合することで、より高度な攻撃者に対しても安全性の強度を保つことができることを示した。
さらに、本プロジェクトの知見を新たな連合学習に発展させ、新たな連合学習フレームワークを対象とした研究を進めた。具体的には、小規模な医院と大規模な病院、あるいは、コンビニと携帯電話事業者など、あるサンプルに対して異なる特徴量を持つ新たな連合学習である垂直連合学習を対象にした。中でも2023年に提案された最新の連合学習フレームワークに対して、参加者のデータを再現する情報漏洩攻撃方法の開発した。これは、参加者間でマスクしたまま情報の特徴を共有する知識蒸留手法であり、多くの応用が期待されている。我々は、提案した攻撃法の解析を通して連合学習フレームワークにおける安全性向上のための知見を整理した。
|
| Research Progress Status |
令和5年度が最終年度であるため、記入しない。
|
| Strategy for Future Research Activity |
令和5年度が最終年度であるため、記入しない。
|
