Secure Computing Platform in the AI Era
| Project/Area Number |
21H03442
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (B)
|
| Allocation Type | Single-year Grants |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 60070:Information security-related
|
|---|
| Research Institution | Osaka University |
|---|
Principal Investigator |
小泉 佑揮 大阪大学, 大学院情報科学研究科, 准教授 (50552072)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
栗原 淳 兵庫県立大学, 情報科学研究科, 准教授 (10577399)
大木 哲史 静岡大学, 情報学部, 准教授 (80537407)
|
|---|
| Project Period (FY) |
2021-04-01 – 2024-03-31
|
| Project Status |
Completed (Fiscal Year 2023)
|
| Budget Amount *help |
¥16,900,000 (Direct Cost: ¥13,000,000、Indirect Cost: ¥3,900,000)
Fiscal Year 2023: ¥5,980,000 (Direct Cost: ¥4,600,000、Indirect Cost: ¥1,380,000)
Fiscal Year 2022: ¥6,240,000 (Direct Cost: ¥4,800,000、Indirect Cost: ¥1,440,000)
Fiscal Year 2021: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
|
|---|
| Keywords | 機械学習 / プライバシー / セキュリティー / 連合学習 / コンピューティング / SGX / セキュリティ / 計算プラットフォーム / バックドア攻撃 |
|---|
| Outline of Research at the Start |
本研究は、機械学習に関わるセキュリティーおよびプライバシー上の脅威に対してアドホックに解決するのではなく、種々の脅威を、脅威1) モデルからの情報漏洩、脅威2) 入力データの改竄などの攻撃、脅威3) モデルの改竄の3種類の攻撃の3つに分類して考え、これらの脅威に対して、AI向け分散計算、ノードの安全性検証、モデルの真正性検証などコンピューティングの観点から総合的にアプローチし、AIシステムのための安全な計算プラットフォームを実現することである。
|
| Outline of Annual Research Achievements |
2023年度は、これまでに検討した機械学習のモデルからの情報漏洩を防ぐ分散型AI計算プラットフォームの高度化に向けて研究を進め、予定通りの成果を得た。
具体的には、これまでに開発した連合学習における安全なモデル集約法は、参加者間で交換する情報の交換多く、ブロードキャストチャンネルの利用が不可能である場合には、通信効率が悪いという課題が残っていた。これに対して、集約を中継するサーバーを導入することで、そのサーバーがプロトコルにはしたがいながらもモデルから情報の奪取を試みる脅威であった場合でも、従来の手法と同レベルの安全性を保ったまま、処理の軽量化ができる方法を設計した。さらに、軽量な匿名通信、および、名前解決の匿名化手法と統合することで、より高度な攻撃者に対しても安全性の強度を保つことができることを示した。
さらに、本プロジェクトの知見を新たな連合学習に発展させ、新たな連合学習フレームワークを対象とした研究を進めた。具体的には、小規模な医院と大規模な病院、あるいは、コンビニと携帯電話事業者など、あるサンプルに対して異なる特徴量を持つ新たな連合学習である垂直連合学習を対象にした。中でも2023年に提案された最新の連合学習フレームワークに対して、参加者のデータを再現する情報漏洩攻撃方法の開発した。これは、参加者間でマスクしたまま情報の特徴を共有する知識蒸留手法であり、多くの応用が期待されている。我々は、提案した攻撃法の解析を通して連合学習フレームワークにおける安全性向上のための知見を整理した。
|
| Research Progress Status |
令和5年度が最終年度であるため、記入しない。
|
| Strategy for Future Research Activity |
令和5年度が最終年度であるため、記入しない。
|
Report
(3 results)
Research Products
(25 results)
