• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実績報告書

AI時代の安全な計算プラットフォーム

研究課題

研究課題/領域番号 21H03442
研究機関大阪大学

研究代表者

小泉 佑揮  大阪大学, 情報科学研究科, 准教授 (50552072)

研究分担者 栗原 淳  兵庫県立大学, 情報科学研究科, 准教授 (10577399)
大木 哲史  静岡大学, 情報学部, 准教授 (80537407)
研究期間 (年度) 2021-04-01 – 2024-03-31
キーワード機械学習 / コンピューティング / プライバシー / セキュリティ / SGX
研究実績の概要

本年度は、当初予定通り、機械学習モデルから漏洩するプライバシーの保護を目的としたセキュアなモデルの集約法の設計と、入力データへの改竄と処理中のデータ改竄を防ぐ計算ノードを設計した。さらに、当初予定に加えて、分散計算アーキテクチャの基盤となり機械学習のモデル集約の通信を支える匿名通信プロトコルの設計に取り組んだ。
フェデレーテッドラーニングは、ユーザー端末上でユーザ自身の学習データを用いてモデルを更新し、それをサーバーで集約する学習法である。ユーザーは、学習データを自身の端末から出さないために、学習データのプライバシー保護が可能であると期待されている。しかし、モデルインバージョン攻撃により、モデルから学習データが復元できることが指摘されている。これに対して、モデルに対して乱数でマスクをしつつも、全ユーザーでマスクしたモデルを足し合わせることでマスクが秘密裏に消えるセキュアな集約法を設計した。これにより、モデル集約の負荷を向上することなく、モデルインバージョン攻撃を防止した。加えて、分散計算アーキテクチャにおいてリソースを保護した安全な計算を実現するために、その計算リソースの利用認可フレームワークを検討した。
入力データへの改竄と処理中のデータ改竄を防ぐ計算ノードについては、Intel SGXに代表されるセキュアな計算環境上に、セキュアなモデル集約の計算を実装するための安全な計算法を設計した。具体的には、SGXを実装したCPUまでIP secで通信することで、プラットフォームに対してモデルの盗聴を防御することを可能にした。さらに、ブラックボックス型ネットワークへの攻撃への検討を進めた。
さらに、匿名通信プロトコルについては、ネットワーク層において、攻撃者が盗聴したパケットから送信者と受信者の識別子を紐付けることを防ぐプロトコルを設計した。

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

機械学習から漏洩するプライバシーの保護する分散型計算アーキテクチャと入力データへの改竄と処理中のデータ改竄を防ぐ計算ノードについて、当初予定通りに研究が進んでいる。加えて、基盤となるネットワーク上の匿名通信プロトコルの設計も完了した。これを鑑みると、当初の予定以上に進んでいると言える。

今後の研究の推進方策

今後は、機械学習のモデルからの情報漏洩を防ぐ分散型計算アーキテクチャと、入力データへの改竄と処理中のデータ改竄を防ぐ計算ノードの高度化を進める。
分散型計算アーキテクチャについては、今年度に設計したフェデレーテッドラーニングを対象としたモデルの安全な集約法をベースに、安全性の向上を目的とした鍵交換プロトコルの設計、トラヒック削減を目的とした集約法の高度化、および、実用可能性向上を目的とした運用プロトコルを設計する。鍵交換にはディフィー・ヘルマン鍵共有を用いる。集約法については、モデルそのものを交換するのではなく、データ生成のシードを共有する手法を検討する。運用プロトコルについては、モデル集約中にロストする端末の存在を想定し、交換する情報に対して一定の冗長性を持たせる方法を検討する。
続いて、計算ノードの設計については、隔離された実行環境とメモリ環境であるIntel SGX上で、攻撃者から参照できない環境および悪意のあるプログラムを注入できない機械学習計算環境を設計する。今年度の設計をベースに、パフォーマンスの向上を検討する。具体的には、一部のパフォーマンスを有する計算はIntel SGX外で実行する必要があるため、それらのプログラムを安全連結するためのプログラムを、メモリの所有権管理機能を有するRustを用いて実装する。

  • 研究成果

    (7件)

すべて 2022 2021

すべて 学会発表 (7件) (うち国際学会 4件)

  • [学会発表] ブラックボックス型モデル反転攻撃におけるユーザ類似性を考慮した生成モデルの検討2022

    • 著者名/発表者名
      井田 天星, 竹内 廉, ヴォ ゴック コイ グエン, 西垣 正勝, 大木 哲史
    • 学会等名
      暗号と情報セキュリティシンポジウム
  • [学会発表] Resource Authorization Methods for Edge Computing2022

    • 著者名/発表者名
      Ryu Watanabe, Ayumu Kubota, and Jun Kurihara
    • 学会等名
      International Conference on Advanced Information Networking and Applications
    • 国際学会
  • [学会発表] gPHI: Lightweight Anonymity Protocol for Anonymity at Host and AS Levels2022

    • 著者名/発表者名
      Yutaro Yoshinaka, Junji Takemasa, Yuki Koizumi, and Toru Hasegawa
    • 学会等名
      IFIP Networking
    • 国際学会
  • [学会発表] Model Fragmentation, Shuffle and Aggregation to Mitigate Model Inversion in Federated Learning2021

    • 著者名/発表者名
      Hiroki Masuda, Kentaro Kita, Yuki Koizumi, Junji Takemasa, Toru Hasegawa
    • 学会等名
      IEEE International Symposium on Local and Metropolitan Area Networks
    • 国際学会
  • [学会発表] 連合学習における教師データのプライバシー保護のための学習プロトコルの設計に関する一考察2021

    • 著者名/発表者名
      増田 大輝, 北 健太朗, 小泉 佑揮, 武政 淳二, 長谷川 亨
    • 学会等名
      電子情報通信学会ソサイエティ大会講演論文集
  • [学会発表] 連合学習のためのモデル分割,シャッフル,集約によるモデル漏洩の防止に関する一考察2021

    • 著者名/発表者名
      増田 大輝, 北 健太朗, 小泉 佑揮, 武政 淳二, 長谷川 亨
    • 学会等名
      コンピュータセキュリティシンポジウム
  • [学会発表] EXAMINING OF SHALLOW AUTOENCODER ON BLACK-BOX ATTACK AGAINST FACE RECOGNITION2021

    • 著者名/発表者名
      Ngoc Khoi Nguyen Vo, Takamichi Terada, Masakatsu Nishigaki, Tetsushi Ohki
    • 学会等名
      Asia-Pacific Signal and Information Processing Association Annual Summit and Conference
    • 国際学会

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi