2020 Fiscal Year Research-status Report
Secure and Efficient Machine Learning Frameworks through Homomorphic Secure Protocols
| Project/Area Number |
20K19799
|
|---|
| Research Institution | Kyoto University |
|---|
Principal Investigator |
Bian Song 京都大学, 情報学研究科, 助教 (00866030)
|
|---|
| Project Period (FY) |
2020-04-01 – 2022-03-31
|
| Keywords | 安全計算 / AIセキュリティ / ニューラルネットワーク / 準同型暗号 |
|---|
| Outline of Annual Research Achievements |
本研究の研究成果としては、当初の計画に従い、研究課題である「準同型セキュアプロトコルに基づく安全かつ効率的な機械学習手法に関する研究」にむけて、ハードウェア、プロトコル並びにアプリケーションの三つの層において成果をそれぞれ挙げることができた。まず、アプリケーション層においては、三次元の心臓CT画像に対し、暗号化したままニューラルネットワークを用いて画像分割をを行うプロトコルを提案し、精度を保った状態でニューラルネットワークのアーキテクチャを調整し、セキュアプロトコルの計算速度を最大14倍向上させることができた。プロトコルレイヤでは、暗号学とハードウェアセキュリティプリミティブの両方を用いるハイブリッドプロトコルを検討し、心臓CTの計算効率をさらに25倍向上させることができ、一枚の三次元の心臓CTを120秒ほどの時間で、暗号化したままの画像分割ができるようになり、実際のアプリケーションで運用可能なレベルになったといえる。最後にハードウェアレイヤでは、安全計算プリミティブの一つであるRLWE暗号のGPU実装を行い、より計算時間お削減できるハードウェアアーキテクチャのパラメータを自動的にチューニングできるフレームワークをオープンソースで提供した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究は、基本演算、プロトコル、アプリケーションの三つの層に分けて研究を進めており、それぞれのレイヤで以下の成果を挙げた。
まず、アプリケーション層では、実際の医療機関で研究されているニューラルネットワークによる心臓の診療に向けて安全計算のプロトコルを設計した。アプリケーションで実際要する診療精度を保ったまま、ニューラルネットワークアーキテクチャを調整した結果、既存研究より14倍ほど計算速度が上がり、CT一枚当たり3,054秒の計算時間を実現し、医療画像分野のトップ会議であるMICCAI 2020に論文採択された。
プロトコル層では、従来のニューラルネットワークに向けた安全推論プロトコルは、暗号学プリミティブのみに構築されていたが、信頼した実行環境(Trusted Execution Environment, TEE)と暗号学プリミティブ両方を使いハイブリッドプロトコルを提案し、上記の心臓診療データセットにおいて自己記録を更新し、わずか121秒で一枚の心臓CTの遠隔診療を安全に行えることを示し、関連分野において大きな前進であることを言える。本成果は、ハードウェア設計分野の難関会議であるDAC 2021に論文採択された。他に共同研究を行った論文も人工知能分野の最難関会議の一つとして知られているNeurIPS 2020に採択されるなどの実績を挙げた。
ハードウェア層では、如何に効率的にハードウェアを用いて、安全計算で広く用いられる格子暗号に関わる計算が行えるかを検討し、GPU上で自動的に最適パラメータを見つけ出すパラメータチューニングフレームワークを開発し、回路とシステム分野の最大級の会議であるISCAS 2021に論文採択され、本研究の成果をオープンソース化した。
|
| Strategy for Future Research Activity |
今後は引き続き、アプリケーション、プロトコルとハードウェアの三層で、安全な機械学習サービスに向けた安全計算プロトコルの設計方法論を考え、こういったプロトコルの計算効率の抜本的な向上に向けて研究を進める予定である。
まず、アプリケーション層では、ニューラルネットワークのモデル安全性を考える。具体的にニューラルネットワークのどの部分をどう保護すれば、安全な機械学習サービスが保証できるのかを、実践と理論の両方のアプローチで検討する。従来では、ニューラルネットワークのアーキテクチャパラメータを公開しても、モデルが盗まれることはないと考えられてきた。ただ、具体的にどのパラメータをどう公開することにより、モデルの安全性がどのぐらい劣化し、その一方計算効率はどのぐらい向上するのかに関する研究を進める予定である。
そして、プロトコルとハードウェア層では、プロトコルとハードウェアのクロスレイヤ設計が効果的であることがわかり、共同設計における方法論をさらに研究していく予定である。具体的には、よりハードウェアで実装しやすい代数的構造を見つけ出すことにより、システム全体の計算効率を向上させるのと、プロトコル層でボトルネックになっている計算に対し適切なハードウェアアクセラレータを設計することにより、安全な機械学習サービスに向けた専用ハードウェアアーキテクチャを創出する。アプリケーション、プロトコルとハードウェアの共同設計により、実際に使える機械学習サービスに向けた研究を推進していく予定である。
|
