多重防御機構を備えたセキュアで騙されないAIエンジンの開発
| Project/Area Number |
19K24357
|
|---|
| Research Category |
Grant-in-Aid for Research Activity Start-up
|
| Allocation Type | Multi-year Fund |
|---|
| Review Section |
1001:Information science, computer engineering, and related fields
|
|---|
| Research Institution | Meijo University |
|---|
Principal Investigator |
野崎 佑典 名城大学, 理工学研究科, 助手 (60847953)
|
|---|
| Project Period (FY) |
2019-08-30 – 2021-03-31
|
| Project Status |
Granted (Fiscal Year 2019)
|
| Budget Amount *help |
¥2,860,000 (Direct Cost: ¥2,200,000、Indirect Cost: ¥660,000)
Fiscal Year 2020: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Fiscal Year 2019: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
|
|---|
| Keywords | AIエンジン / セキュリティ |
|---|
| Outline of Research at the Start |
Society5.0の実現のためにAI技術が注目されている。一方で、AIの社会実装における課題として、AIを使用することの安全性とセキュリティリスクが挙げられている。AIの安全性に関して、AIの誤判断は現実へ与える影響が大きいため、騙されないAIが必要である。AIのセキュリティリスクに関して、AIで利用する学習データには個人情報や企業機密が含まれるだけでなく、モデル生成は豊富な計算資源を必要とするため、モデル情報を保護するためのセキュアなAIが必要である。本研究は、セキュアで騙されないAIを実現するために、AIの内部と外部に着目した防御機構を開発する。
|
| Outline of Annual Research Achievements |
Society5.0の実現のためにArtificial Intelligence（AI）技術が注目されている。一方で、AIの社会実装における課題として、AIを使用することの安全性とセキュリティリスクが挙げられている。AIの安全性に関して、AIの誤判断は現実へ与える影響が大きいため、騙されないAIが必要である。AIのセキュリティリスクに関して、AIで利用する学習データには個人情報や企業機密が含まれるだけでなく、モデル生成は豊富な計算資源を必要とするため、モデル情報を保護するためのセキュアなAIが必要である。本研究は、セキュアで騙されないAIを実現するために、AIの内部と外部に着目した防御機構を開発する。
2019年度の研究では、まずAIの安全性を評価するための実験環境の整備を行った。AIではソフトウェアとハードウェアでの利用が想定されるため、それぞれの環境を構築した。まず、ソフトウェア実装に関しては、マイコンAtmega328Pを搭載したArduinoを用いた環境を開発した。開発した環境では、AIデバイスのサイドチャネル情報などを利用した物理解析への安全性を評価するために、消費電力などの測定環境を整備した。そして、実際にセキュリティ機能として暗号アルゴリズムを実装した際の安全性について、サイドチャネル解析を行い評価した。また、簡単な推論を行うAIを実装し、サイドチャネル情報を利用したモデル抽出攻撃に対する安全性について検証した。
ハードウェア実装に関しては、Field Programmable Gate Array（FPGA）を対象としたAIの実装を行い、サイドチャネル解析に対する安全性の評価に必要な環境を構築した。
本年度の研究成果については、関連する国際会議や国内学会で研究発表を行った。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
2019年度の研究では、当初予定していた(i) AIの評価環境の構築、(ii) AIの安全性評価手法の開発を進めることができた。まず(i)に関しては、ハードウェア・ソフトウェアの環境でのAIの実装に加えて、消費電力などのサイドチャネル情報が取得可能な評価環境の開発を進めることができた。(ii)に関しては、開発した評価環境を用いて消費電力を利用したAIに対するサイドチャネル情報を利用したモデル抽出攻撃を開発した。そして、開発した解析手法を用いてAIへの不正攻撃に対する安全性について評価することができた。
|
| Strategy for Future Research Activity |
2020年度の研究では、より詳細なAIの安全性について検証するために、2019年度の研究で開発したもの以外にもAIの安全性評価手法についての検討を進める。また、開発した解析手法に対する対策手法についての検討も進める。これらの研究成果に関して、国内のセキュリティやLSIシステムに関連した研究会で発表するだけでなく、国際会議でも発表していく予定である。
|
Report
(1 results)
Research Products
(3 results)
