2020 Fiscal Year Research-status Report
多重防御機構を備えたセキュアで騙されないAIエンジンの開発
| Project/Area Number |
19K24357
|
|---|
| Research Institution | Meijo University |
|---|
Principal Investigator |
野崎 佑典 名城大学, 理工学研究科, 助教 (60847953)
|
|---|
| Project Period (FY) |
2019-08-30 – 2022-03-31
|
| Keywords | AIエンジン / セキュリティ |
|---|
| Outline of Annual Research Achievements |
Society5.0の実現のためにArtificial Intelligence（AI）技術が注目されている。一方で、AIの社会実装における課題として、AIを使用することの安全性とセキュリティリスクが挙げられている。AIの安全性に関して、AIの誤判断は現実へ与える影響が大きいため、騙されないAIが必要である。AIのセキュリティリスクに関して、AIで利用する学習データには個人情報や企業機密が含まれるだけでなく、モデル生成は豊富な計算資源を必要とするため、モデル情報を保護するためのセキュアなAIが必要である。本研究は、セキュアで騙されないAIを実現するために、AIの内部と外部に着目した防御機構を開発する。
2020年度の研究では、2019年度で開発した実験環境を用いてAIの安全性評価手法に関する検討を進めた。具体的には、Field Programmable Gate Array（FPGA）を指向してハードウェア実装したAI推論器を対象に、モデル抽出攻撃とEvasion攻撃について検討を進めた。モデル抽出攻撃では、AI推論器動作時の消費電力などのサイドチャネル情報を利用した攻撃を検討した。また、Evasion攻撃では、ハードウェアトロイ（HT）による攻撃手法を開発した。提案HTでは、推論結果を攻撃者が指定した任意の結果へ改ざんする。また、AI推論器のLUT構造に着目することで、従来のHTとは異なり、新たにHTのトリガ回路やペイロード回路を追加する必要がなく、HT実装による回路オーバーヘッドをゼロに抑える。そして実装実験によって、提案HTの有効性を検証した。また、防御技術に関してAIの認証デバイスとして、AI（NN）と認証回路（PUF）を併用させたNN PUFをFPGA実装し、その性能を定量的に評価した。
本年度の研究成果については、関連する国際会議や国内学会で研究発表を行った。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
2020年度の研究では、当初予定していた(i) AIの安全性評価手法の開発、(ii) 対策手法の開発を進めることができた。まず(i)に関しては、特にField Programmable Gate Array（FPGA）実装を指向したAI推論器に対するモデル抽出攻撃の検討を進めた。また、モデル抽出攻撃だけでなく、Evasion攻撃としてハードウェアトロイについても検討を進めた。次に(ii)に関しては、AIデバイスの認証回路として、AI（Neural Network: NN）と認証回路（Physically Unclonable Function: PUF）を併用させたNN PUFのFPGA実装を進め、その性能を定量的に評価することができた。
|
| Strategy for Future Research Activity |
2021年度の研究では、AIの安全性のより詳細な検証や防御手法の開発を進める。具体的には、FPGAを指向したAIデバイスに対して、より解析精度を高めた攻撃手法の開発を進める。防御手法に関しては、Evasion攻撃への対策技術について検討を進める予定である。これらの研究成果に関して、国内のセキュリティやLSIシステムに関連した研究会・国際会議で発表するだけでなく、学術論文誌にも投稿する予定である。
|
| Causes of Carryover |
新型コロナウイルス（COVID-19）の感染拡大の影響を受けて、参加予定であった学会の現地開催が中止となったため。
当初の計画に加えて、研究を遂行する上で新たに発見した課題についても研究を進め、国内外の学会で研究発表を行う。
|
Research Products
(4 results)
