| 研究課題/領域番号 |
19K24357
|
|---|
| 研究機関 | 名城大学 |
|---|
研究代表者 |
野崎 佑典 名城大学, 理工学研究科, 助手 (60847953)
|
|---|
| 研究期間 (年度) |
2019-08-30 – 2021-03-31
|
| キーワード | AIエンジン / セキュリティ |
|---|
| 研究実績の概要 |
Society5.0の実現のためにArtificial Intelligence（AI）技術が注目されている。一方で、AIの社会実装における課題として、AIを使用することの安全性とセキュリティリスクが挙げられている。AIの安全性に関して、AIの誤判断は現実へ与える影響が大きいため、騙されないAIが必要である。AIのセキュリティリスクに関して、AIで利用する学習データには個人情報や企業機密が含まれるだけでなく、モデル生成は豊富な計算資源を必要とするため、モデル情報を保護するためのセキュアなAIが必要である。本研究は、セキュアで騙されないAIを実現するために、AIの内部と外部に着目した防御機構を開発する。
2019年度の研究では、まずAIの安全性を評価するための実験環境の整備を行った。AIではソフトウェアとハードウェアでの利用が想定されるため、それぞれの環境を構築した。まず、ソフトウェア実装に関しては、マイコンAtmega328Pを搭載したArduinoを用いた環境を開発した。開発した環境では、AIデバイスのサイドチャネル情報などを利用した物理解析への安全性を評価するために、消費電力などの測定環境を整備した。そして、実際にセキュリティ機能として暗号アルゴリズムを実装した際の安全性について、サイドチャネル解析を行い評価した。また、簡単な推論を行うAIを実装し、サイドチャネル情報を利用したモデル抽出攻撃に対する安全性について検証した。
ハードウェア実装に関しては、Field Programmable Gate Array（FPGA）を対象としたAIの実装を行い、サイドチャネル解析に対する安全性の評価に必要な環境を構築した。
本年度の研究成果については、関連する国際会議や国内学会で研究発表を行った。
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
2019年度の研究では、当初予定していた(i) AIの評価環境の構築、(ii) AIの安全性評価手法の開発を進めることができた。まず(i)に関しては、ハードウェア・ソフトウェアの環境でのAIの実装に加えて、消費電力などのサイドチャネル情報が取得可能な評価環境の開発を進めることができた。(ii)に関しては、開発した評価環境を用いて消費電力を利用したAIに対するサイドチャネル情報を利用したモデル抽出攻撃を開発した。そして、開発した解析手法を用いてAIへの不正攻撃に対する安全性について評価することができた。
|
| 今後の研究の推進方策 |
2020年度の研究では、より詳細なAIの安全性について検証するために、2019年度の研究で開発したもの以外にもAIの安全性評価手法についての検討を進める。また、開発した解析手法に対する対策手法についての検討も進める。これらの研究成果に関して、国内のセキュリティやLSIシステムに関連した研究会で発表するだけでなく、国際会議でも発表していく予定である。
|
| 次年度使用額が生じた理由 |
新型コロナウイルス（COVID-19）の感染拡大の影響を受けて、参加予定であった国際会議の現地開催が中止となったため。
当初の計画に加えて、研究を遂行する上で新たに発見した課題についても研究を進め、国内外の学会で研究発表を行う。
|
