多重防御機構を備えたセキュアで騙されないAIエンジンの開発

2021 年度 研究成果報告書

• 研究課題/領域番号: 19K24357
• 研究種目: 研究活動スタート支援
• 配分区分: 基金
• 審査区分: 1001:情報科学、情報工学およびその関連分野
• 研究機関: 名城大学
• 研究代表者: 野崎 佑典 名城大学, 理工学部, 助教 (60847953)
• 研究期間 (年度): 2019-08-30 – 2022-03-31
• キーワード: AIエンジン / セキュリティ

研究成果の概要

よりよい社会を実現するためにAI技術の利用が注目されている。AIの社会実装を進める上で，AI利用時の安全性を確保することは非常に重要である。そこで本研究では，セキュアなAIシステムを実現するための研究開発を行った。主に，モデル抽出攻撃とEvasion攻撃について研究開発を進め，それぞれどのような攻撃によってどのような脅威が生じるかを明らかにし，対策技術の研究開発を進めた。これらの研究開発によって，AIシステムの安全性を向上させた。

自由記述の分野

情報セキュリティ

研究成果の学術的意義や社会的意義

研究成果の学術的意義は，実デバイスに実装したAIエンジンでのいくつかの攻撃に対する脅威を明らかにした点と，開発した対策手法によって，AIエンジンに対する攻撃への安全性を向上できる点である。また，本研究で研究開発した手法によって， AIシステムのセキュリティを向上させることができるため，AIの社会実装を推進することができる点で社会的意義が大きい。