| 研究課題/領域番号 |
19K24357
|
|---|
| 研究種目 |
研究活動スタート支援
|
| 配分区分 | 基金 |
|---|
| 審査区分 |
1001:情報科学、情報工学およびその関連分野
|
|---|
| 研究機関 | 名城大学 |
|---|
研究代表者 |
野崎 佑典 名城大学, 理工学部, 助教 (60847953)
|
|---|
| 研究期間 (年度) |
2019-08-30 – 2022-03-31
|
| 研究課題ステータス |
完了 (2021年度)
|
| 配分額 *注記 |
2,860千円 (直接経費: 2,200千円、間接経費: 660千円)
2020年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2019年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
|
|---|
| キーワード | AIエンジン / セキュリティ |
|---|
| 研究開始時の研究の概要 |
Society5.0の実現のためにAI技術が注目されている。一方で、AIの社会実装における課題として、AIを使用することの安全性とセキュリティリスクが挙げられている。AIの安全性に関して、AIの誤判断は現実へ与える影響が大きいため、騙されないAIが必要である。AIのセキュリティリスクに関して、AIで利用する学習データには個人情報や企業機密が含まれるだけでなく、モデル生成は豊富な計算資源を必要とするため、モデル情報を保護するためのセキュアなAIが必要である。本研究は、セキュアで騙されないAIを実現するために、AIの内部と外部に着目した防御機構を開発する。
|
| 研究成果の概要 |
よりよい社会を実現するためにAI技術の利用が注目されている。AIの社会実装を進める上で，AI利用時の安全性を確保することは非常に重要である。そこで本研究では，セキュアなAIシステムを実現するための研究開発を行った。主に，モデル抽出攻撃とEvasion攻撃について研究開発を進め，それぞれどのような攻撃によってどのような脅威が生じるかを明らかにし，対策技術の研究開発を進めた。これらの研究開発によって，AIシステムの安全性を向上させた。
|
| 研究成果の学術的意義や社会的意義 |
研究成果の学術的意義は，実デバイスに実装したAIエンジンでのいくつかの攻撃に対する脅威を明らかにした点と，開発した対策手法によって，AIエンジンに対する攻撃への安全性を向上できる点である。また，本研究で研究開発した手法によって， AIシステムのセキュリティを向上させることができるため，AIの社会実装を推進することができる点で社会的意義が大きい。
|
