Learning Internal Representations Robust against Adversarial Attacks

2021 年度 研究成果報告書

• 研究課題/領域番号: 20K19824
• 研究種目: 若手研究
• 配分区分: 基金
• 審査区分: 小区分61010:知覚情報処理関連
• 研究機関: 九州大学
• 研究代表者: VARGAS DANILO 九州大学, システム情報科学研究院, 准教授 (00795536)
• 研究期間 (年度): 2020-04-01 – 2022-03-31
• キーワード: Robust AI / Robust Machine Learning

研究成果の概要

本研究では、DNNが学習した内部表現を評価・改善することで、DNNの頑健性に取り組むことを提案した。DNNの内部表現の評価については、特徴の伝達性が敵対的攻撃への頑健性につながることを発見した。つまり、特徴の伝達性が高いほど、敵対的な攻撃に対する頑健性が高いことを発見した。また、複数層のDNNをまとめてグラフで評価・可視化し、多次元空間での形状を容易に点検できるK-spectrumを提案した。DNNの内部表現の改善に関しては、提案にあるように、ネットワークの頑健性を向上させるGANを用いたシステムを開発した。
この研究の成果は、雑誌やプロシーディングスに掲載され、合計で13以上の論文がある。

自由記述の分野

Artificial Intelligence

研究成果の学術的意義や社会的意義

Critical systems such as autonomous driving and medical applications require robust machine learning algorithms. This research paves the way to better algorithms that will allow for such applications to become a reality.