| 研究課題/領域番号 |
20K19824
|
|---|
| 研究種目 |
若手研究
|
| 配分区分 | 基金 |
|---|
| 審査区分 |
小区分61010:知覚情報処理関連
|
|---|
| 研究機関 | 九州大学 |
|---|
研究代表者 |
VARGAS DANILO 九州大学, システム情報科学研究院, 准教授 (00795536)
|
|---|
| 研究期間 (年度) |
2020-04-01 – 2022-03-31
|
| 研究課題ステータス |
完了 (2021年度)
|
| 配分額 *注記 |
2,470千円 (直接経費: 1,900千円、間接経費: 570千円)
2021年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2020年度: 1,560千円 (直接経費: 1,200千円、間接経費: 360千円)
|
|---|
| キーワード | Robust AI / Robust Machine Learning / Adversarial ML / Robust Representations / 敵対的機械学習 / Deep Neural Networks / 深層学習 / One pixel attack / GAN / ロバスト人工知能 / 敵対的学習 |
|---|
| 研究開始時の研究の概要 |
Current DNNs are known to possess many vulnerabilities which make their applications unsafe. In our last investigations, it was understood that the problem lies in the fact that DNNs focus on the texture rather than the shape in their representation. GANs, however, learn to encode, decode as well as transform images and are known to learn internally complex models of the input that goes beyond texture. Here, I propose to tackle the robustness of DNNs by using the internal representation learned by GANs to create DNNs capable of classifying based on features that go beyond texture.
|
| 研究成果の概要 |
本研究では、DNNが学習した内部表現を評価・改善することで、DNNの頑健性に取り組むことを提案した。DNNの内部表現の評価については、特徴の伝達性が敵対的攻撃への頑健性につながることを発見した。つまり、特徴の伝達性が高いほど、敵対的な攻撃に対する頑健性が高いことを発見した。また、複数層のDNNをまとめてグラフで評価・可視化し、多次元空間での形状を容易に点検できるK-spectrumを提案した。DNNの内部表現の改善に関しては、提案にあるように、ネットワークの頑健性を向上させるGANを用いたシステムを開発した。
この研究の成果は、雑誌やプロシーディングスに掲載され、合計で13以上の論文がある。
|
| 研究成果の学術的意義や社会的意義 |
Critical systems such as autonomous driving and medical applications require robust machine learning algorithms. This research paves the way to better algorithms that will allow for such applications to become a reality.
|
