2021 Fiscal Year Research-status Report
統計力学的解析に基づく敵対的機械学習の理論基盤の確立
| Project/Area Number |
21K17804
|
|---|
| Research Institution | Yamagata University |
|---|
Principal Investigator |
高橋 茶子 山形大学, 大学院理工学研究科, 助教 (60878297)
|
|---|
| Project Period (FY) |
2021-04-01 – 2025-03-31
|
| Keywords | 敵対的機械学習 / ポイズニング攻撃 / 敵対的サンプル攻撃 |
|---|
| Outline of Annual Research Achievements |
初年度である2021年度の研究では、本研究計画全体で扱う予定の敵対的攻撃3種類のうち、ポイズニング攻撃および敵対的サンプル攻撃についての研究を並行して実施することができた。本研究で目的とするそれらの攻撃の理論解析の前準備段階として特定の条件での数値的な実験を行い、機械学習モデルに対して敵対的攻撃が有効であることを示した。
本年度に行ったポイズニング攻撃に関する研究の概要は次の通りである： Few-shot 分類（少数ショット分類）を行う機械学習モデルに対し、攻撃者が指定するデータの分類結果のみを操作するバックドアポイズニング攻撃を定式化した。本攻撃を Few-shot 画像分類において実験したところ、トリガーとなる特定のデータが入力された場合にのみ、分類結果を誤らせることに成功した。
また、本年度に行った敵対的サンプル攻撃に関する研究の概要は次の通りである：画像処理などによく用いられる畳み込みニューラルネットワークを用いたグラフデータのノード分類問題を考える。ノード分類の結果を攻撃者の所望の（誤った）クラスにさせることを目的とする新しい敵対的サンプル攻撃を定式化し、攻撃により畳み込みニューラルネットワークによる分類結果を容易に操作できてしまうことを示した。
2022年度以降は、本年度に得られた数値的な結果を参考にしながら、ポイズニング攻撃および敵対的サンプル攻撃についての理論解析およびさらなる実験を進める予定である。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
2021年度は、当初の研究計画において取り組む敵対的攻撃の研究のうちポイズニング攻撃および敵対的サンプル攻撃に関するテーマに取り組んだ。特定の状況や特定の機械学習モデルにおいてそれらの攻撃が有効であることを示す数値的な結果が得られており、2021年度に行われた2件の学会発表でそれぞれの成果を発表することができた。
|
| Strategy for Future Research Activity |
2021年度に得られたのは主に実験的な（数値的な）成果であるため、2022年度は2021年度に得られた成果に関連した理論サイドの研究を進める予定である。
|
| Causes of Carryover |
新型コロナウイルスの感染拡大により、学会発表や研究打ち合わせ、研究会などを目的とした現地出張が制限されたことに伴い、使用予定に計上していた各種予算の支出が難しい状況であった。2022年度以降は徐々に学会の現地開催なども増えてくると思われるため、積極的に発表・議論の場に出席するために支出する予定である。
|
