2022 Fiscal Year Research-status Report
統計力学的解析に基づく敵対的機械学習の理論基盤の確立
| Project/Area Number |
21K17804
|
|---|
| Research Institution | Yamagata University |
|---|
Principal Investigator |
高橋 茶子 山形大学, 大学院理工学研究科, 助教 (60878297)
|
|---|
| Project Period (FY) |
2021-04-01 – 2025-03-31
|
| Keywords | 敵対的機械学習 / ポイズニング攻撃 / データ拡張 / グラフステガノグラフィ |
|---|
| Outline of Annual Research Achievements |
2022年度の主な研究成果は、機械学習モデルにおけるポイズニング攻撃の一種であるバックドアポイズニング攻撃に関するものである。機械学習では、モデルの学習の際にデータ拡張（データ水増し）と呼ばれる手法がしばしば用いられる。我々は、グラフ分類を解くグラフニューラルネットワークにおけるバックドアポイズニング攻撃の効果を数値的に調べた。データ拡張を用いて訓練したグラフニューラルネットワークがバックドア攻撃に対して脆弱であり、データ拡張を行わない場合に比べてバックドア攻撃により脆弱になってしまう場合があることを示した。この研究に関する国内学会での発表1件を行ったほか、国際学術論文誌に1件の論文を投稿中であり、現在査読中である。
この他にも、グラフスペクトルを用いてグラフ構造を持つデータにステガノグラフィを埋め込む方式の開発を行った。この方式は、既存のグラフステガノグラフィ方式における、送信者と受信者がグラフの頂点識別子を共有しなければならないという問題を、グラフスペクトルを用いることにより克服したものである。
また、直接的に敵対的機械学習に関連する成果ではないが、2022年度は研究代表者がかねてより継続して行っているマルコフ確率場による統計的機械学習についての理論的な成果もあげることができた。これらの成果はマルコフ確率場に基づく機械学習モデルにおける異常検知などでの応用へ発展させることができると考えており、2023年度以降に取り組む予定である。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
グラフ構造を持つデータを扱う場合の敵対的攻撃やステガノグラフィについて成果を得ることができた。また、敵対的機械学習に関連する成果として、マルコフ確率場による統計的機械学習についてのいくつかの理論的な成果を得ることができた。
|
| Strategy for Future Research Activity |
2023年度は、2022年度までに得られている成果を土台として、抽出攻撃の研究を開始する予定である。抽出攻撃には訓練済み機械学習モデルや訓練データを抽出対象とするものがあり、例えば一度モデルの抽出が行われてしまうと、そのモデルを利用して他の種類の攻撃が可能になってしまう危険性があることが知られている。2022年度に得られたマルコフ確率場における統計的機械学習の成果を応用し、まずはマルコフ確率場ベースのモデルにおける抽出攻撃に対する異常検知の方式を検討する予定である。
|
| Causes of Carryover |
新型コロナウイルスの感染拡大によりオンライン開催をベースとした学会が増え、使用予定に計上していた旅費を支出せずに参加できるケースが増えてきた。2023年度以降は現地開催をベースとした複数の会議への参加を予定しているため、現地で活発な議論を行うための旅費およびその後研究をまとめる際の論文掲載料などへ積極的に使用する方針である。
|
