| 研究課題/領域番号 |
21K17804
|
|---|
| 研究種目 |
若手研究
|
| 配分区分 | 基金 |
|---|
| 審査区分 |
小区分61030:知能情報学関連
|
|---|
| 研究機関 | 山形大学 |
|---|
研究代表者 |
高橋 茶子 山形大学, 大学院理工学研究科, 助教 (60878297)
|
|---|
| 研究期間 (年度) |
2021-04-01 – 2025-03-31
|
| 研究課題ステータス |
交付 (2023年度)
|
| 配分額 *注記 |
3,640千円 (直接経費: 2,800千円、間接経費: 840千円)
2024年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2023年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2022年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2021年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
|
|---|
| キーワード | 敵対的機械学習 / ポイズニング攻撃 / 能動学習 / プールベース能動学習 / データ拡張 / グラフステガノグラフィ / 敵対的サンプル攻撃 |
|---|
| 研究開始時の研究の概要 |
悪意を持った攻撃者の存在を想定した状況下での機械学習は敵対的機械学習と呼ばれ，近年の機械学習・深層学習技術の実応用においては敵対的攻撃に対する対策が急務であると認識されている。敵対的機械学習における攻撃手法や防御手法などの研究はこの二，三年で急激に進展しているものの，従来の統計的機械学習の枠組みでは敵対的機械学習の問題を解析的に取り扱うことは難しく，これまでの研究のほとんどが実験的な成果にとどまっている。本研究では，統計力学の手法を敵対的機械学習の理論研究に応用して，機械学習モデルに対する敵対的攻撃の成功条件を統計力学の理論の観点から解明する。
|
| 研究実績の概要 |
2023年度は、能動学習におけるバックドアポイズニング攻撃についての研究を行った。能動学習 (active learning) とは、データのアノテーション（ラベル付け）コストが大きいという問題がある場合の機械学習の方策の一つであり、ラベルなしデータが比較的容易に入手できる場合に用いられる。その中でも、多量のラベルなしデータセット（プールデータセット）から次にラベル付け対象とするインスタンスを選択するプールベース能動学習と呼ばれる問題設定において、バックドアポイズニング攻撃が有効であることを示した。この成果については、2024年度中に国際会議などに投稿予定である。
さらに、能動学習は敵対的機械学習におけるメイントピックの一つである敵対的訓練 (adversarial training) に深く関連していることから、能動学習そのものについての研究も扱った。プールベース能動学習において、将来の損失を小さくするインスタンスを次のラベル付け対象として選択するクエリ選択手法、期待損失削減について研究を行った。不確実性を用いたプールデータセットからのサブサンプリングにより、期待損失の計算時間が削減されるだけでなく、期待損失をより早く削減させる効果があることを数値的に示した。この研究の成果の一部をまとめた論文は、国際学会に1件投稿中であり、現在査読中である。2024年度は、この研究成果を敵対的訓練に応用することも検討している。
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
2023年度に得られた成果の一部をまとめた論文は、現在国際会議1件に投稿中である。また、2024年度中に能動学習におけるバックドアポイズニング攻撃について得られている成果を国際会議などに投稿する予定である。
|
| 今後の研究の推進方策 |
2023年度の実施を目的としていた抽出攻撃に関する研究には現在も未着手である状態のため、2024年度は優先的に抽出攻撃の研究に取り組む予定である。
また、本研究課題の開始からしばらく経ち、現在は敵対的機械学習の理論面の関連研究が増加している。本研究課題で取り組む予定であった理論面の研究計画は、関連研究の結果を踏まえ、柔軟に変更していく。
2024年度は本研究課題の最終年度となるため、これまでに得られた成果をまとめて学会や論文誌などで発表できるよう並行して準備を進める。
|
