2022 Fiscal Year Annual Research Report
Deep learning security and privacy focused on human-machine recognition gap
| Project/Area Number |
19H04164
|
|---|
| Research Institution | University of Tsukuba |
|---|
Principal Investigator |
佐久間 淳 筑波大学, システム情報系, 教授 (90376963)
|
|---|
| Project Period (FY) |
2019-04-01 – 2023-03-31
|
| Keywords | 機械学習 / 人工知能 / 敵対的学習 / ドメイン汎化 / 説明可能AI |
|---|
| Outline of Annual Research Achievements |
4つの研究成果を公表した。
（1）深層学習を使ったコンテンツベース画像検索において、敵対的事例に対する保証付き防御手法を開発した。コンテンツベース画像検索における保証付き防御のために、クエリや候補画像の周りにAXが存在しないことを保証する新しい頑健性に定義を考案し、CBIRの認証防御が達成されているかどうかを検証する計算量的に扱いやすい検証アルゴリズムを提案した。実験の結果、提案された目的関数は既存の方法よりもCBIRの認証防御を大幅に改善することが示された。
（2）可逆的敵対的事例（RAE）という新しいタイプの敵対的事例を提案した。RAEはユーザが指定したAIモデルでは画像を正しく認識・利用できるが、それ以外のAIモデルでは敵対的事例として認識され、正しく認識できない。RAEを実現するために、敵対的事例、敵対的摂動を復元するための可逆的データ隠蔽、敵対的摂動を除去するための高機能暗号という3つの技術を組み合わせた。実験結果から、提案手法は対応する敵対的攻撃手法と同等の攻撃能力を持つつ、原画像と同等の視覚品質を実現できることが示された。
（3）ドメイン汎化タスクにおいて、敵対的データ増強のアプローチを用いて、モデルのドメイン汎化能力を向上させるために「難しい」ドメインで訓練データを合成・増強することで、未知のドメインに汎化する能力を持つモデルを学習する方法を提案した。提案法に基づく敵対的データ増強は、実験によって、より良いドメイン汎化性能につながることが示唆された。
（4）ブラックボックス分類器を対象として、データXがクラスYに分類されるのは、XがA、B、を持ち、Cを持たないからである、というタイプの説明を与える手法を提案した。説明に有用な概念の集合を発見するために、構造的生成モデルを導入し、特定の概念が分類器の出力に大きな因果的影響を与えるような潜在変数を発見する方法を考案した。
|
| Research Progress Status |
令和4年度が最終年度であるため、記入しない。
|
| Strategy for Future Research Activity |
令和4年度が最終年度であるため、記入しない。
|
