2022 年度研究成果報告書

機械と人間の認識ギャップを考慮した深層学習セキュリティ・プライバシーに関する研究

研究課題

PDF

研究課題/領域番号	19H04164
研究種目	基盤研究(B)
配分区分	補助金
応募区分	一般
審査区分	小区分61030:知能情報学関連
研究機関	筑波大学
研究代表者	佐久間淳筑波大学, システム情報系, 教授 (90376963)
研究期間 (年度)	2019-04-01 – 2023-03-31
キーワード	機械学習 / 人工知能 / セキュリティ / プライバシー / 高信頼AI
研究成果の概要	AIへの攻撃、AIへの防御、および説明可能なAIの分野において、成果を上げた。代表的な成果は以下の通り。AIへの攻撃では、音声認識モデルを物理世界で攻撃するための敵対的な音声例生成手法を提案した。研究成果はIJCAI2019に採択され、2023年現在引用数は170を超える。AIの防御では、深層学習を使用したコンテンツベース画像検索において、敵対的事例に対する保証付き防御手法を開発した。AI説明性の観点では、深層学習分類器を対象として、データXがクラスYに分類されるのは、XがA、B、を持ち、Cを持たないからである、というタイプの説明を与える手法を提案した。研究成果はAAAI2022に採択された。
自由記述の分野	機械学習
研究成果の学術的意義や社会的意義	深層学習が社会にとって重要な判断や意思決定の一部を担うようになった場合, 深層学習そのものを不正利用したり，深層学習の判断や意思決定を不正に捻じ曲げて，不当に利益を得ようとする人間が現れると考えられる。そのような敵対的環境において深層学習を適切に動作させるためには深層学習特有のセキュリティの問題を解決する技術が必要である。また深層学習は、学習のために大量にデータを収集したり、予測のために対象に関するデータを取得したりする必要がある。研究ではこのような深層学習のセキュリティに関する問題に対する一定の解決のための方法論を構築した。