2021 Fiscal Year Research-status Report
Multimedia Forensics for Classification of Fake Content
| Project/Area Number |
19K22846
|
|---|
| Research Institution | Okayama University |
|---|
Principal Investigator |
栗林 稔 岡山大学, 自然科学学域, 准教授 (50346235)
|
|---|
| Project Period (FY) |
2019-06-28 – 2023-03-31
|
| Keywords | フェイクコンテンツ / 敵対的事例 / 改ざん検知 / ノイズ除去フィルタ / 真偽判定 |
|---|
| Outline of Annual Research Achievements |
フェイクコンテンツとして認識されている不正なコンテンツとして，ディープフェイクに代表される人工的に創作された偽の動画，画像識別器を誤認識させる敵対的事例，複数画像の切り貼りにより作成される改ざん画像を扱って研究を進めてきた．正常に撮影，録画されたコンテンツとこれらのフェイクコンテンツを識別するために，コンテンツ中に含まれる不自然な信号を深層学習技術を用いて解析するアプローチを考案し，数量的にその性能を評価した．
ディープフェイクにおいては，その研究動向を広く調べ，生成方法から識別方法，現状での課題などをサーベイ論文としてまとめた．
敵対的事例の検出においては，視覚的にあまり重要でない成分を除去するフィルタを適用することで，自然に含まれる雑音だけなく意図的に加えられた敵対的ノイズの除去を試みた．複数の汎用的なフィルタによる画像識別器の応答特性に着目した手法を考案し，更にこれらのフィルタの効果を解析した上で敵対的ノイズ除去に大きく寄与する処理となるようにフィルタの調整を行った．計算量削減の観点から，用いるフィルタ数を減らしつつ，敵対的事例の検出精度を高めるための手法を考案した．シミュレーションにより，既存の各種の敵対的攻撃に対して，92%以上の高い精度で検出できることを確認した．
改ざん画像や人工的に創作されるフェイク画像においては，人物が映る画像において，その顔領域に着目し，領域単位で分割して不自然な信号を解析するアプローチにてシミュレーションを行った．解析用に設計した識別器には既存の画像識別器を基にファインチューニングして作成したモデルを試しており，フェイク画像生成器の学習過程において用いたデータセットに近いデータセットでその識別器を学習させれば，99%を超える精度で識別可能であるが，異なるデータセットを用いた場合には，その精度が大きく下がる傾向が見られた．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
画像識別器が誤判定するように敵対的ノイズを加えたコンテンツの識別においては，画像識別器の分類結果に大きく寄与する成分だけを効果的に除去するフィルタの設計と，その計算量を抑えるための工夫をすることができており，順調に進んでいると考えている．
一方，人工的に創作されるフェイク動画やフェイク画像の識別においては，顔領域に着目して解析を進めているが，攻撃者側が用いるデータセットが判明していれば高い精度を得られるが，汎用的な識別器の設計という意味においては課題が残されている．
|
| Strategy for Future Research Activity |
敵対的事例の識別においては，対象とする入力画像に対して，敵対的なノイズの有無を調べて識別するところまで順調に研究が進んでいる．今後は，その画像に含まれる敵対的ノイズだけを効率良く除去し，ノイズが印加される前の元の画像識別結果が得られるような，無毒化処理を進めたいと考えている．
フェイク動画，画像においては，ある人物が発言している動画を対象として，その顔領域とそれ以外の領域において確率分布モデルの違いを解析することでフェイクであるか否かを識別する手法を実装し，評価したい．識別器の性能が学習時に用いたデータセットに偏らず，汎用的に適用可能な手法が実現できるように，対象とする一つのコンテンツ内における顔以外の領域のデータを教師データとして，顔領域の異常検知を進めていく予定である．
|
| Causes of Carryover |
COVID-19の影響で学会での発表がすべてオンラインとなり，計上していた旅費が不要となった．
追加のシミュレーションで必要な機器の購入と，次年度の学会発表および参加費等に充てる．
|
