• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Annual Research Report

Explainable next-generation media forensics technologies based on fake media detection and automatic fact verification

Research Project

Project/Area Number 21H04906
Research InstitutionNational Institute of Informatics

Principal Investigator

山岸 順一  国立情報学研究所, コンテンツ科学研究系, 教授 (70709352)

Co-Investigator(Kenkyū-buntansha) Kruengkrai Canasai  国立情報学研究所, コンテンツ科学研究系, 特任助教 (10895907) [Withdrawn]
Wang Xin  国立情報学研究所, コンテンツ科学研究系, 特任准教授 (60843141)
Project Period (FY) 2021-04-05 – 2025-03-31
Keywords機械学習 / ディープフェイク / ファクトチェック / 深層学習
Outline of Annual Research Achievements

本物に類似したフェイクメディアが機械学習により容易に生成でき、フェイクニュース等不正確な情報も氾濫するインフォデミック時代の問題を反映した次世代メディア解析技術を研究する。具体的には以下の3課題に取り組んだ。

【課題1 説明可能な生体検知】我々は機械学習により生成されたフェイクメディアを見破る技術を世界に先駆け開発してきた。これは入力映像 ・音声・文章から真贋判定を行う自動識別技術であるが、真か偽かを機械学習により単に予測するだけでは不十分であり、なぜ偽と判定したのか、そのエビデンスを人々が理解可能な方法で提示する必要がある。そこで、本年度は音声中に部分的に合成音声が含まれる際に、その時間領域を特定・提示する手法の性能を適切に評価する指標を提案した。
【課題2 未知フェイクメディアの検出】メディア生成技術は常に変化する。それ故、未知手法によるフェイクメディアを頑健に検出しなければ 、安定的な対応は望めない。そこで我々はこれまで学習用データベース自身を自動拡張する方法などを提案してきた。本年度はフェイクメディアデータを時間をかけて収集するのではなく、擬似的に生成する新たな方法を提案し、様々な条件下のフェイクメディアデータを容易に生成する枠組みを検討した。また同時に、検知手法の汎化性能を向上させることで未知フェイクメディアへ対応させる学習方法についても提案した。
【課題3 自動ファクトチェック】入力クレームの内容が正しいかどうかを自動判定するNLPタスクとして自動ファクトチェックがある。本年度は、この自動ファクトチェックモデルを人手をかけずに多言語対応させる方法について検討した。具体的には、英語のファクトチェックコーパスFEVERを自動翻訳し、また、多言語対応した事前学習済み言語モデルを導入することで、日本語を含む複数の言語において自動ファクトチェックモデルを構築できることを示した。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

課題1、課題2、課題3の全てにおいて研究成果を挙げ、その全てがトップカンファレンスもしくはトップジャーナルに掲載されている。

Strategy for Future Research Activity

課題1はこれまでの研究により十分な成果を挙げてきた。そこで今後は課題2と課題3の研究を仕上げ、まとめる事を行う。

【課題2 未知フェイクメディアの検出】メディア生成技術は常に変化する。それ故、未知手法によるフェイクメディアを頑健に検出しなければ 、安定的な対応は望めないことから、これまでも幾つもの対策法を提案してきた。最終年度は、音声のSSLと呼ばれる基盤モデルを特徴量抽出用途に使いつつも、未知手法によるフェイクメディアを頑健に検出できるほどの汎化性能を維持する事を目的に、音声のSSL基盤モデルにアダプターという技術を導入する事を試みる。これにより性能と汎化性能のバランスを両立させる事を目指す。またこれまで提案してきた複数の方法を統合する事も行う。

【課題3 自動ファクトチェック】自動ファクトチェックにおいても自己アテンション技術を利用した新モデルや多言語対応した自動ファクトチェックモデルの提案を行ってきた。最終年度は、非構造化データである文章と構造化データである表とを同時に利用した自動ファクトチェックを検討する。具体的には、これまで情報源データベースとしてテキストデータのみを利用したが、 情報源データベース内に表データも多く存在することから、テキストエンコーダに加えて、表データのTransfomer型エンコーダを導入融合することで、テキストエンコーダのみの場合と比べて、予測性能が向上することを確認する。

  • Research Products

    (11 results)

All 2024 2023 Other

All Int'l Joint Research (4 results) Journal Article (6 results) (of which Int'l Joint Research: 3 results,  Peer Reviewed: 6 results,  Open Access: 6 results) Presentation (1 results) (of which Invited: 1 results)

  • [Int'l Joint Research] 東フィンランド大(フィンランド)

    • Country Name
      FINLAND
    • Counterpart Institution
      東フィンランド大
  • [Int'l Joint Research] Eurecom(フランス)

    • Country Name
      FRANCE
    • Counterpart Institution
      Eurecom
  • [Int'l Joint Research] Institute for Infocomm Research, A*STAR(シンガポール)

    • Country Name
      SINGAPORE
    • Counterpart Institution
      Institute for Infocomm Research, A*STAR
  • [Int'l Joint Research] 国立清華大学, Taiwan(その他の国・地域)

    • Country Name
      その他の国・地域
    • Counterpart Institution
      国立清華大学, Taiwan
  • [Journal Article] ASVspoof 2021: Towards Spoofed and Deepfake Speech Detection in the Wild2023

    • Author(s)
      Liu Xuechen、Wang Xin、Sahidullah Md、Patino Jose、Delgado H?ctor、Kinnunen Tomi、Todisco Massimiliano、Yamagishi Junichi、Evans Nicholas、Nautsch Andreas、Lee Kong Aik
    • Journal Title

      IEEE/ACM Transactions on Audio, Speech, and Language Processing

      Volume: 31 Pages: 2507~2522

    • DOI

      10.1109/TASLP.2023.3285283

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Spoofed Training Data for Speech Spoofing Countermeasure Can Be Efficiently Created Using Neural Vocoders2023

    • Author(s)
      Wang Xin、Yamagishi Junichi
    • Journal Title

      ICASSP 2023 - 2023 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)

      Volume: - Pages: 1-5

    • DOI

      10.1109/ICASSP49357.2023.10094779

    • Peer Reviewed / Open Access
  • [Journal Article] Revisiting Pathologies of Neural Models under Input Reduction2023

    • Author(s)
      Kruengkrai Canasai、Yamagishi Junichi
    • Journal Title

      Findings of the Association for Computational Linguistics: ACL 2023

      Volume: - Pages: 11504-11517

    • DOI

      10.18653/v1/2023.findings-acl.730

    • Peer Reviewed / Open Access
  • [Journal Article] Improving Generalization Ability of Countermeasures for New Mismatch Scenario by Combining Multiple Advanced Regularization Terms2023

    • Author(s)
      Zeng Chang、Wang Xin、Miao Xiaoxiao、Cooper Erica、Yamagishi Junichi
    • Journal Title

      Proc. INTERSPEECH 2023

      Volume: - Pages: 1998-2002

    • DOI

      10.21437/Interspeech.2023-125

    • Peer Reviewed / Open Access
  • [Journal Article] Range-Based Equal Error Rate for Spoof Localization2023

    • Author(s)
      Zhang Lin、Wang Xin、Cooper Erica、Evans Nicholas、Yamagishi Junichi
    • Journal Title

      Proc. INTERSPEECH 2023

      Volume: - Pages: 3212-3216

    • DOI

      10.21437/Interspeech.2023-1214

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] XFEVER: Exploring Fact Verification across Languages2023

    • Author(s)
      Yi-Chen Chang, Canasai Kruengkrai, Junichi Yamagishi
    • Journal Title

      Proceedings of the 35th Conference on Computational Linguistics and Speech Processing (ROCLING 2023)

      Volume: - Pages: 1-11

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Presentation] 音声のディープフェイク検知はどこまで可能か?2024

    • Author(s)
      山岸順一
    • Organizer
      第45回 けいはんな「エジソンの会」ディープフェイクの衝撃 ~現実と仮想の狭間で~
    • Invited

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi