Deep Fake Impact Analysis on Human Perception

• Project/Area Number: 22K12722
• Research Category: Grant-in-Aid for Scientific Research (C)
• Allocation Type: Multi-year Fund
• Section: 一般
• Review Section: Basic Section 90020:Library and information science, humanistic and social informatics-related
• Research Institution: Kokushikan University
• Principal Investigator: 加藤 将貴 国士舘大学, 政経学部, 准教授 (50644712)
• Project Period (FY): 2022-04-01 – 2025-03-31
• Project Status: Granted (Fiscal Year 2023)
• Budget Amount: ¥2,860,000 (Direct Cost: ¥2,200,000、Indirect Cost: ¥660,000); Fiscal Year 2024: ¥260,000 (Direct Cost: ¥200,000、Indirect Cost: ¥60,000); Fiscal Year 2023: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000); Fiscal Year 2022: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
• Keywords: ディープフェイク / 信用評価

Outline of Research at the Start

ディープフェイクにおいて、人がフェイクを本物と誤認する条件を導出するために、フェイクに付帯するコンテクスト（文脈）の条件設定を変え、複合要因を含めた総合的な分析を実施する。フェイク情報に接する人側の認識にアプローチし、結果として、悪意のあるフェイクの拡散抑止に貢献する学術的・社会的波及効果を目的とする研究である。

Outline of Annual Research Achievements

本研究は、ディープフェイクにおいて人がフェイクを本物と誤認する要素を分析し、結果として悪意のあるフェイクの拡散防止に貢献することを目的とする。か つて、画像や動画の加工は専門知識と高性能の機器・ソフトウェアが無ければ難しく、写真や動画の真正性は高いものであったが、現在ではハードウェアの高性 能化とソフトウェアの進化によって、画像や動画の加工は一般化している。さらに、SNSや動画投稿サイトの利用者が著しく増加し、インパクトのある情報は正 確性や真偽が十分に検証されないまま急激に拡散する。そのため、悪意や虚偽の情報を含んだ高度な技術を用いたフェイクが真実と誤認され広がった場合、深刻 な影響が危惧されることから着想に至った。
本研究の周辺状況はジェネレーティブAIの急拡大により、継続的に移り変わっている。そこで、先行研究及び関連分野の調査として、ディープフェイクの法規制や倫理的課題、検知技術など前年度よりも幅広く調査を実施した。諸外国と日本との法規制においては、諸外国の方が先行していることが分かり、検知技術においては、特にアメリカにおいてディープフェイクを含めたディスインフォメーション活動の検知自動化についての研究開発が進められていることなどが分かった。
研究精度の向上を目的として、2024年度より東京大学大学院 情報学環・学際情報学府に客員研究員として受け入れ機関となってもらうための申請書を作成・提出しこれが承認された。

Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

先行研究及び関連分野の調査が進み研究の足場を固めることができたが、前年度における研究の遅れが当該年度にも影響を及ぼしたため。

Strategy for Future Research Activity

2024年4月より、本務校の学外派遣研究員等の制度を利用して東京大学大学院 情報学環・学際情報学府において研究を進める。 研究に遅れが生じている状況であるため、計画を再策定し研究を推進する。