電子透かし技術による深層学習モデルと出力されるコンテンツの正当性保証

• 研究課題/領域番号: 25K15225
• 研究種目: 基盤研究(C)
• 配分区分: 基金
• 応募区分: 一般
• 審査区分: 小区分61030:知能情報学関連
• 研究機関: 東北大学
• 研究代表者: 栗林 稔 東北大学, データ駆動科学・AI教育研究センター, 教授 (50346235)
• 研究期間 (年度): 2025-04-01 – 2028-03-31
• 研究課題ステータス: 交付 (2025年度)
• 配分額: 4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円); 2027年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円); 2026年度: 1,560千円 (直接経費: 1,200千円、間接経費: 360千円); 2025年度: 1,820千円 (直接経費: 1,400千円、間接経費: 420千円)
• キーワード: 電子透かし

研究開始時の研究の概要

攻撃者が汚染されたデータセットを用いて再学習させることで，AIシステムにバックドアや意図的なバイアスが挿入される可能性が指摘されている．本研究ではAIシステムの健全性を確認できるように，モデル内に検証用の情報を埋め込む方法を検討する．また，加工・編集および生成したコンテンツには，使用されたAIシステムの履歴情報を含ませることで，その正当性を確認できるAIシステムの実現を目指す．