DNN watermark to guarantee the legitimacy of output content

• Project/Area Number: 25K15225
• Research Category: Grant-in-Aid for Scientific Research (C)
• Allocation Type: Multi-year Fund
• Section: 一般
• Review Section: Basic Section 61030:Intelligent informatics-related
• Research Institution: Tohoku University
• Principal Investigator: 栗林 稔 東北大学, データ駆動科学・AI教育研究センター, 教授 (50346235)
• Project Period (FY): 2025-04-01 – 2028-03-31
• Project Status: Granted (Fiscal Year 2025)
• Budget Amount: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000); Fiscal Year 2027: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000); Fiscal Year 2026: ¥1,560,000 (Direct Cost: ¥1,200,000、Indirect Cost: ¥360,000); Fiscal Year 2025: ¥1,820,000 (Direct Cost: ¥1,400,000、Indirect Cost: ¥420,000)
• Keywords: 電子透かし

Outline of Research at the Start

攻撃者が汚染されたデータセットを用いて再学習させることで，AIシステムにバックドアや意図的なバイアスが挿入される可能性が指摘されている．本研究ではAIシステムの健全性を確認できるように，モデル内に検証用の情報を埋め込む方法を検討する．また，加工・編集および生成したコンテンツには，使用されたAIシステムの履歴情報を含ませることで，その正当性を確認できるAIシステムの実現を目指す．