生成AIの信頼性確保に向けた電子透かし技術の研究

• 研究課題/領域番号: 25K15127
• 研究種目: 基盤研究(C)
• 配分区分: 基金
• 応募区分: 一般
• 審査区分: 小区分60070:情報セキュリティ関連
• 研究機関: 大阪工業大学
• 研究代表者: 酒澤 茂之 大阪工業大学, 情報科学部, 教授 (80530823)
• 研究期間 (年度): 2025-04-01 – 2029-03-31
• 研究課題ステータス: 交付 (2025年度)
• 配分額: 5,720千円 (直接経費: 4,400千円、間接経費: 1,320千円); 2028年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円); 2027年度: 130千円 (直接経費: 100千円、間接経費: 30千円); 2026年度: 1,560千円 (直接経費: 1,200千円、間接経費: 360千円); 2025年度: 2,860千円 (直接経費: 2,200千円、間接経費: 660千円)
• キーワード: 生成AIの信頼性 / 電子透かし / 世代管理

研究開始時の研究の概要

急速に普及が進んでいる生成AIには有用性と並んで様々な懸念が挙げられており、その解決には懸念ごとに多面的な対策が求められる。様々な研究が生成AIを「利用」する際の問題を解決する観点から行われているのに対して、本研究では生成AIを「開発」する際に信頼性を担保するための技術を創出する。生成AIの開発のベースとなるAIモデルについて、その開発者を特定できるようにする目的で、AIモデルの内部に開発者ID情報を埋め込む電子透かし技術の研究を行う。特に、開発された生成AIが、新たな対象に合わせて再学習されるときにも、元の開発者及び再学習を行った開発者の両者のIDが確認できるようにする点に特徴がある。