2023 Fiscal Year Research-status Report
AI知財保護・汚染モデル除去を指向した連合学習の実行プラットフォーム
| Project/Area Number |
23K11112
|
|---|
| Research Institution | Meijo University |
|---|
Principal Investigator |
吉川 雅弥 名城大学, 情報工学部, 教授 (50373098)
|
|---|
| Project Period (FY) |
2023-04-01 – 2027-03-31
|
| Keywords | 連合学習 / 知財保護 / セキュア認証 |
|---|
| Outline of Annual Research Achievements |
内閣府のAI戦略2022では，「AIとデジタル化に伴う脆弱性の克服」を掲げており，それにはゼロトラスト環境下でも安全に利用できるAIが必須である。AIのセキュリティに関して，データを集約せずに分散した状態で学習する連合学習は，学習データの保護やプライバシーを確保することができる。しかし，連合学習では，学習モデル生成に必要な情報を交換するため，モデルパラメータなどのAI知財が窃取される危険性がある。また，悪意あるデータや間違ったデータで学習した汚染学習モデルが混入する恐れもある。
申請研究では，連合学習において(a)AI知財を保護する事と(b)汚染された学習モデルの除去を実現する。まず(a)AI知財保護での (a-1)連合学習でのモデルパラメータ等のセキュアなデータ交換手法では，令和5年度においては，AIを指向したPhysically unclonable function（PUF）による認証システムの要素技術として，複数のPUFの実装評価実験を行い，実装のオーバーヘッドを含めて，その特性を明らかにした。また，(b) 汚染学習モデル除去について，汚染学習モデルを生成するポイズニングやバックドアといった不正な攻撃は，少数の汚染されたデータを訓練データに混入する。そのため，ポイズニング・バックドア付学習モデルを作成して，確信度の偏りなどのその識別特性を明らかにした。
本年度の研究成果については，申請研究に関連するものも含めて，国内の学術論文誌での発表と，国内の研究会等で口頭発表を行った。また，申請研究をこれまでと同様に推進するためにセキュリティの専門家だけでなく人工知能の専門家とも，適宜，意見交換・情報交換を行った。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
申請研究での(a)AI知財を保護する事ために必要な要素技術であるPUFを用いた認証手法などの実装評価実験は，当初の予定どおりに行うことが出来た。また，(b) 汚染学習モデル除去についても，汚染学習モデルの生成やその特性評価を定量的に行うことも出来た。
これらについては，予定通り外部発表も行い順調に進展しているが，仮想環境での連合学習のプラットフォームの構築に関しては，複数のライブラリのバージョンの問題などで，予定していた環境の構築が達成できていない。
一方で，当初の研究計画には無かった実装に関する新しい知見などを得ることができ，この知見により，より実用的なプラットフォームの開発の可能性が高まった。
|
| Strategy for Future Research Activity |
令和6年度は，申請研究について，当初の計画を進めると共に，令和5年度に達成できなかった仮想環境での連合学習のプラットフォームを構築して，実環境での必要要件を整理して，実機環境を整備する。
また，令和5年度と同様に，研究成果については，適宜，申請研究に関連するものも含めて，国内の学術論文誌での発表と，国内の研究会等で口頭発表を行う。また，申請研究を令和5年度と同様に推進するためにセキュリティの専門家だけでなく人工知能の専門家とも，適宜，意見交換・情報交換を行う予定である。
|
| Causes of Carryover |
（次年度使用が生じた理由）
当初の計画では，連合学習でのクライアントでPUFの評価として，FPGAボードを購入予定であったが，実機評価前の仮想環境での構築が未完了のため，これらの購入を行わなかったため，関連する予算を令和6年度に繰り越した。また，研究成果について国際会議での参加・発表を行う予定であったが，まず，国内での発表で内容をブラッシュアップしていたため，国際会議での参加・発表に関連する予算も令和6年度に繰り越した。
（使用計画）
令和6年度は，当初計画にあるように適宜，成果を発表・社会に還元するなど研究を遂行するだけでなく，令和5年度に未達の研究内容についても遂行する。これにより，予算についても，当初計画通りになるようにする。
|
