• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

計算代数幾何に基づく深層学習モデルの理論と応用

研究課題

研究課題/領域番号 20K23341
研究種目

研究活動スタート支援

配分区分基金
審査区分 1002:人間情報学、応用情報学およびその関連分野
研究機関千葉大学 (2021)
東京大学 (2020)

研究代表者

計良 宥志  千葉大学, 大学院工学研究院, 助教 (00887705)

研究期間 (年度) 2020-09-11 – 2022-03-31
研究課題ステータス 完了 (2021年度)
配分額 *注記
2,860千円 (直接経費: 2,200千円、間接経費: 660千円)
2021年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2020年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
キーワード深層学習 / 敵対的攻撃 / 敵対的転移性 / ドメイン適応 / 計算代数幾何 / 消失イデアル / 近似計算代数幾何
研究開始時の研究の概要

Deep Neural Networksに代表される深層学習モデルは現代の新たな学習モデルであり,様々な応用で目覚ましい成果を上げている.このモデルは入力に対し繰り返し線形演算と非線形演算を適用する形で構成され非常に表現能力が高い.しかし,なぜ,そしてどのくらい表現能力が高いのか,この複雑なモデルをなぜ効率よく最適化できるのかなど,様々な理論的性質が未だ明らかになっていない.本研究では,計算代数幾何という新たな視点でこれらの解明に取り組む.また理論面のみならず,近年発展した消失イデアルの近似基底計算に立脚した新たな深層学習モデルを設計し,精度とデータの性質に関する関係を定式化する.

研究成果の概要

深層学習モデルはその高い表現能力で知られるが,入力に微小な変動をうまく加えることでその振る舞いを大きく変化するため,信頼性の観点で大きな課題を残す.この微小変動が,複数の深層学習モデルに対し悪影響を与える課題に対し,主に二つの成果を得た.一つは深層学習モデルの構造を進化計算で探索し,いくつかモデルに悪影響を与える微小変動に対して頑健な関数を学習できるような構造が存在することを示した.またこの微小変動を利用し,あるドメインでの学習結果を別のドメインの学習に活用できるという新たな応用を物体認識タスクにおいて示した.両研究とも国際論文誌IEEE Accessに採択されている.

研究成果の学術的意義や社会的意義

本研究では,敵対的攻撃から深層学習モデルを守るメカニズムをモデル構造という新たな観点から分析し,また敵対的攻撃をドメイン適応タスクでの精度向上へと繋げる新たな応用を示した.前者は学術的には深層学習で学習される関数の特性に関わり,統計的・幾何的理解が求められており,また産業的にも人工知能システムの信頼性に深く関わる問題である.後者は敵対的攻撃の手法を頑健性向上でなく精度向上へ活用している.従来は頑健性と精度にはある種のトレードオフが存在していたが,ドメイン適応というタスクでこれを回避できた点が興味深い.これらの研究を通して,深層学習の関数特性に関する基礎的・応用的貢献が行えたと考える.

報告書

(3件)
  • 2021 実績報告書   研究成果報告書 ( PDF )
  • 2020 実施状況報告書
  • 研究成果

    (4件)

すべて 2022 2021 その他

すべて 国際共同研究 (1件) 雑誌論文 (1件) (うち国際共著 1件、 査読あり 1件、 オープンアクセス 1件) 学会発表 (2件)

  • [国際共同研究] Chulalongkorn University(タイ)

    • 関連する報告書
      2021 実績報告書
  • [雑誌論文] Evolving Architectures With Gradient Misalignment Toward Low Adversarial Transferability2021

    • 著者名/発表者名
      Operiano Kevin Richard G.、Pora Wanchalerm、Iba Hitoshi、Kera Hiroshi
    • 雑誌名

      IEEE Access

      巻: 9 ページ: 164379-164393

    • DOI

      10.1109/access.2021.3134840

    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] 敵対的訓練を用いたドメイン不変な特徴抽出2022

    • 著者名/発表者名
      藤井 一磨,計良 宥志,川本一彦
    • 学会等名
      情報処理学会研究報告
    • 関連する報告書
      2021 実績報告書
  • [学会発表] Reducing Transferability using Neuroevolution with Gradient Misalignment2021

    • 著者名/発表者名
      Kevin Richard Operiano, Wanchalerm Pora, 伊庭斉志,計良宥志
    • 学会等名
      進化計算シンポジウム2021
    • 関連する報告書
      2021 実績報告書

URL: 

公開日: 2020-09-29   更新日: 2023-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi