• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

Life-Long Deep Learning using Bayesian Principles

研究課題

研究課題/領域番号 20H04247
研究種目

基盤研究(B)

配分区分補助金
応募区分一般
審査区分 小区分61030:知能情報学関連
研究機関国立研究開発法人理化学研究所

研究代表者

Khan Emtiyaz  国立研究開発法人理化学研究所, 革新知能統合研究センター, チームリーダー (30858022)

研究分担者 Alquier Pierre  国立研究開発法人理化学研究所, 革新知能統合研究センター, 研究員 (10865645)
横田 理央  東京工業大学, 学術国際情報センター, 教授 (20760573)
研究期間 (年度) 2020-04-01 – 2023-03-31
研究課題ステータス 完了 (2022年度)
配分額 *注記
18,200千円 (直接経費: 14,000千円、間接経費: 4,200千円)
2022年度: 2,470千円 (直接経費: 1,900千円、間接経費: 570千円)
2021年度: 3,640千円 (直接経費: 2,800千円、間接経費: 840千円)
2020年度: 12,090千円 (直接経費: 9,300千円、間接経費: 2,790千円)
キーワードContinual learning / Bayesian deep learning / Lifelong learning / continual learning / deep learning / Deep Learning / Continual Learning / Bayesian principles / adaptation / lifelong learning / reinforcement learning / active learning
研究開始時の研究の概要

By using Bayesian principles to “identify, memorize, and recall” useful past experiences during training, our goal is to design life-long learning AI systems. We expect our new methods to enable application of deep learning in more realistic settings than before.

研究成果の概要

現在のディープラーニングは、継続的に学習することができず、過去に見た情報を簡単に忘れてしまう傾向にある。本研究では、忘却を抑制する新しい深層学習の手法を開発する。これは、過去の記憶の中から重要なデータを特定し、それを再利用することで実現する。提案手法は継続学習を普遍的に改善する手法であり、性能の良い継続学習方法の大半は提案方法の派生であることを示すことができた。また、提案方法はスケーラブルであり実用的なスケールの問題に適用することもできる。

研究成果の学術的意義や社会的意義

Deep-learning methods require a huge amount of computing resources and also a lot of data. Our work reduces the dependencies on such resources. We aim to design AI systems that continue to learn and improve throughout their lifetime.

報告書

(4件)
  • 2022 実績報告書   研究成果報告書 ( PDF )
  • 2021 実績報告書
  • 2020 実績報告書
  • 研究成果

    (5件)

すべて 2021 2020

すべて 雑誌論文 (2件) (うち国際共著 2件、 査読あり 2件、 オープンアクセス 2件) 学会発表 (3件) (うち招待講演 3件)

  • [雑誌論文] Knowledge-Adaptation Priors2021

    • 著者名/発表者名
      Khan, Mohammad Emtiyaz E and Swaroop, Siddharth
    • 雑誌名

      Advances in Neural Information Processing Systems

      巻: 34

    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Continual deep learning by functional regularization of the memorable past2020

    • 著者名/発表者名
      Pan, P., Swaroop, S., Immer, A., Eschenhagen, R., Turner, R. and Khan, M. E.
    • 雑誌名

      Advances in Neural Information Processing Systems

      巻: 374 ページ: 4453-4464

    • 関連する報告書
      2020 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] K-priors: A General Principle of Adaptation2021

    • 著者名/発表者名
      Mohammad Emtiyaz Khan
    • 学会等名
      ICML 2021 workshop on Theory of Continual Learning
    • 関連する報告書
      2021 実績報告書
    • 招待講演
  • [学会発表] K-priors: A General Principle of Adaptation2021

    • 著者名/発表者名
      Mohammad Emtiyaz Khan
    • 学会等名
      KDD 2021 Workshop on Model Mining
    • 関連する報告書
      2021 実績報告書
    • 招待講演
  • [学会発表] Adaptive and Robust (Deep) Learning with Bayes2021

    • 著者名/発表者名
      Mohammad Emtiyaz Khan, Dharmesh Tailor, Siddharth Swaroop
    • 学会等名
      NeurIPS 2021 Bayesian deep learning workshop
    • 関連する報告書
      2021 実績報告書
    • 招待講演

URL: 

公開日: 2020-04-28   更新日: 2024-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi