• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

知識限界を明確化する機能分化された深層学習

研究課題

研究課題/領域番号 23K24898
補助金の研究課題番号 22H03642 (2022-2023)
研究種目

基盤研究(B)

配分区分基金 (2024)
補助金 (2022-2023)
応募区分一般
審査区分 小区分61030:知能情報学関連
研究機関東京工業大学

研究代表者

佐藤 育郎  東京工業大学, 情報理工学院, 特任准教授 (90895525)

研究分担者 篠田 浩一  東京工業大学, 情報理工学院, 教授 (10343097)
井上 中順  東京工業大学, 情報理工学院, 准教授 (10733397)
川上 玲  東京工業大学, 工学院, 准教授 (90591305)
研究期間 (年度) 2022-04-01 – 2025-03-31
研究課題ステータス 交付 (2024年度)
配分額 *注記
17,420千円 (直接経費: 13,400千円、間接経費: 4,020千円)
2024年度: 5,720千円 (直接経費: 4,400千円、間接経費: 1,320千円)
2023年度: 5,720千円 (直接経費: 4,400千円、間接経費: 1,320千円)
2022年度: 5,980千円 (直接経費: 4,600千円、間接経費: 1,380千円)
キーワード深層学習 / 記憶想起 / 推論根拠 / トランスフォーマー / 潜在表現 / 目標値伝播法 / 人工知能 / 映像認識
研究開始時の研究の概要

深層学習モデルに知識限界の内外判定と,記憶への関連付けの機能を持たせるための方法として,機能分化されたモジュール『外部記憶検索器』,『生成的予測器』,『時系列整合判定器』を組み込むことを検討する.脳にヒントを得たこの手法の開発は,AI分野の進展のみならず,AIの実利用における安全性の根拠の確立といった意義を持つ.

研究実績の概要

シナプティック記憶テーマについて,従来法の課題を解決できる理論的枠組みを構築した.巡回型のモダンホップフィールドネットワークは,入力クエリに対し,モデルの内部に持つ記憶データの関連付けが行えるが,クエリが分布外データに相当するときに誤った関連付けを行ってしまう.この課題に対し,我々は分布の内外判定機能を持たせることによって原理的に課題を解決できる方法を定式化した.現在論文を執筆中である.
人物行動の生成的予測テーマについて,異なる人体モデルに基づくデータを統括的に学習に用いることのできるアルゴリズムを開発し,国際会議ECCVに論文を投稿した(査読中).この手法により,人体モデルの定義が異なるデータセットを学習でき,より自然な行動生成が行えることを確認した.
視点変化の下での三次元理解テーマについて,生成器と回帰器の協調的推論という新規な提案を行い,回帰器のみを用いる従来法に対する性能改善効果を確認した.国際会議ICIPに論文を投稿した(査読中).機能分化されたモデル群(異なる目的関数によって最適化された複数のネットワーク)が協調的に働くことで下流タスクの性能が改善できることを示すことが出来た.
時系列整合判定テーマについて,既存の自動運転用の認識器の特徴に整合を壊す成分が含まれる課題を確認した.
目標値伝播法テーマについては,従来法の性能改善として,順・逆ネットワークのヤコビアンの整合性を取る方法を提案した(Y. Baoら,AAAI 2024).

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

シナプティック記憶テーマについては,計画通りに理論構築が完了したことから,概ね順調に進展している.
人物行動の生成的予測テーマについては,マルチデータセット学習を可能にする画期的な方法を開発し,論文投稿を完了できたため,目標以上の成果を達成出来た.
視点変化の下での三次元理解テーマについては,機能分化された深層モデルの有効性を確認でき,計画通りの成果を得た.
時系列整合判定テーマについては,従来の課題抽出を完了し,次年度の方針が固まったことから,計画通りである.
目標値伝播法テーマについては,2本目の論文採録を達成し,目標以上の成果を達成できた.

今後の研究の推進方策

主たるテーマであるシナプティック記憶テーマについて,重点的に議論し,手法開発を行う.手法の実用化のためにはモデルの計算量削減が必要であり,記憶データの保持の仕方について研究する.
時系列整合判定テーマについては,昨今注目を集める,自動運転用の鳥観図表現の時系列整合を高めるための手法を開発する.これまでの検討により,従来的なモデルが出力する表現には,整合性を損なう成分が含まれることを確認している.この成分を抑制する正則化方法を検討する.

報告書

(2件)
  • 2023 実績報告書
  • 2022 実績報告書
  • 研究成果

    (5件)

すべて 2023 2022

すべて 学会発表 (4件) (うち国際学会 3件) 産業財産権 (1件)

  • [学会発表] Efficient Target Propagation by Deriving Analytical Solution2023

    • 著者名/発表者名
      Yanhao Bao, Tatsukichi Shibuya, Ikuro Sato, Rei Kawakami, Nakamasa Inoue
    • 学会等名
      AAAI
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Learning with Partial Forgetting in Modern Hopfield Networks2023

    • 著者名/発表者名
      Toshihiro Ota, Ikuro Sato, Rei Kawakami, Masayuki Tanaka, Nakamasa Inoue
    • 学会等名
      Artificial Intelligence and Statistics (AISTATS) 2023
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Fixed-Weight Difference Target Propagation2023

    • 著者名/発表者名
      Tatsukichi Shibuya, Nakamasa Inoue, Rei Kawakami, Ikuro Sato
    • 学会等名
      Association for the Advancement of Artificial Intelligence (AAAI) 2023
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] 生成的特徴量の角度依存性に着目した視点角度推定の精度向上2022

    • 著者名/発表者名
      チェンマーク, 川上玲, 佐藤育郎, 苗村健
    • 学会等名
      IPSJ SIG-CVIM: Computer Vision and Image Media
    • 関連する報告書
      2022 実績報告書
  • [産業財産権] 情報処理装置、情報処理方法およびプログラム2022

    • 発明者名
      太田敏博,佐藤育郎,川上玲,井上中順,田中正行,石川康太
    • 権利者名
      株式会社デンソーアイティーラボラトリ
    • 産業財産権種類
      特許
    • 産業財産権番号
      2022-148317
    • 出願年月日
      2022
    • 関連する報告書
      2022 実績報告書

URL: 

公開日: 2022-04-19   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi