• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2018 Fiscal Year Annual Research Report

Elucidation of the Mathematical Basis and Neural Mechanisms of Multi-layer Representation Learning

Planned Research

Project AreaCorrespondence and Fusion of Artificial Intelligence and Brain Science
Project/Area Number 16H06563
Research InstitutionOkinawa Institute of Science and Technology Graduate University

Principal Investigator

銅谷 賢治  沖縄科学技術大学院大学, 神経計算ユニット, 教授 (80188846)

Project Period (FY) 2016-06-30 – 2021-03-31
Keywordsディープラーニング / 強化学習 / モジュール自己組織化
Outline of Annual Research Achievements

1) 多階層表現学習の数理基盤:ディープラーニングを強化学習に用いる場合に、学習の安定性を保証しながらデータ効率を改善するConservative Value Iterationアルゴリズムの収束速度の数理解析とシミュレーション実験結果を、国際会議に投稿した。また、ディープラーニングをモデルベース強化学習に用いる場合の数理的な問題点を解析し、安定に効率よく学習するためのアルゴリズムTotal Propagation法を提案し、国際会議で発表した。
2) 多階層表現学習の神経機構:強化学習課題中のラットの神経活動計測データに対してタスクレベル、空間レベル、身体運動レベルの変数による回帰分析をさらに進め、前頭前野と線条体背内側部ではタスクイベントを表現するニューロンが、運動野と線条体背外側部には運動情報を表現するニューロンが多いことを明らかにした。うつ病患者と対照群の安静時fMRIを含む多種のデータに、新たに開発した教師なし学習手法を適用することにより、抗うつ薬の有効性に関わるうつ病のサブタイプを同定することに成功した。
3) 全脳レベルのモジュール自己組織化:大脳皮質の神経回路において、ボトムアップの感覚情報とトップダウンの予測情報が統合されるメカニズムを明らかにするため、レバーの微小な動きを識別し操作する行動課題を実行中のマウス大脳皮質の異なる層の神経活動をプリズム内視鏡を用いて同時計測する実験を継続し、行動中の神経活動のイメージングを実現した。セロトニンニューロンの光遺伝学刺激による報酬待機行動の促進は、報酬の確実さ待機時間の不確かさに依存するという知見に対して、セロトニンが報酬獲得の事前確率を制御するという仮説に基づくベイズ意思決定モデルを提案し、シミュレーションにより実験データを再現することに成功した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

1) 多階層表現学習の数理基盤:学習の安定性を保ちつつデータ効率を上げる新たな強化学習アルゴリズムに関する論文を国際学会ICML2018, NeurIPS2018, AISTATS2019に投稿し、採択された。
2) 多階層表現学習の神経機構:教師なし学習によるうつ病サブタイプの同定について、Scientific Reports誌に論文発表を行った。
3) 全脳レベルのモジュール自己組織化:セロトニンが報酬獲得の事前確率を制御するというモデルに基づく論文を、Nature Communications誌に出版した。

Strategy for Future Research Activity

1) 多階層表現学習の数理基盤:提案した新たな学習アルゴリズムが安定に効率よく動作することを、ロボット制御などの課題で実証する。
2) 多階層表現学習の神経機構:大脳皮質と大脳基底核の多階層情報表現に関する知見を論文として発表する。
3) 全脳レベルのモジュール自己組織化:大脳皮質でのボトムアップの感覚情報とトップダウンの予測情報が統合されるメカニズムについての光学神経活動計測実験をさらに進め、一次感覚野の各層の動的な情報表現の違いを明らかにする。

  • Research Products

    (21 results)

All 2019 2018 Other

All Journal Article (2 results) (of which Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (16 results) (of which Int'l Joint Research: 8 results,  Invited: 8 results) Remarks (2 results) Patent(Industrial Property Rights) (1 results) (of which Overseas: 1 results)

  • [Journal Article] Reward probability and timing uncertainty alter the effect of dorsal raphe serotonin neurons on patience2018

    • Author(s)
      Miyazaki Katsuhiko, Miyazaki Kayoko W.,Yamanaka Akihiro,Tokuda Tomoki,Tanaka Kenji F., Doya Kenji
    • Journal Title

      Nature Communications

      Volume: 9 Pages: 2048

    • DOI

      10.1038/s41467-018-04496-y

    • Peer Reviewed / Open Access
  • [Journal Article] Identification of depression subtypes and relevant brain regions using a data-driven approach2018

    • Author(s)
      Tokuda Tomoki, Yoshimoto Junichiro,Shimizu Yu, Okada Go,Takamura Masahiro, Okamoto Yasumasa, Yamawaki Shigeto, Doya Kenji
    • Journal Title

      Scientific Reports

      Volume: 8 Pages: 14082

    • DOI

      10.1038/s41598-018-32521-z

    • Peer Reviewed / Open Access
  • [Presentation] Neural circuit for mental simulation2019

    • Author(s)
      Doya K
    • Organizer
      Computational and Systems Neuroscience 2019 (COSYNE2019)
    • Int'l Joint Research / Invited
  • [Presentation] Patience and beyond2019

    • Author(s)
      Doya K
    • Organizer
      COSYNE 2019 Workshop -Advances and Convergences in 5-HT Research
    • Int'l Joint Research / Invited
  • [Presentation] Neural circuits for reinforcement learning and mental simulation2019

    • Author(s)
      Doya K
    • Organizer
      5th Coreto Core International Symposium "3D LabExchange Program"
    • Int'l Joint Research / Invited
  • [Presentation] Neuronal activity of macaque visual cortices during free viewing2019

    • Author(s)
      Yamane Y, Ito J, Joana C, Fujita I, Tamura H, Maldonado P, Doya K, Grun S
    • Organizer
      The 19th winter workshop Mechanism of Brain and Mind
  • [Presentation] 人工知能は脳から何を学べるか2018

    • Author(s)
      銅谷賢治
    • Organizer
      第26回脳の世紀シンポジウム「AIと脳」
    • Invited
  • [Presentation] 想像力と知能の脳回路を可視化する2018

    • Author(s)
      銅谷賢治
    • Organizer
      第58回日本核医学会学術総会-合同特別講演(県民公開講座を兼ねる)
    • Invited
  • [Presentation] Introductory talk: Building autonomous robots to understand what brains do2018

    • Author(s)
      Doya K
    • Organizer
      Satellite workshop of The 8th International Symposium on Biology of Decision Making (SBDM2018)
    • Int'l Joint Research
  • [Presentation] ロボットと人工知能から行動障害と脳機能へのアプローチ2018

    • Author(s)
      銅谷賢治
    • Organizer
      第22回日本摂食障害学会学術集会
    • Invited
  • [Presentation] Neural circuits for reinforcement learning and mental simulation2018

    • Author(s)
      Doya K
    • Organizer
      OIST-KAIST Symposium: Intelligence in Biological Systems and Its Application to Machines
    • Invited
  • [Presentation] 脳の回路モジュールはなぜうまく繋がれるのか2018

    • Author(s)
      銅谷賢治
    • Organizer
      第3回 全脳アーキテクチャシンポジウム 「脳に学んで良き汎用知能に至る道筋」
    • Invited
  • [Presentation] Theoretical analysis of Non-exact retrace algorithm2018

    • Author(s)
      Kozuno T, Doya K
    • Organizer
      The 28th Annual Conference of the Japanese Neural Network Society (JNNS2018 )
    • Int'l Joint Research
  • [Presentation] Total stochastic gradient algorithms and applications in reinforcement learning2018

    • Author(s)
      Paramas P
    • Organizer
      The 32nd Conference on Neural Information Processing Systems (NeurIPS2018)
    • Int'l Joint Research
  • [Presentation] Total stochastic gradient algorithms with application to model-based reinforcement learning2018

    • Author(s)
      Paramas P
    • Organizer
      The 21st Information -based induction science workshop (IBIS2018)
  • [Presentation] PIPPS: Flexible model-based policy search robust to the curse of chaos2018

    • Author(s)
      Parmas P, Rasmussen Carl E, Peters Jan, Doya, Kenji
    • Organizer
      The 35th International Conference on Machine Learning (ICML2018)
    • Int'l Joint Research
  • [Presentation] Representation of fixated objects by multiple single unit activity in visual cortices of freely viewing macaque monkeys2018

    • Author(s)
      Yamane Y, Ito J, Joana C, Fujita I, Tamura H, Maldonado P, Doya K, Grun S
    • Organizer
      11th FENS Forum of Neuroscience
    • Int'l Joint Research
  • [Presentation] Inferring fixated objects in free viewing from parallel neuronal spiking activities in macaque monkeys2018

    • Author(s)
      Yamane Y, Ito J, Joana C, Fujita I, Tamura H, Maldonado P, Doya K, Grun S
    • Organizer
      The 41st Annual Meeting of the Japan Neuroscience Society
  • [Remarks] 人工知能と脳科学の対照と融合

    • URL

      http://www.brain-ai.jp/jp/

  • [Remarks] 沖縄科学技術大学院大学 神経計算ユニット

    • URL

      https://groups.oist.jp/ncu

  • [Patent(Industrial Property Rights)] Total stochastic gradient method2018

    • Inventor(s)
      Paavo Parmas
    • Industrial Property Rights Holder
      沖縄科学技術大学院大学
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      US 62/749,908
    • Overseas

URL: 

Published: 2019-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi