• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Research-status Report

逆強化学習法による「動物の行動戦略を制御する神経基盤」の同定

Research Project

Project/Area Number 16K16147
Research InstitutionKyoto University

Principal Investigator

本田 直樹  京都大学, 生命科学研究科, 特定研究員 (30515581)

Project Period (FY) 2016-04-01 – 2020-03-31
Keywords行動戦略 / 逆強化学習
Outline of Annual Research Achievements

動物は行動パターンを制御することで新しい環境に適応することができる。このような行動戦略の同定は動物の意思決定を理解する上で重要である。しかしながら、行動戦略を同定する手法は未だ十分に確立されていなかった。そこで本研究では、動物の行動時系列データから行動戦略を同定する計算論的手法を開発した。この手法を線虫の温度走性行動に対して適用し、線虫が培養温度に移動していく行動戦略を同定することができた。その結果、同定された行動戦略から二つのモードを発見した。一つのモードは培養温度に効率的に移動する特性を持ち、もう一つのモードは等温線上を移動する特性を持つ。さらには、温度感受性神経細胞が機能していない系統の行動戦略を同定し、二つのモードがどのように変化するのかを明らかにした。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

動物の行動戦略を強化学習でモデル化し、動物の行動時系列データから行動戦略を同定する手法を提案した。強化学習のフレームワークとして線形可解マルコフ決定過程を採用し、動物は得られる報酬を最大化する行動戦略を既に獲得していると仮定した。そして、行動時系列データから行動戦略を表現する報酬関数を推定する手法を開発した。この手法を用いることで、線虫の温度走性における行動戦略を同定した。この成果を現在、論文にまとめている状況である。

Strategy for Future Research Activity

今年度の研究成果を論文として出版することを目指す。今年度開発した手法を、線虫だけではなく、別の動物の行動データへの適用を行なう。また、同定された行動戦略(報酬関数)から動物の行動をシミュレーションするための手法の開発を目指す。

Causes of Carryover

予定していた国際会議を別の予算で捻出したこと、また計算を既存のクラスター計算機で行ったことにより、次年度使用額が生じた。

Expenditure Plan for Carryover Budget

学生を研究補助として雇用し、また高性能計算機を購入することで、研究の促進を図る。

  • Research Products

    (7 results)

All 2016

All Journal Article (4 results) (of which Int'l Joint Research: 4 results,  Peer Reviewed: 4 results,  Open Access: 3 results) Presentation (3 results) (of which Int'l Joint Research: 3 results,  Invited: 1 results)

  • [Journal Article] Nonrandom germline transmission of mouse spermatogonial stem cells2016

    • Author(s)
      Kanatsu-Shinohara M, Naoki H and Shinohara T
    • Journal Title

      Developmental Cell

      Volume: 38 Pages: 248-261

    • DOI

      http://dx.doi.org/10.1016/j.devcel.2016.07.011

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Uncertainty-dependent Extinction of Fear Memory in an Amygdala-mPFC Neural Circuit Model.2016

    • Author(s)
      Li Y, Nakae K, Ishii S and Naoki H
    • Journal Title

      PLoS Computational Biology

      Volume: 12(9) Pages: e1005099

    • DOI

      https://doi.org/10.1371/journal.pcbi.1005099

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Two new FRET imaging measures: linearly proportional to and highly contrasting the fraction of active molecules.2016

    • Author(s)
      Yamao M, Aoki K, Yukinawa N, Ishii S, Matsuda M and Naoki H
    • Journal Title

      PLoS ONE

      Volume: 11(10) Pages: e0164254

    • DOI

      https://doi.org/10.1371/journal.pone.0164254

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Multi-phasic bi-directional chemotactic responses of the growth cone.2016

    • Author(s)
      Naoki H, Nishiyama M, Togashi K, Igarashi Y, Hong K and Ishii S
    • Journal Title

      Scientific Reports

      Volume: 6 Pages: 36256

    • DOI

      https://doi.org/10.1038/srep36256

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Presentation] Behavioral analysis of C. elegans by inverse reinforcement learning.2016

    • Author(s)
      Yamaguchi S, Ikeda M, Nakano S, Mori I, Ishii S and Naoki H
    • Organizer
      International Conference on Systems Biology
    • Place of Presentation
      Barcelona, Spain
    • Year and Date
      2016-09-16 – 2016-09-20
    • Int'l Joint Research
  • [Presentation] New measures in FRET imaging2016

    • Author(s)
      Naoki H and Yamao M
    • Organizer
      International Conference on Systems Biology
    • Place of Presentation
      Barcelona, Spain
    • Year and Date
      2016-09-16 – 2016-09-20
    • Int'l Joint Research
  • [Presentation] Decoding of intracellular signal transfer from FRET imaging: distinct functions of Rac1 and Cdc42 in cell migration, The 11th AIMS Conference on Dynamical Systems, Differential Equations and Applications2016

    • Author(s)
      Naoki H, Yamao M, Ishii S
    • Organizer
      The 11th AIMS Conference on Dynamical Systems, Differential Equations and Applications
    • Place of Presentation
      Orland, USA
    • Year and Date
      2016-07-01 – 2016-07-05
    • Int'l Joint Research / Invited

URL: 

Published: 2018-01-16  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi