• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実施状況報告書

線虫を用いた強化学習の試み

研究課題

研究課題/領域番号 20K21805
研究機関東京大学

研究代表者

飯野 雄一  東京大学, 大学院理学系研究科(理学部), 教授 (40192471)

研究期間 (年度) 2020-07-30 – 2023-03-31
キーワード線虫 / C. elegans / オプトジェネティクス / 強化学習 / 走性行動 / MDN-RNN
研究実績の概要

本研究では動物の行動を強化学習によりコントロールすることを試みた。材料として、体制が簡単で神経科学の研究も進んでおり多くのリソースが利用できる線虫C. elegansを用いた。コントロールのための手がかりとしてオプトジェネティクスを用いることとし、侵害受容感覚神経であるASH神経にチャネルロドプシンChR2を発現させた線虫を用いた。まず、ASH神経への光刺激に対する線虫の行動応答を計算機に学習させることを試みた。このモデリングのために、線虫の姿勢を5つの主成分スコアで表現し、自己回帰ニューラルネットワーク(RNN)に、混合ガウス分布の確率モデルを組み合わせたMDN-RNNを用いた。このモデルでは、RNNが過去の姿勢の時系列の入力を受けて次の行動を出力するが、その際に混合ガウス分布で確率的予測を行う。線虫を含め動物行動は確率的要素を含むのため、このモデルは行動を非常にうまく再現できることがわかった。さらに、このモデルに対して強化学習を施した。光刺激のタイミングを計算機が学習する。報酬は特定の場所に線虫が向かい、近づくこととした。強化学習を繰り返すことにより、線虫を特定の場所に向かわせるために必要な刺激パターンが学習された。すでに実動物における化学走性の行動機構が研究されているが、そこで知られるピルエット機構と同一の刺激パターンが学習された。さらに、強化学習で学習した結果に基づき、実動物の位置に応じて計算機が司令を出し実際に光を当てるという実験を行い、線虫を特定の場所に向かわせることに成功した。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

線虫の行動をコントロールすることに成功し、実動物での検証に至ったためほぼ順調な進展と考える。

今後の研究の推進方策

行動のモデリングが不十分であり、体を屈曲してターンする行動が十分再現されていない。この点を改善することにより、線虫をさらに正確にコントロールすることを目指す。

次年度使用額が生じた理由

行動レベルでの強化学習についてコロナ感染症により予定より実施・完成が遅れ、神経回路レベルでの強化学習の結果を完成させるために令和4年度まで実施が必要となったため。

  • 研究成果

    (3件)

すべて 2022 2021 その他

すべて 雑誌論文 (1件) (うち査読あり 1件、 オープンアクセス 1件) 学会発表 (1件) 備考 (1件)

  • [雑誌論文] Probabilistic generative modeling and reinforcement learning extract the intrinsic features of animal behavior2022

    • 著者名/発表者名
      Keita Mori, Naohiro Yamauchi, Haoyu Wang, Ken Sato, Yu Toyoshima, Yuichi Iino
    • 雑誌名

      Neural Networks

      巻: 145 ページ: 107-120

    • DOI

      10.1016/j.neunet.2021.10.002.

    • 査読あり / オープンアクセス
  • [学会発表] 線虫の行動制御神経回路機構の強化学習による探索2021

    • 著者名/発表者名
      山内直寛、森啓太、飯野雄一、銅谷賢治
    • 学会等名
      第44回日本神経科学大会
  • [備考] 飯野研究室

    • URL

      http://molecular-ethology.bs.s.u-tokyo.ac.jp/labHP/J/JTop.html

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi