• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

感覚神経回路における同期発火の神経機構とその情報科学的意義の解明

研究課題

研究課題/領域番号 14J08282
研究種目

特別研究員奨励費

配分区分補助金
応募区分国内
研究分野 ソフトコンピューティング
研究機関東京大学

研究代表者

唐木田 亮  東京大学, 新領域創成科学研究科, 特別研究員(DC1)

研究期間 (年度) 2014-04-25 – 2017-03-31
研究課題ステータス 完了 (2016年度)
配分額 *注記
2,800千円 (直接経費: 2,800千円)
2016年度: 900千円 (直接経費: 900千円)
2015年度: 900千円 (直接経費: 900千円)
2014年度: 1,000千円 (直接経費: 1,000千円)
キーワードニューラルネットワーク / 機械学習 / 勾配法 / 深層学習 / 計算論的神経科学 / ボルツマンマシン / 教師無し学習
研究実績の概要

本年度の目的は, 感覚系神経回路を模した数理モデルにおいて, 発火の情報科学的意義を解明することである. 申請当初の研究実施計画では生理実験の研究者と共同し, 感覚系の神経細胞集団における同期発火のデータ解析を想定していたが, 本年度はモデルと学習手法の理論構築に従事した. これは, 前年度までの研究が機械学習の手法として工学的に利用価値が高いため, 数理の立場からだけでも情報科学的意義の解明を十分に推進できると考えたためである.
神経回路モデルを機械学習の視点から観ると, 階層型モデルでは規格化因子の計算が困難である. この困難性を回避する学習手法の確立は工学的に意義深い. そこで本年度は規格化因子の計算を避ける学習手法として知られるscore matching法の幾何学的な特徴の解析とその特徴を活かしたアルゴリズムの開発を行った. 神経回路モデルの学習において, アルゴリズムは学習の収束を高速化することに成功した.
また, 階層型モデルは画像・音声認識において近年, 高い性能を発揮しているが, その学習を可能にする技術の中でも勾配法は重要である. そのような勾配法の中でWeight Normalizationと呼ばれる手法に着目し, この手法が学習の収束を高速化するメカニズムを理論とシミュレーションから明らかにした.
さらに, 前年度からの継続研究として, 生理学的に妥当な対数重み分布の結合によって自発発火を再現するモデルをシミュレーションにより解析した. その結果, 入力刺激に応じて脳波に近い周波数を持つ集団同期と発火・非発火の双安定状態が実現することを明らかにした.
以上の研究成果をまとめて, 国内学会7件における発表, および査読有り国際学会における3件の発表, 査読有り英文誌における2件の発表を行った.

現在までの達成度 (段落)

28年度が最終年度であるため、記入しない。

今後の研究の推進方策

28年度が最終年度であるため、記入しない。

報告書

(3件)
  • 2016 実績報告書
  • 2015 実績報告書
  • 2014 実績報告書
  • 研究成果

    (31件)

すべて 2017 2016 2015 2014 その他

すべて 雑誌論文 (7件) (うち査読あり 6件、 謝辞記載あり 4件、 オープンアクセス 1件) 学会発表 (23件) (うち国際学会 6件、 招待講演 4件) 備考 (1件)

  • [雑誌論文] Statistical mechanical analysis of online learning with weight normalization in single layer perceptron2017

    • 著者名/発表者名
      Yuki Yoshida, Ryo Karakida, Masato Okada, Shun-ichi Amari
    • 雑誌名

      Journal of the Physical Society of Japan

      巻: 86 号: 4 ページ: 044002-044002

    • DOI

      10.7566/jpsj.86.044002

    • NAID

      210000134329

    • 関連する報告書
      2016 実績報告書
    • 査読あり / 謝辞記載あり
  • [雑誌論文] Input Response of Neural Network Model with Lognormally Distributed Synaptic Weights2016

    • 著者名/発表者名
      Yoshihiro Nagano, Ryo Karakida, Norifumi Watanabe, Atsushi Aoyama, and Masato Okada
    • 雑誌名

      Journal of the Physical Society of Japan

      巻: 85(7) 号: 7 ページ: 1-7

    • DOI

      10.7566/jpsj.85.074001

    • NAID

      40020880769

    • 関連する報告書
      2016 実績報告書
    • 査読あり / 謝辞記載あり
  • [雑誌論文] Adaptive natural gradient learning algorithms for unnormalized statistical models2016

    • 著者名/発表者名
      Ryo Karakida, Masato Okada, Shun-ichi Amari
    • 雑誌名

      Lecture Notes in Computer Science (ICANN2016)

      巻: - ページ: 427

    • DOI

      10.1007/978-3-319-44778-0_50

    • ISBN
      9783319447773, 9783319447780
    • 関連する報告書
      2016 実績報告書
    • 査読あり / 謝辞記載あり
  • [雑誌論文] Adaptive natural gradient learning based on Riemannian metric of score matching2016

    • 著者名/発表者名
      Ryo Karakida, Masato Okada, Shun-ichi Amari
    • 雑誌名

      4th International Conference on Learning Representations (ICLR)- Workshop Track

      巻: - ページ: 1-6

    • 関連する報告書
      2016 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Weight Normalizationによる高速なオンライン学習の統計力学的解析2016

    • 著者名/発表者名
      吉田雄紀, 唐木田亮, 岡田真人, 甘利俊一
    • 雑誌名

      電子情報通信学会技術研究報告(IBISML)

      巻: 116 ページ: 101-108

    • 関連する報告書
      2016 実績報告書
  • [雑誌論文] Dynamical analysis of contrastive divergence learning: Restricted Boltzmann machines with Gaussian visible units2016

    • 著者名/発表者名
      Ryo Karakida, Masato Okada, Shun-ichi Amari
    • 雑誌名

      Neural Networks

      巻: 79 ページ: 78

    • DOI

      10.1016/j.neunet.2016.03.013

    • 関連する報告書
      2015 実績報告書
    • 査読あり / 謝辞記載あり
  • [雑誌論文] Maximum likelihood learning of RBMs with Gaussian visible units on the Stiefel manifold2016

    • 著者名/発表者名
      Ryo Karakida, Masato Okada, Shun-ichi Amari
    • 雑誌名

      Proceedings of European Symposium on Artificial Neural Networks (ESANN) 2016

      巻: 印刷中

    • 関連する報告書
      2015 実績報告書
    • 査読あり
  • [学会発表] 結合重みの最急勾配における動径座標の効果2017

    • 著者名/発表者名
      唐木田亮, 岡田真人, 甘利俊一
    • 学会等名
      日本物理学会第72回年次大会
    • 発表場所
      大阪大学(大阪府・吹田市)
    • 年月日
      2017-03-18
    • 関連する報告書
      2016 実績報告書
  • [学会発表] 深層生成モデルにおける概念形成の数値的検証2017

    • 著者名/発表者名
      長野祥大, 唐木田亮, 岡田真人
    • 学会等名
      日本物理学会第72回年次大会
    • 発表場所
      大阪大学(大阪府・吹田市)
    • 年月日
      2017-03-18
    • 関連する報告書
      2016 実績報告書
  • [学会発表] Weight Normalizationに基づく自然勾配法の実現2016

    • 著者名/発表者名
      唐木田亮, 岡田真人, 甘利俊一
    • 学会等名
      IBIS2016
    • 発表場所
      京都大学(京都府・京都市)
    • 年月日
      2016-11-17
    • 関連する報告書
      2016 実績報告書
  • [学会発表] 学習の力学理論の温故知新ー平衡点解析と統計力学的解析ー2016

    • 著者名/発表者名
      唐木田亮
    • 学会等名
      日本神経回路学会時限研究会「ニューラルネットの温故知新」
    • 発表場所
      電気通信大学(東京都・調布市)
    • 年月日
      2016-09-27
    • 関連する報告書
      2016 実績報告書
    • 招待講演
  • [学会発表] Adaptive natural gradient learning algorithms for unnormalized statistical models2016

    • 著者名/発表者名
      Ryo Karakida, Masato Okada, Shun-ichi Amari
    • 学会等名
      25th International Conference on Artificial Neural Networks (ICANN)
    • 発表場所
      バルエセロナ(スペイン)
    • 年月日
      2016-09-07
    • 関連する報告書
      2016 実績報告書
    • 国際学会
  • [学会発表] Gaussian-Bernoulli RBMにおける最尤学習を効率化する直交制約2016

    • 著者名/発表者名
      唐木田亮, 岡田真人, 甘利俊一
    • 学会等名
      第30回人工知能学会全国大会
    • 発表場所
      北九州国際会議場(福岡県・北九州市)
    • 年月日
      2016-06-09
    • 関連する報告書
      2016 実績報告書
  • [学会発表] 発火不規則性と集団振動現象を両立する神経回路モデルとその機能的意義2016

    • 著者名/発表者名
      長野祥大, 唐木田亮, 渡邊紀文, 青山敦, 岡田真人
    • 学会等名
      第30回人工知能学会全国大会
    • 発表場所
      北九州国際会議場(福岡県・北九州市)
    • 年月日
      2016-06-06
    • 関連する報告書
      2016 実績報告書
  • [学会発表] Adaptive natural gradient learning based on Riemannian metric of score matching2016

    • 著者名/発表者名
      Ryo Karakida, Masato Okada, Shun-ichi Amari
    • 学会等名
      4th International Conference on Learning Representations (ICLR)- Workshop Track
    • 発表場所
      サンファン(プエルトリコ)
    • 年月日
      2016-05-02
    • 関連する報告書
      2016 実績報告書
    • 国際学会
  • [学会発表] Maximum likelihood learning of RBMs with Gaussian visible units on the Stiefel manifold2016

    • 著者名/発表者名
      Ryo Karakida, Masato Okada, Shun-ichi Amari
    • 学会等名
      European Symposium on Artificial Neural Networks, Computational Intelligence and Machine Learning (ESANN)
    • 発表場所
      ブリュージュ(ベルギー)
    • 年月日
      2016-04-27
    • 関連する報告書
      2016 実績報告書
    • 国際学会
  • [学会発表] 不規則自発発火活動を示す神経回路モデルの外部入力応答2016

    • 著者名/発表者名
      長野祥大, 唐木田亮, 渡邊紀文, 青山敦, 岡田真人
    • 学会等名
      ニューロコンピューティング研究会
    • 発表場所
      玉川大学(東京都町田市)
    • 年月日
      2016-03-23
    • 関連する報告書
      2015 実績報告書
  • [学会発表] 直交制約に基づく連続値入力RBMの最尤学習2016

    • 著者名/発表者名
      唐木田亮, 岡田真人, 甘利俊一
    • 学会等名
      日本物理学会第71回年次大会
    • 発表場所
      東北学院大学(宮城県仙台市)
    • 年月日
      2016-03-22
    • 関連する報告書
      2015 実績報告書
  • [学会発表] 対数正規重みを持つ自発発火回路モデルの外部入力応答2016

    • 著者名/発表者名
      長野祥大, 唐木田亮, 渡邊紀文, 青山敦, 岡田真人
    • 学会等名
      日本物理学会第71回年次大会
    • 発表場所
      東北学院大学(宮城県仙台市)
    • 年月日
      2016-03-21
    • 関連する報告書
      2015 実績報告書
  • [学会発表] Efficient learning algorithms for finding maximum likelihood solutions in restricted Boltzmann machines2015

    • 著者名/発表者名
      Ryo Karakida
    • 学会等名
      Break and Beyond Detailed Balance Condition (BBDBC2015)
    • 発表場所
      京都大学(京都府京都市)
    • 年月日
      2015-12-22
    • 関連する報告書
      2015 実績報告書
    • 招待講演
  • [学会発表] Stiefel多様体における連続値入力RBMの最尤推定2015

    • 著者名/発表者名
      唐木田亮, 岡田真人, 甘利俊一
    • 学会等名
      IBIS2015
    • 発表場所
      つくば国際会議場(茨城県つくば市)
    • 年月日
      2015-11-27
    • 関連する報告書
      2015 実績報告書
  • [学会発表] On the capability of restricted Boltzmann machine learning to extract appropriate input features2015

    • 著者名/発表者名
      Ryo Karakida
    • 学会等名
      International Symposium on Object Vision in Human, Monkey, and Machine
    • 発表場所
      電気通信大学(東京都調布市)
    • 年月日
      2015-11-06
    • 関連する報告書
      2015 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] 連続値RBMにおける最尤推定とContrastive Divergence推定の一致2015

    • 著者名/発表者名
      唐木田亮, 岡田真人, 甘利俊一
    • 学会等名
      2015年度統計関連学会連合大会
    • 発表場所
      岡山大学(岡山県岡山市)
    • 年月日
      2015-09-08
    • 関連する報告書
      2015 実績報告書
  • [学会発表] 不規則自発発火回路が示す入力駆動の集団振動2015

    • 著者名/発表者名
      長野祥大, 唐木田亮, 渡邊紀文, 青山敦, 岡田真人
    • 学会等名
      第25回日本神経回路学会全国大会
    • 発表場所
      電気通信大学(東京都調布市)
    • 年月日
      2015-09-02
    • 関連する報告書
      2015 実績報告書
  • [学会発表] Identifying Feature Components Extracted by Contrastive Divergence Learning in Gaussian RBMs2015

    • 著者名/発表者名
      Ryo Karakida
    • 学会等名
      MLSS2015
    • 発表場所
      京都大学(京都府京都市)
    • 年月日
      2015-08-23
    • 関連する報告書
      2015 実績報告書
    • 国際学会
  • [学会発表] Equilibrium Analysis of Representation Learning in Gaussian RBMs2015

    • 著者名/発表者名
      Ryo Karakida
    • 学会等名
      New Frontiers in Non-equilibrium Physics 2015
    • 発表場所
      京都大学(京都府京都市)
    • 年月日
      2015-07-21
    • 関連する報告書
      2015 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] 連続値RBMにおけるContrastive Divergence学習の平衡点解析2015

    • 著者名/発表者名
      唐木田亮, 岡田真人, 甘利俊一
    • 学会等名
      日本物理学会第70回年次大会
    • 発表場所
      早稲田大学 (東京都新宿区)
    • 年月日
      2015-03-21 – 2015-03-24
    • 関連する報告書
      2014 実績報告書
  • [学会発表] Analysis of input features extracted by contrastive divergence learning in restricted Boltzmann machines2015

    • 著者名/発表者名
      Ryo Karakida, Masato Okada, Shun-ichi Amari
    • 学会等名
      脳と心のメカニズム 第15回冬のワークショップ
    • 発表場所
      ルスツリゾート (北海道留寿都村)
    • 年月日
      2015-01-07 – 2015-01-09
    • 関連する報告書
      2014 実績報告書
  • [学会発表] Analyzing feature extraction by contrastive divergence learning in RBMs2014

    • 著者名/発表者名
      Ryo Karakida, Masato Okada, Shun-ichi Amari
    • 学会等名
      Deep Learning And Representation Learning Workshop: NIPS2014
    • 発表場所
      モントリオール (カナダ)
    • 年月日
      2014-12-12
    • 関連する報告書
      2014 実績報告書
  • [学会発表] Analysis of feature extraction by contrastive divergence learning in restricted Boltzmann machines2014

    • 著者名/発表者名
      Ryo Karakida, Masato Okada, Shun-ichi Amari
    • 学会等名
      日本神経回路学会第24回全国大会 (JNNS2014)
    • 発表場所
      公立はこだて未来大学 (北海道函館市)
    • 年月日
      2014-08-27 – 2014-08-29
    • 関連する報告書
      2014 実績報告書
  • [備考] 岡田真人研究室ホームページ

    • URL

      http://mns.k.u-tokyo.ac.jp/~karakida/

    • 関連する報告書
      2014 実績報告書

URL: 

公開日: 2015-01-22   更新日: 2024-03-26  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi