| 研究課題/領域番号 |
14J08282
|
|---|
| 研究機関 | 東京大学 |
|---|
研究代表者 |
唐木田 亮 東京大学, 新領域創成科学研究科, 特別研究員(DC1)
|
|---|
| 研究期間 (年度) |
2014-04-25 – 2017-03-31
|
| キーワード | ニューラルネットワーク / 機械学習 / 深層学習 / 計算論的神経科学 |
|---|
| 研究実績の概要 |
前年度からの継続研究対象であるRBMモデルでは, アルゴリズム開発によるRBMモデルの性能の向上を進めた. RBMモデルでは, 既存手法において学習の収束や解の性質の理論保証がない点が短所として知られていた. この問題に対し, 本年度は, シナプス結合パラメータの値を特定の形に制約することで, 最尤解への収束が保証された学習を実現できることを明らかにした. 研究実施計画では入力情報とモデルが表現できる情報の関係を議論することを目的のひとつに挙げていたが, 提案手法はモデルが表現できる情報を特定しながら効率の良い入力情報の抽出が実現可能であることを明らかにしており, 目的のひとつを達成しているといえる.
また本年度は, 同期発火による発火の分離と結合を再現するモデルとして, 昨年度に研究を行った共通入力モデルと異なるモデルの研究も行った. 感覚系を含む脳神経では入力刺激が遮断されても自発的な発火が起こることが生理実験によって報告されている. この自発発火活動を再現する配線構造を組み込んだモデルとして, シナプス結合重みの分布を対数正規分布に制限して再現するSSWDモデルが知られている. SSWDモデルは生理学的に妥当な配線構造や重み分布を取り込んでいるため, 共通入力モデルよりも実際の脳神経に近い挙動を再現できることが期待される. このSSWDモデルにおいて, 入力刺激が加わると自発発火状態が脳波のγ波に対応する集団同期に遷移することをシミュレーション実験によって明らかにした. さらに, 自発発火時と同期発火時の個々のニューロンの発火率は相関していることを定量的に評価できた. 本研究は, SSWDモデルが力入刺激の柔軟な結合と分離を実現できることを示しており, 神経科学の知見としても脳型情報処理デバイスを開発するうえでも重要な発見である.
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
申請時の年次計画では, 入力刺激の識別と表現の性能を配線構造を組み込んだ共通入力モデルにおいて, 発火相関を使って評価することを予定していた. しかし共通入力モデルに比べて, 昨年度の研究で解析が大きく進んだRBMモデルの方が, 入力情報の学習まで組み込まれているため, 入力刺激の識別と表現を評価するうえで神経科学的にも工学的にも重要と考えられる. そこで, 本年度は共通入力モデルではなくRBMモデルの解析を進めた. その結果として, 表現の性能を評価したうえで新しい学習手法を提案できたので, おおむね順調に進展しているといえる. また, 入力刺激の識別の評価は, RBMモデルへの入力に教師データも含めれば本年度までの性能評価や提案学習手法を適用できるため, 来年度以降に容易に取り扱うことができる.
RBMモデルの研究の一方で, 本年度は新しくSSWDモデルの解析を所属研究室の学生や外部組織の研究者と共同で行った. 共同研究者の協力もあり, わずか1年足らずで, SSWDモデルが同期発火のメカニズムの解明や情報科学的意義を知るうえで欠かせない現象であるγ波や発火率分布の保存を再現することを突き止めた. SSWDモデルの発火ダイナミクスと入力情報のコーディング・エンコーディングとの関係を定量的に評価することは来年度以降の課題として残っているが, 迅速にSSWDモデルにおける同期発火の再現に成功したことから, おおむね順調に進展しているといえる.
|
| 今後の研究の推進方策 |
当初の年次計画では, 採用第3年目は同期発火の定量化を生理学実験データに対して適用することを想定していた. しかし, 近年になって発火の定量化よりも発火と学習の関係を解明することが神経科学の研究で重要視されている. また, 発火の大きさは入力情報の符号化の仕方に大きく依存しており, 学習の定量化を行うことが同期発火の定量化を行うことにつながると期待できる. また工学応用の観点からも, 神経回路を模したニューラルネットワークモデルを使った機械学習が近年盛んに行われており, 感覚系神経回路に類似した反応をする素子や人に近い情報処理性能を達成できることが報告されている. 特に実応用で使われるモデルの構造は, フィードフォワードの多層モデルが多い. このような近年の研究動向に対し, 本研究代表者は単層モデルにおける学習の解析と手法提案, さらに多層モデルである共通入力モデルでの発火ダイナミクス解析まで行っている. したがって, これまでの解析で得た知見を活かすことで, 多層モデルにおける学習の提案や解析を行うことができると期待される. そこで, 採用第3年目は生理実験のデータ解析を行うのではなく, 感覚系神経回路を模した多層モデルの理論解析とシミュレーション実験を行い, 学習とそれによって実現する発火の統計性を包括的に研究する予定である. また, ただ単に理論解析による性能評価を行うだけではなく, 自然画像認識や音声認識といった工学的な実応用に堪える学習手法の提案も併せて実施する予定である.
|
| 備考 |
岡田真人研究室ホームページ
http://mns.k.u-tokyo.ac.jp/~karakida/
|
