• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2015 年度 実施状況報告書

視覚情報処理を行なう階層型神経回路の新しい学習手法の研究

研究課題

研究課題/領域番号 25330300
研究機関一般財団法人ファジィシステム研究所

研究代表者

福島 邦彦  一般財団法人ファジィシステム研究所, 研究部, 特別研究員 (90218909)

研究期間 (年度) 2013-04-01 – 2018-03-31
キーワード視覚パターン認識 / 視覚情報処理 / 多層神経回路 / deep CNN / ネオコグニトロン / 学習手法 / 内挿ベクトル法 / Add-if-Silent則
研究実績の概要

視覚パターン認識能力を持つ「ネオコグニトロン」の改良,その中でも特に,新しい学習手法の実現に重点を置いて研究を進めた.ネオコグニトロンは,多層構造を持つ神経回路で,deep CNN (convolutional neural network) の一種である.
その中間層に対しては,教師なし学習によって自己組織的に特徴抽出細胞を形成させるために,Add-if-Silent則と負のフィードバック信号を組み合わせた学習則を完成させ,その能力を計算機シミュレーションによって実証した.この学習則を用いると,中間層の特徴抽出細胞が特徴空間内にほぼ均一に分布するように,回路を自己組織化させることができる.しかも,現在deep CNNで広く用いられている種々の学習手法とは異なり,繰り返し学習を必要とせず学習をone-shotで完了させることができるので,効率的に学習が進行する.
最上位層での認識手法としては,以前筆者が提唱した「内挿ベクトル法」を用いる.内挿ベクトル法を用いると,現在人工神経回路の分野で広く用いられている WTA (winner-take-all) や SVM (support vector machine) などよりも高い認識率が得られる.内挿ベクトル法での認識に要する計算量は,参照ベクトル数が増えると急激に増加するので,最上位層の学習に際しては,学習ベクトルの集合全体をできるだけ少数の参照ベクトルで忠実に表現するように学習を進めることが望まれる.そのために,まず学習ベクトルを認識させてみて,もし誤認識であればその学習ベクトルを新しい参照ベクトルとして取り入れる.認識結果が正しければ,参照ベクトルを学習ベクトルに近けるようにtune-upする.このような条件を満足する学習法をいくつか提唱し,計算機シミュレーションなどによってその能力を比較検討し,改良を進めた.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

視覚パターン認識能力を持つネオコグニトロンの性能の向上を目指して,認識ならびに学習の新しい手法の研究を進めている.ネオコグニトロン型の多層神経回路においては,その中間段と最上位段とでは,それぞれ異なる情報処理原理と,それに適した学習方式が要求される.そこで,この両者の研究を並行して行ない,いずれに関しても新しい方式の提唱や,従来の方式の改善を進めた.新しい考えに基づいて構成した回路の能力は,理論的な検討と平行して,手書き文字に対する認識率を計算機シミュレーションで調べることによって検証している.
中間層の学習手法については,かなり完成に近づいたと思われるが,最終層に適用すべき認識手法や学習手法に関してはまだ改善の余地が残されていると考えられるので,研究を更に推進していく.

今後の研究の推進方策

人工神経回路の分野では,最近 deep convolutional neural network (deep CNN) に注目が集まっている.ネオコグニトロンもそのような deep CNN の一つであるが,一般の deep CNN とは異なる箇所もいくつか存在する.そこで,両者の相違点を明確にするとともに,ネオコグニトロンのほうが優れていると考えられる箇所を更に発展させ,deep CNN の新しい流れを作ることを一つの目標とする.
ネオコグニトロンの最上位段でのパターン識別に用いている内挿ベクトル法に関しては,本年度に引き続き,その学習手法に特に重点を置いて研究を進める.最近着想を得た新しい学習手法が,かなり有望と考えられる.新しい学習手法の基本的な考え方は,以下のようなものである.まず学習ベクトルを認識させてみて,もし誤認識であればその学習ベクトルを新しい参照ベクトルとして取り入れるのであるが,このときの認識の正誤判定に際して,学習パターンと異なるラベルを持つ細胞の出力にハンディキャップを与えて,そのハンディキャップのもとでも正しい認識ができた場合にのみ正解と見なすことにするのである.今後しばらくは,この新しい学習手法に重点を置いて研究を進めることにする.

次年度使用額が生じた理由

発注済みの一部の物品の納入が年度内に間に合わなかった.

次年度使用額の使用計画

次年度に,物品が納入され次第支払う予定である.

  • 研究成果

    (7件)

すべて 2015 その他

すべて 雑誌論文 (1件) (うち謝辞記載あり 1件) 学会発表 (5件) (うち国際学会 2件、 招待講演 3件) 備考 (1件)

  • [雑誌論文] ネオコグニトロン: deep convolutional neural network (解説)2015

    • 著者名/発表者名
      福島邦彦
    • 雑誌名

      知能と情報 (日本知能情報ファジィ学会誌)

      巻: 27 ページ: 115-125

    • 謝辞記載あり
  • [学会発表] IWCcS 2015 (International Workshop on Community centric Systems)2015

    • 著者名/発表者名
      K. Fukushima
    • 学会等名
      IWCcS 2015 (International Workshop on Community centric Systems)
    • 発表場所
      Toyo Metropolitan University, Hino, Tokyo, Japan
    • 年月日
      2015-11-30 – 2015-12-01
    • 国際学会 / 招待講演
  • [学会発表] ネオコグニトロンにおける識別率と細胞反応分布の関係について2015

    • 著者名/発表者名
      佐藤翔一郎,菊池眞之,福島邦彦,林勲,庄野逸
    • 学会等名
      JNNS 2015 (日本神経回路学会全国大会)
    • 発表場所
      電気通信大学,東京
    • 年月日
      2015-09-02 – 2015-09-04
  • [学会発表] Deep Convolutional Network と視覚パターン認識2015

    • 著者名/発表者名
      福島邦彦
    • 学会等名
      JNNS 2015 (日本神経回路学会全国大会)
    • 発表場所
      電気通信大学,東京
    • 年月日
      2015-09-02 – 2015-09-04
    • 招待講演
  • [学会発表] Deep convolutional network neocognitron: improved interpolating-vector2015

    • 著者名/発表者名
      K. Fukushima, H. Shouno
    • 学会等名
      IJCNN 2015 (International Joint Conference on Neural Networks)
    • 発表場所
      Killarney, Ireland
    • 年月日
      2015-07-12 – 2015-07-17
    • 国際学会
  • [学会発表] 畳み込み型多層神経回路ネオコグニトロンとその発展2015

    • 著者名/発表者名
      福島邦彦
    • 学会等名
      電子情報通信学会 ニューロコンピューティング研究会・情報論的学習理論と機械学習研究会
    • 発表場所
      電気通信大学,東京
    • 年月日
      2015-06-23 – 2015-06-25
    • 招待講演
  • [備考] 福島邦彦

    • URL

      http://personalpage.flsi.or.jp/fukushima/

URL: 

公開日: 2017-01-06  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi