• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2010 Fiscal Year Annual Research Report

探索空間の特異領域を意識した特異モデル探索法

Research Project

Project/Area Number 22500212
Research InstitutionChubu University

Principal Investigator

中野 良平  中部大学, 工学部, 教授 (90324467)

Keywords機械学習 / 特異モデル / 探索法 / 特異領域
Research Abstract

(1) 混合正規分布(GMM)推定の解空間は多蜂であるため、通常の探索法(EMアルゴリズム)では初期点に依存した局所解しか得られない。この局所最適性を克服するため、高温における解(原始初期点PIP:特異点である)を初期点とする確定的アニーリング(DA)が導入された。解品質をさらに改良するため、PIPを初期点として、DAの代わりに変分ベイズ(VB)法を用いたVB(PIP)法を考案し、数値実験により解品質が一層改善されることを確認した(Neural Networks論文)。
(2) 多層パーセプトロンの学習において、特異領域は探索停滞を招くため、通常は回避することを考えるが、本研究では、特異領域を積極的に利用しつつ、隠れユニット数を増やしてゆき、与えられた隠れユニット数にふさわしい良質の解に到達する特異階段追跡(SSF : Singularity Step Following)法を考案し、数値実験により所期の有効性を検証した(NC研究会論文)。
(3) 文脈自由文法の一種であるLシステムにおいて、整数論を用いて、文から文法を発見するLGIN(L-system Grammar Induction based on Number theory)法を考案し、6種の植物モデルを用いた数値実験により、その実現性と処理負荷の軽さを検証した(IC3K論文)。また、数法則発見において、名義区分線形モデル回帰法の有効性を検証した(ICANN論文)。

  • Research Products

    (4 results)

All 2010

All Journal Article (1 results) (of which Peer Reviewed: 1 results) Presentation (3 results)

  • [Journal Article] Multi-directional search from the primitive initial point for Gaussian mixture estimation using variational Bayes method2010

    • Author(s)
      Y.Ishikawa, I.Takeuchi, R.Nakano
    • Journal Title

      Neural Networks

      Volume: Vol.23, No.3 Pages: 356-364

    • Peer Reviewed
  • [Presentation] 多層パーセプトロンの特異領域を利用した探索法2010

    • Author(s)
      佐藤聖也、大脇高之、中野良平
    • Organizer
      電子情報通信学会技術研究報告、ニューロコンピューティング(NC)研究会、NC2010-81,pp.85-90
    • Place of Presentation
      名古屋大学
    • Year and Date
      2010-12-19
  • [Presentation] Number theory-based induction of deterministic context-free Lsystem grammar2010

    • Author(s)
      R.Nakano, N.Yamada
    • Organizer
      the 2nd International Joint Conf. on Knowledge Discovery, Knowledge Eng. & Knowledge Management (IC3K'10), pp.194-199
    • Place of Presentation
      Valencia, Spain
    • Year and Date
      2010-10-27
  • [Presentation] Nominally conditioned linear regression2010

    • Author(s)
      Y.Tanahashi, R.Nakano, K.Saito
    • Organizer
      Proc.of the 20th International Conference on Artificial Neural Networks (ICANN'10), LNCS 6354, pp.290-293
    • Place of Presentation
      Tessaloniki Greece
    • Year and Date
      2010-09-17

URL: 

Published: 2012-07-19  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi