• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2007 Fiscal Year Annual Research Report

逐次マルチタスク学習とパターン認識への応用に関する研究

Research Project

Project/Area Number 18500174
Research InstitutionKobe University

Principal Investigator

小澤 誠一  Kobe University, 工学研究科, 准教授 (70214129)

Keywords機械学習 / マルチタスク学習 / ニューラルネット / 追加学習 / パターン認識 / 主成分分析 / 特徴抽出 / カーネル法
Research Abstract

オンライン特徴抽出アルゴリズムおよび逐次マルチタスク学習モデルの研究を進め,以下の成果を得た.
(1)複数のデータが同時に与えられたとき,それらに対して,一回の計算で固有軸の更新を行える新しい追加学習型主成分分析アルゴリズムを開発した.訓練データの中から特徴空間(または標本特徴空間)において一次独立となるものを選択し,固有軸がそれらの線形和で表わされることを利用して,オンラインで固有空間モデルを更新できる追加学習型カーネル主成分分析アルゴリズムを開発した.機械学習で通常用いられるベンチマークデータを用いて,固有空間モデルの誤差や識別率などを評価した.その結果,提案したアルゴリズムによって,固有空間モデルの近似誤差を最小限に抑えながら,高速に固有軸の更新を行えることを確認した.
(2)識別器の追加学習,タスク変動の検知,既知・未知タスクの識別,タスク分類,知識転送の機能を有する逐次マルチタスク・パターン認識モデルを開発した.このモデルでは,タスク変動を検知すると既知・未知タスクの識別が行われ,既知タスクであれば長期記憶から対応する識別器を想起して追加学習を行う.一方,未知タスクと識別すると新しい識別器を生成し,現タスクの識別器から知識移転を行う.知識移転の効果を調べるため,機械学習のベンチマークデータをマルチタスク学習用に変更し,未知タスクに対する認識率の向上率を調べた.その結果,知識移転機能を導入することにより,高速に提案モデルの汎化能力が向上し,少ない訓練データで高い汎化能力をもつことを示した.また,単一識別器で逐次的に複数タスクを学習できるモデルを開発し,過去に学習したタスクのうち,最も類似度の高いタスクを特定し,その知識を選択的に転送する機能を付加した.その結果,単一識別器であっても,安定した学習が可能であり,選択的知識移転を導入することで,汎化能力の向上率が改善された.

  • Research Products

    (14 results)

All 2007 Other

All Journal Article (5 results) (of which Peer Reviewed: 5 results) Presentation (9 results)

  • [Journal Article] A Learning Algorithm of Boosting Kernel Discriminant Analysis for Pattern Classification2007

    • Author(s)
      Shinji Kita
    • Journal Title

      IEICE Trans. on Information and Systems E90-D

      Pages: 1853-1863

    • Description
      「研究成果報告書概要(和文)」より
    • Peer Reviewed
  • [Journal Article] An Efficient Incremental Kernel Principal Component Analysis for Online Feature Selection2007

    • Author(s)
      Yohei Takeuchi
    • Journal Title

      Proc. IEEE/INNS Int. Joint Conf. on Neural Networks (CD-ROM)

    • Description
      「研究成果報告書概要(和文)」より
    • Peer Reviewed
  • [Journal Article] Boosting Kernel Discriminant Analysis for Pattern Classification2007

    • Author(s)
      Shinji Kita
    • Journal Title

      Proc. of Int. Symposium on Intelligent Signal Processing and Communication Systems (CD-ROM)

    • Description
      「研究成果報告書概要(和文)」より
    • Peer Reviewed
  • [Journal Article] Incremental Learning of Chunk Data for On-line Pattern Classification Systems

    • Author(s)
      Seiichi Ozawa
    • Journal Title

      IEEE Trans. on Neural Networks (印刷中)

    • Peer Reviewed
  • [Journal Article] Adaptive Face Recognition System Using Fast Incremental Principal Component Analysis

    • Author(s)
      Seiichi Ozawa
    • Journal Title

      Proc. of 14th Int. Conf. on Neural Information Processing (印刷中)

    • Peer Reviewed
  • [Presentation] 特徴選択による追加学習型カーネル主成分分析の高速化とその性能評価2007

    • Author(s)
      竹内 洋平
    • Organizer
      平成19年電気関係学会関西支部連合大会
    • Place of Presentation
      神戸大学
    • Year and Date
      2007-11-17
    • Description
      「研究成果報告書概要(和文)」より
  • [Presentation] マクロアクション生成機能を有する強化学習アルゴリズム2007

    • Author(s)
      恩田 宏
    • Organizer
      平成19年電気関係学会関西支部連合大会
    • Place of Presentation
      神戸大学
    • Year and Date
      2007-11-17
    • Description
      「研究成果報告書概要(和文)」より
  • [Presentation] An Online Face Recognition System with Incremental Learning Ability2007

    • Author(s)
      Seiichi Ozawa
    • Organizer
      SICE Annual Conf. 2007
    • Place of Presentation
      香川大学
    • Year and Date
      2007-09-20
  • [Presentation] 逐次マルチタスク・パターン認識におけるタスク間関連度を用いた知識移転アルゴリズム2007

    • Author(s)
      西川 仁
    • Organizer
      平成19年電気学会電子・情報・システム部門大会
    • Place of Presentation
      大阪府立大学
    • Year and Date
      2007-09-04
    • Description
      「研究成果報告書概要(和文)」より
  • [Presentation] 追加学習型カーネル主成分分析の開発とその性能評価2007

    • Author(s)
      竹内 洋平
    • Organizer
      平成19年電気学会電子・情報・システム部門大会
    • Place of Presentation
      大阪府立大学
    • Year and Date
      2007-09-04
    • Description
      「研究成果報告書概要(和文)」より
  • [Presentation] マクロアクション生成機能を有する強化学習エージェントモデル2007

    • Author(s)
      恩田 宏
    • Organizer
      平成19年電気学会電子・情報・システム部門大会
    • Place of Presentation
      大阪府立大学
    • Year and Date
      2007-09-04
    • Description
      「研究成果報告書概要(和文)」より
  • [Presentation] 追加学習型カーネル主成分分析の開発2007

    • Author(s)
      竹内 洋平
    • Organizer
      第51回システム制御情報学会研究発表講演会
    • Place of Presentation
      京都テルサ
    • Year and Date
      2007-05-18
    • Description
      「研究成果報告書概要(和文)」より
  • [Presentation] 逐次マルチタスク学習における選択的知識移転に関する基礎的研究2007

    • Author(s)
      西川 仁
    • Organizer
      第51回システム制御情報学会研究発表講演会
    • Place of Presentation
      京都テルサ
    • Year and Date
      2007-05-18
    • Description
      「研究成果報告書概要(和文)」より
  • [Presentation] オンライン型特徴選択とニューラルネットの追加学習2007

    • Author(s)
      小澤 誠一
    • Organizer
      第51回システム制御情報学会研究発表講演会
    • Place of Presentation
      京都テルサ
    • Year and Date
      2007-05-17
    • Description
      「研究成果報告書概要(和文)」より

URL: 

Published: 2010-02-04   Modified: 2016-04-21  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi