• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2014 Fiscal Year Research-status Report

確率的証拠の統合によるパターン認識器の構成とその画像認識への応用に関する研究

Research Project

Project/Area Number 23500211
Research InstitutionHiroshima University

Principal Investigator

栗田 多喜夫  広島大学, 工学(系)研究科(研究院), 教授 (10356941)

Co-Investigator(Kenkyū-buntansha) 日高 章理  東京電機大学, 理工学部, 助教 (70553519)
Project Period (FY) 2011-04-28 – 2016-03-31
Keywords判別カーネル / 事後確率 / カーネル学習 / 判別分析 / 画像認識 / 特徴抽出 / サポートベクターマシン
Outline of Annual Research Achievements

本研究では、究極の非線形判別分析から示唆される「確率的証拠を統合する構造」を元に、(1)判別カーネルを利用した変動等に頑健で実用的なパターン認識器の構成法の開発、(2)確率的証拠の統合による画像認識手法の開発等を目指している。
判別基準を最大とする究極の非線形判別写像に現れるカーネルは、事後確率から計算されるカーネル(判別カーネル)となる。このカーネルは、クラスに関する情報を含んでおり、判別基準を最大とする判別写像の意味で最適なカーネルである。
実際の応用では、訓練サンプルから事後確率を推定する必要があり、これまでにロジスティック回帰で事後確率を推定する手法等を開発してきた。また、得られた判別カーネルを用いた識別器の識別性能を向上させるために、これまでに、線形回帰を用いて事後確率を推定する手法、および、スパースロジスティック回帰により事後確率を推定する手法等について検討し、成果の一部を国際会議等で発表した。本年度は、各クラスの分布を混合正規分布と仮定して事後確率を推定し、判別カーネルを計算する手法およびk最近傍法により事後確率を推定し非線形判別写像を構成する手法について検討し、国際会議等で発表した。特に、k最近傍法により事後確率を推定し非線形判別写像を構成する手法は、国際ワークショップFCV2015においてBest Paper Awardを受賞した。また、経験カーネル特徴から次元圧縮した特徴を抽出する手法やランダムに生成した経験カーネル特徴から次元圧縮した特徴を抽出する手法についても検討した。
画像認識への応用では、特徴集合の分布を混合正規分布で表現し、各正規分布を確率的主成分分析で表現し、特徴を構成する手法に関する論文を発表した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

これまでに、判別カーネルを利用したパターン認識器の構成法では、各クラスの分布に正規分布を仮定する方法を用いて事後確率を推定し、それから判別カーネルを構成する手法について検討した。これらの判別カーネルを用いた判別分析の性能を標準データを用いて評価する実験を行った。また、サポートベクターマシンを利用して、訓練データから事後確率を推定し、それを判別カーネルに利用する方法についても検討した。さらに、これらをサポートベクターマシンのカーネルとして利用する手法についても検討し、評価実験を行った。これまでに、事後確率の推定の未学習データに対する性能を向上させるために正則化を取り入れる手法、各クラスの分布を混合正規分布と仮定して事後確率を推定し判別カーネルを計算する手法、K-近傍法を用いて非線形判別写像を構成する手法等について検討してきた。また、経験カーネル特徴から次元圧縮した特徴を抽出する手法等についても検討した。これらは、ほぼ当初の計画通りの成果である。
確率的知識の統合による画像認識についても、局所特徴とクラスとの関係を要約した事後確率画像を構成し、そこから高次局所自己相関特徴を抽出して利用する一般物体認識手法を開発し、それが現在広く利用されている Bag of Features法よりも高い性能であることを示した。また、HOG特徴やSIFTの局所特徴をBag of Featuresの考え方を取り入れて改良する手法や特徴集合の分布を混合正規分布で表現し、各正規分布を確率的主成分分析で表現し、特徴を構成する手法を開発した。これらについてもほぼ当初の計画通りの進捗である。

Strategy for Future Research Activity

最適非線形別分析や判別カーネルの構成法に関して、これまでに開発した手法を論文として発表する。また、最適非線形判別分析を情報理論的学習の観点から考察することを試みる。
画像認識では、これまでに開発した手法を論文として発表する。また、最近注目されているConvolution Neural Network 等のDeep Learningで学習されたネットワークを確率的証拠の統合の観点から理解することを試みる。

Causes of Carryover

今年度は、参加を予定していた国際会議(ICPR2014、ストックホルム)に参加できなかった。また、共同研究者との打ち合わせをテレビ会議で行い、研究打ち合わせのため旅費の支出を抑えた。それらの残額を次年度に使用することとした。

Expenditure Plan for Carryover Budget

次年度は、国際会議(IEEE SMC2015、香港)への参加を計画しており、残額はそのために利用する予定である。その他の使用計画については、当初の計画通りである。

  • Research Products

    (8 results)

All 2015 2014

All Journal Article (2 results) (of which Peer Reviewed: 2 results,  Acknowledgement Compliant: 1 results) Presentation (5 results) (of which Invited: 1 results) Book (1 results)

  • [Journal Article] Improvements of local descriptor in HOG/SIFT by BOF approach2014

    • Author(s)
      Zhouxin YANG and Takio KURITA
    • Journal Title

      IEICE Trans. on Fundamentals

      Volume: E97-D Pages: 1293-1303

    • DOI

      10.1587/transinf.E97.D.1293

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Image Classification using a Mixture of Subspace Models2014

    • Author(s)
      Takahashi Takashi and Takio Kurita
    • Journal Title

      IPSJ Transactions on Computer Vision and Application

      Volume: 6 Pages: 93-97

    • DOI

      10.2197/ipsjtcva.6.93

    • Peer Reviewed
  • [Presentation] 確率的証拠に基づくパターン認識~識別のための最適なカーネル関数~2015

    • Author(s)
      栗田多喜夫
    • Organizer
      動的画像処理実利用ワークショップ (DIA2015)
    • Place of Presentation
      広島工業大学
    • Year and Date
      2015-03-05 – 2015-03-06
    • Invited
  • [Presentation] Nonlinear Discriminant Analysis Using k Nearest Neighbor Estimation2015

    • Author(s)
      Xuezhen Li and Takio Kurita
    • Organizer
      21st Japan-Korea joint Workshop on Frontiers of Compputer Vision (FCV2015)
    • Place of Presentation
      Mokpo, Korea
    • Year and Date
      2015-01-28 – 2015-01-30
  • [Presentation] Extraction of Dimension Reduced Features from Empirical Kernel Vector2014

    • Author(s)
      Takio Kurita and Yayoi Harashima
    • Organizer
      the 21th International Conference on Neural Information Processing (ICONIP2014)
    • Place of Presentation
      Kuching, Malaysia
    • Year and Date
      2014-11-03 – 2014-11-06
  • [Presentation] andomized and Dimension Reduced Kernel Generation for Support Vector Machine2014

    • Author(s)
      Akinori Hidaka and Takio Kurita
    • Organizer
      The 46th ISCIE International Symposium on Stochastic Systems Theory and Its Applications
    • Place of Presentation
      京都工芸繊維大学
    • Year and Date
      2014-11-01 – 2014-11-02
  • [Presentation] Nonlinear Discriminant Analysis based on Probability Estimation by Gaussian Mixture Model2014

    • Author(s)
      Akinori Hidaka, and Takio Kurita
    • Organizer
      Structural, Syntactic, and Statistical Pattern Recognition (S+SSPR2014)
    • Place of Presentation
      Joensuu, Finland
    • Year and Date
      2014-08-20 – 2014-08-22
  • [Book] 統計的学習の基礎―データマイニング・推論・予測―2014

    • Author(s)
      Trevor Hastie, Robert Tibshirani, Jerome Friedman著, 杉山 将・井手 剛・神嶌 敏弘・栗田 多喜夫・前田 英作監訳
    • Total Pages
      853
    • Publisher
      共立出版

URL: 

Published: 2016-05-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi