• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2018 年度 実施状況報告書

一般化ダイバージェンスを用いた非確率・拡張モデルの推定理論とその応用

研究課題

研究課題/領域番号 16K00051
研究機関公立はこだて未来大学

研究代表者

竹之内 高志  公立はこだて未来大学, システム情報科学部, 准教授 (50403340)

研究期間 (年度) 2016-04-01 – 2020-03-31
キーワード非正規化モデル / 漸近有効性 / アンサンブル学習 / 多値判別
研究実績の概要

多値判別問題は機械学習における重要な問題の一つであるが, 対象とするクラス数が大きくなると計算量が増大するという問題点を抱えている. そこで比較的簡単に構成することができる2値判別器を複数組み合わせることで多値判別器を構成するアンサンブル学習に基づくアプローチが採用されることが多い. 本研究では, 一般化ダイバージェンスを用いて2値判別器から構成される非確率モデルを統合するためのアンサンブル手法を提案し, その理論的性質についての考察を行った. 一般化ダイバージェンスの採用により, 多くの既存の2値判別器統合法を統一的に扱うことが可能となった. また, 多くの既存の2値判別器統合法は多値ロジスティックモデルに特殊な制約を課したケースに該当することが明らかとなった.

高次元離散空間上の確率モデルに対する最尤推定量は一般には陽に求まらない. その一方で, 高次元離散空間では確率モデルであることを要請するための正規化項の計算にしばしば指数オーダーの計算量が必要となる. 本研究では, 正規化されていない非確率モデル(拡張モデル)を用いるアプローチを採用した. 前年度までの結果から, 拡張モデルと経験分布を結ぶe-測地線に対応するような局所化モデルを考えることで, 漸近有効性などの好ましい性質を持つ推定量を構成可能であることがわかっていた. そこで, より一般化したu-測地線を考案し, u-測地線による局所化モデルを用いた推定量についての解析を行った結果, e-測地線を用いた場合と同様に漸近有効性が保たれていることが明らかとなった.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

多値判別問題を対象として, 一般化ダイバージェンスを用いて, 多くの既存法を特殊ケースとして含むような2値判別器を統合するための方法論を提案した.

非確率モデルおよび一般化ダイバージェンスを組み合わせることにより, 正規化項の計算を省略することによる計算量的な利点を保ったまま, 漸近有効性などの好ましい統計的性質を持つ推定量が構成可能であることが判明した.

今後の研究の推進方策

u-測地線, 一般化ダイバージェンスの組み合わせにより, ノイズに対する頑健性を持つような推定量の構成を目指す.

次年度使用額が生じた理由

理由: 国際会議への再録が遅れたため.
使用計画: 研究成果の発表のため参加する国際会議の参加費および旅費. 論文誌への掲載料.

  • 研究成果

    (4件)

すべて 2018

すべて 雑誌論文 (1件) (うち査読あり 1件) 学会発表 (3件)

  • [雑誌論文] Binary classifiers ensemble based on Bregman divergence for multi-class classification2018

    • 著者名/発表者名
      T. Takenouchi, and S. Ishii.
    • 雑誌名

      Neurocomputing

      巻: 273(17) ページ: 424-434

    • DOI

      https://doi.org/10.1016/j.neucom.2017.08.004

    • 査読あり
  • [学会発表] 非正規化モデルを用いた推定法.2018

    • 著者名/発表者名
      竹之内高志
    • 学会等名
      大規模複雑データの理論と方法総合的研究
  • [学会発表] Relaxing Imbalance with Positiveness2018

    • 著者名/発表者名
      谷本啓, 山田聡,竹之内高志,鹿島久嗣.
    • 学会等名
      第 21 回情報論的学習理論ワークショップ(IBIS2018)
  • [学会発表] 異なるモデルの尤度関数の結合2018

    • 著者名/発表者名
      江口真透, 竹之内高志
    • 学会等名
      統計関連学会連合大会

URL: 

公開日: 2019-12-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi