• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

一般化ダイバージェンスを用いた非確率・拡張モデルの推定理論とその応用

研究課題

研究課題/領域番号 16K00051
研究種目

基盤研究(C)

配分区分基金
応募区分一般
研究分野 統計科学
研究機関公立はこだて未来大学

研究代表者

竹之内 高志  公立はこだて未来大学, システム情報科学部, 准教授 (50403340)

研究期間 (年度) 2016-04-01 – 2020-03-31
研究課題ステータス 完了 (2019年度)
配分額 *注記
4,420千円 (直接経費: 3,400千円、間接経費: 1,020千円)
2018年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2017年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2016年度: 1,560千円 (直接経費: 1,200千円、間接経費: 360千円)
キーワード一般化ダイバージェンス / 離散確率モデル / 非負値行列因子分解 / ロバスト / 非正規化モデル / 漸近有効性 / アンサンブル学習 / 多値判別 / 変形ブレグマン擬距離 / 情報幾何 / 統計的推定 / ダイバージェンス / 非確率モデル / 機械学習
研究成果の概要

離散空間における確率モデルは,確率であることを要請するために正規化項の計算が必須であるが, 高次元離散空間においては正規化項の計算はしばしば指数オーダーの計算量が必要となる. 本研究では確率モデルではなく, 正規化されていない非確率モデル(拡張モデルと呼ぶ)を用い, 経験局所化, 同次ダイバージェンスと組み合わせることで, 正規化項の計算をすることなくクラメール・ラオの下限を達成する推定量を構成することが可能であることを示した.
また, 一般化ダイバージェンスを用いることで多値判別手法を扱うための統一的な枠組みや, ノイズに対して頑健な非負値行列因子分解法を構築した.

研究成果の学術的意義や社会的意義

提案した推定量は正規化項の計算が不要であるうえに,漸近的にクラメール・ラオの下限を達成するため, 通常の推定量と比較して数十-数百分の一の計算コストで最尤推定量に匹敵する性能を達成可能である.
また, 多値判別手法を扱うための統一的な枠組みは多くの従来手法を特殊ケースとして含むため, 性能に関する理論的な考察や比較が用意になった. 非負値行列因子分解法については, 再下降性と呼ばれる性質を手法に付与することが出来たため, ノイズに対して強力な頑健性をもたせることが可能となった.

報告書

(5件)
  • 2019 実績報告書   研究成果報告書 ( PDF )
  • 2018 実施状況報告書
  • 2017 実施状況報告書
  • 2016 実施状況報告書
  • 研究成果

    (17件)

すべて 2019 2018 2017 2016

すべて 雑誌論文 (4件) (うち査読あり 4件、 オープンアクセス 1件) 学会発表 (13件) (うち国際学会 3件、 招待講演 1件)

  • [雑誌論文] Statistical modeling of robust non-negative matrix factorization based on γ-divergence and its applications.2019

    • 著者名/発表者名
      K. Machida, and T. Takenouchi
    • 雑誌名

      Japanese Journal of Statistics and Data Science

      巻: 2 号: 2 ページ: 441-464

    • DOI

      10.1007/s42081-019-00041-3

    • 関連する報告書
      2019 実績報告書
    • 査読あり
  • [雑誌論文] Binary classifiers ensemble based on Bregman divergence for multi-class classification2018

    • 著者名/発表者名
      T. Takenouchi, and S. Ishii.
    • 雑誌名

      Neurocomputing

      巻: 273(17) ページ: 424-434

    • DOI

      10.1016/j.neucom.2017.08.004

    • 関連する報告書
      2018 実施状況報告書
    • 査読あり
  • [雑誌論文] Statistical Inference with Unnormalized Discrete Models and Localized Homogeneous Divergences.2017

    • 著者名/発表者名
      Takashi Takenouchi, and Takafumi Kanamori
    • 雑誌名

      The Journal of Machine Learning Research

      巻: 18 ページ: 1-26

    • 関連する報告書
      2017 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Graph-based Composite Local Bregman Divergences on Discrete Sample Spaces2017

    • 著者名/発表者名
      T. Kanamori, T. Takenouchi
    • 雑誌名

      Neural Networks

      巻: 95 ページ: 44-56

    • DOI

      10.1016/j.neunet.2017.06.005

    • 関連する報告書
      2017 実施状況報告書
    • 査読あり
  • [学会発表] 非正規化モデルを用いた推定量とその性質2019

    • 著者名/発表者名
      竹之内高志
    • 学会等名
      応用統計学会
    • 関連する報告書
      2019 実績報告書
    • 招待講演
  • [学会発表] Causal Outcome Prediction on Combinatorial Action Spaces2019

    • 著者名/発表者名
      谷本 啓, 坂井 智哉, 竹之内 高志, 鹿島 久嗣
    • 学会等名
      情報論的学習理論ワークショップ(IBIS2019)
    • 関連する報告書
      2019 実績報告書
  • [学会発表] Robust contrastive learning and nonlinear ICA in the presence of outliers2019

    • 著者名/発表者名
      佐々木 博昭, 竹之内 高志, R. Monti, A. Hyvarinen
    • 学会等名
      情報論的学習理論ワークショップ(IBIS2019)
    • 関連する報告書
      2019 実績報告書
  • [学会発表] Zero-shot Domain Adaptation Based on Attribute Information2019

    • 著者名/発表者名
      M. Ishii, T. Takenouchi, and M. Sugiyama
    • 学会等名
      The Eleventh Asian Conference on Machine Learning
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] Parameter Estimation with Generalized Empirical Localization.2019

    • 著者名/発表者名
      T. Takenouchi.
    • 学会等名
      Geometric Science of Information
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] 非正規化モデルを用いた推定法.2018

    • 著者名/発表者名
      竹之内高志
    • 学会等名
      大規模複雑データの理論と方法総合的研究
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] Relaxing Imbalance with Positiveness2018

    • 著者名/発表者名
      谷本啓, 山田聡,竹之内高志,鹿島久嗣.
    • 学会等名
      第 21 回情報論的学習理論ワークショップ(IBIS2018)
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] 異なるモデルの尤度関数の結合2018

    • 著者名/発表者名
      江口真透, 竹之内高志
    • 学会等名
      統計関連学会連合大会
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] Parameter Estimation with Deformed Bregman Divergence2016

    • 著者名/発表者名
      竹之内高志
    • 学会等名
      Information Geometry and its Applications IV
    • 発表場所
      Liblice, Czech Republic
    • 年月日
      2016-06-13
    • 関連する報告書
      2016 実施状況報告書
    • 国際学会
  • [学会発表] 変形ブレグマンダイバージェンスを用いたパラメーター推定2016

    • 著者名/発表者名
      竹之内高志
    • 学会等名
      2016年度 統計関連学会連合大会
    • 発表場所
      金沢大学角間キャンパス(石川県金沢市)
    • 関連する報告書
      2016 実施状況報告書
  • [学会発表] 離散空間上のグラフ構造に基づく局所ブレグマンダイバージェンス2016

    • 著者名/発表者名
      金森 敬文, 竹之内高志
    • 学会等名
      2016年度 統計関連学会連合大会
    • 発表場所
      金沢大学角間キャンパス(石川県金沢市)
    • 関連する報告書
      2016 実施状況報告書
  • [学会発表] 変形ブレグマン擬距離とその応用2016

    • 著者名/発表者名
      竹之内高志
    • 学会等名
      第19回情報論的学習理論ワークショップ
    • 発表場所
      京都大学(京都府京都市)
    • 関連する報告書
      2016 実施状況報告書
  • [学会発表] グラフ上の局所ブレグマンダイバージェンスによる統計的推論2016

    • 著者名/発表者名
      金森 敬文, 竹之内高志
    • 学会等名
      第19回情報論的学習理論ワークショップ
    • 発表場所
      京都大学(京都府京都市)
    • 関連する報告書
      2016 実施状況報告書

URL: 

公開日: 2016-04-21   更新日: 2021-02-19  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi