• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2019 年度 実施状況報告書

効率的な学習を可能とするロバスト統計手法の開発

研究課題

研究課題/領域番号 17K00065
研究機関統計数理研究所

研究代表者

藤澤 洋徳  統計数理研究所, 数理・推論研究系, 教授 (00301177)

研究期間 (年度) 2017-04-01 – 2022-03-31
キーワードロバスト統計 / 歪正規分布 / EMアルゴリズム / モメンタム構造 / 一般化線形回帰モデル / 確率的最適化
研究実績の概要

非対称分布として最も有名である歪正規分布は潜在変数モデルである.潜在変数モデルに対しては,EMアルゴリズムを作る際に,典型的な作り方がある.しかし,歪正規分布に対しては,通常の考え方では陽に書けるハンディなEMアルゴリズムは得られない.そのために,過去に提案されたEMアルゴリズムは,複雑な方程式を解く必要があるなどの問題点が存在していた.
そこで,代表者らは,過剰パラメータをあえて導入することで,ハンディなEMアルゴリズムを構成した.ハンディなEMアルゴリズムは他には存在しないと思っていたのだが,違う文脈で作られていたEMアルゴリズムを発見した.そのアルゴリズムと提案したアルゴリズムは非常に似た形であった.しかし,数値実験をすると,提案手法の方が圧倒的に早く収束していた.
アルゴリズムの違う部分に詳細な検討を加えると,提案手法はある種のモメンタム構造を備えていることが分かった.モメンタム構造はNesterovの加速法で有名だが,それとは違う構造であった.加えて,モメンタム構造を人工的に入れていないので,尤度を単調に増加させるというEMアルゴリズム特有の良さは壊れていない.結果的に,モメンタム構造を持ち尤度単調増加性を保持する,非常に好ましいパラメータ推定アルゴリズムを構築することに成功した.
ロバスト性とスパース性を併せもつ回帰モデリングを考えるとき,線形回帰であれば通常の座標降下法で十分に対処できるが,一般化線形回帰モデルにまで拡張すると,計算量の問題が起きる.その問題点を克服するために確率的最適化を利用した.収束に関する性質も与えた.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

当初の計画通りに潜在変数モデルへの考察が進んだ.

今後の研究の推進方策

現在投稿中の論文を雑誌にしっかりと掲載したい.
潜在変数モデルに対する考察をさらに進めたい.

次年度使用額が生じた理由

管理職業務が当該年度から発生したため,しばらく,研究が進みづらく出張に行きにくい状況が続いた.次年度は管理職業務も落ち着いて通常通りに活動できることを期待している.

  • 研究成果

    (4件)

すべて 2019

すべて 雑誌論文 (2件) (うち査読あり 2件) 学会発表 (2件) (うち招待講演 2件)

  • [雑誌論文] Robust and Sparse Regression in Generalized Linear Model by Stochastic Optimization2019

    • 著者名/発表者名
      Kawashima, T., Fujisawa, H.
    • 雑誌名

      Japanese Journal of Statistics and Data Science

      巻: 2 ページ: 465-489

    • 査読あり
  • [雑誌論文] Multivariate skew distributions with mode-invariance through transformation of scale2019

    • 著者名/発表者名
      Abe, T., Fujisawa, H.
    • 雑誌名

      Japanese Journal of Statistics and Data Science

      巻: 2 ページ: 529-544

    • 査読あり
  • [学会発表] A closed form EM algorithm for a multivariate skew-normal model2019

    • 著者名/発表者名
      阿部俊弘, 藤澤洋徳, 川島孝行
    • 学会等名
      研究集会「多様な分野における統計科学に関する諸問題」
    • 招待講演
  • [学会発表] EM algorithm using overparametrization for skew-normal distribution2019

    • 著者名/発表者名
      Abe, T., Fujisawa, H., Kawashima, T.
    • 学会等名
      Statistical Topological Data Analysis Workshop
    • 招待講演

URL: 

公開日: 2021-01-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi