• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2013 年度 実施状況報告書

非計量データの多変量解析における交互最小二乗法の加速に関する研究

研究課題

研究課題/領域番号 24500353
研究機関岡山理科大学

研究代表者

黒田 正博  岡山理科大学, 総合情報学部, 准教授 (90279042)

研究分担者 森 裕一  岡山理科大学, 総合情報学部, 教授 (80230085)
足立 浩平  大阪大学, 人間科学研究科, 教授 (60299055)
榊原 道夫  岡山理科大学, 総合情報学部, 教授 (70215614)
飯塚 誠也  岡山大学, アドミッションセンター, 教授 (60322236)
中川 重和  倉敷芸術科学大学, 産業科学技術学部, 教授 (90248203)
キーワード交互最小二乗法 / 加速法 / 非計量主成分分析
研究概要

非計量データに対する主成分分析の最適尺度化の計算に用いられる反復法の一つである交互最小二乗法の加速化の理論研究と数値実験による推定性能の検証をおこなってきた.そして,これまでの研究で提案した交互最小二乗法におけるベクターイプシロン加速の優れた計算性能を数値実験により示すことができた.
そこで,交互最小二乗法の加速法の優位性を示すために,収束性と加速性に関する理論研究をおこなう.そのために,まず交互最小二乗法の収束性に関する検討を既存研究の成果をもとにおこなう.交互最小二乗法は,最小化する目的関数のパラメータを幾つかの群にまとめ,その群に属するパラメータごとに最小二乗推定を交互に適用することで目的関数を最小化する方法である.これまでの研究では,目的関数の最小化問題におけいて交互最小二乗法が収束することを証明したものはあるが,目的関数のパラメータが収束することを証明した研究はない.しかし,加速化法の収束理論に関する研究においては,パラメータの収束が保障され上での議論となるため,これを明らかにする必要がある.
我々が対象とした非計量主成分分析には,このパラメータの推定計算の過程で非線形方程式を解くステップがあるため,収束性を議論することが困難であった.そこで,非線形方程式を交互最小二乗法の中で用いない手法があることがわかったので,この推定法の研究をおこなった.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

これまでの研究対象であった非計量主成分分析に対する交互最小二乗法とは別の定式化による交互最小二乗法のアルゴリズムとR言語による実装をおこない動作を確認することができた.また,これらの方法を整理したサーベイ論文も書き,この反復法の収束性の証明に取り組むための準備は整ったと考えている.

今後の研究の推進方策

上記の研究実績の概要に示した計画の通り,まずは非計量主成分分析に対する交互最小二乗法のパラメータの収束性についての証明を与えることをまずおこなう.
次に,我々の提案しているベクターイプシロン法による交互最小二乗法の加速について,交互最小二乗法で与えられる停留点と同じ点に収束すること(収束性の証明)と,交互最小二乗法によりも加速法が速く収束すること(加速性の証明)をおこなっていく.

次年度の研究費の使用計画

共同研究者の一人である足立浩平教授(大阪大学)の研究室に研究打合せのため訪問する予定であった.しかし,日程の調整がつかずこれをすることができなかったため,用意をしていた出張費用の使用をすることができなかった.
今年度に実施することができなかった足立浩平教授の研究室への訪問を次年度に実施し,次年度の計画分も含め,さらに密な研究打合せをおこない,本課題の研究を促進したいと考えている.

  • 研究成果

    (8件)

すべて 2013

すべて 雑誌論文 (3件) (うち査読あり 3件) 学会発表 (5件)

  • [雑誌論文] Alternating least squares in nonlinear principal components2013

    • 著者名/発表者名
      Kuroda, M., Mori, Y., Iizuka, M. and Sakakihara, M.
    • 雑誌名

      Wiley Interdisciplinary Reviews: Computational Statistics

      巻: 5 ページ: 456-464

    • DOI

      10.1002/wics.1279

    • 査読あり
  • [雑誌論文] Accelerating and re-starting the alternating least squares algorithm for non-linear principal components analysis2013

    • 著者名/発表者名
      1.Kuroda, M., Mori, Y., Izuka, M. and Sakakihara, M.
    • 雑誌名

      Proceedings of the 59th World Statistics Congress (ISI2013)

      巻: 1 ページ: 5426-5431

    • 査読あり
  • [雑誌論文] MCMC using Markov bases for computing p-values in decomposable log-linear models2013

    • 著者名/発表者名
      Kuroda, M., Hashiguchi, H., Nakagawa, S. and Geng, Z.
    • 雑誌名

      Computational Statistics

      巻: 28 ページ: 831- 850

    • DOI

      10.1007/s00180-012-0331-3

    • 査読あり
  • [学会発表] Acceleration of the EM algorithm to mixture models2013

    • 著者名/発表者名
      Kuroda, M. and Geng, Z
    • 学会等名
      Ishigaki International Conference on Modern Statistics Theories, Practices, and Education in the 21st Century
    • 発表場所
      ANA InterContinental Ishigaki resort hotel(沖縄)
    • 年月日
      20131109-20131110
  • [学会発表] 非主成分分析の加速化:変数選択への適用2013

    • 著者名/発表者名
      2.黒田正博,森裕一,飯塚誠也,榊原道夫
    • 学会等名
      日本行動計量学会第41回大会
    • 発表場所
      東邦大学(千葉)
    • 年月日
      20130903-20130906
  • [学会発表] Accelerating and re-starting the alternating least squares algorithm for non-linear principal components analysis2013

    • 著者名/発表者名
      1.Kuroda, M., Mori, Y., Izuka, M. and Sakakihara, M.
    • 学会等名
      The 59th World Statistics Congress (ISI2013)
    • 発表場所
      The Hong Kong Convention and Exhibition Centre (Hong Kong)
    • 年月日
      20130825-20130830
  • [学会発表] Acceleration of the EM algorithm using the vector epsilon accelerator and a re-starting procedure2013

    • 著者名/発表者名
      Kuroda, M., Geng, Z and Sakakihara, M.
    • 学会等名
      The 59th World Statistics Congress (ISI2013)
    • 発表場所
      The Hong Kong Convention and Exhibition Centre(Hong Kong)
    • 年月日
      20130825-20130830
  • [学会発表] re-startを組み込んだ交互最小二乗法の加速法の非計量主成分分析への適用2013

    • 著者名/発表者名
      2.黒田正博,森裕一,飯塚誠也,榊原道夫
    • 学会等名
      日本計算機統計学会第27回大会
    • 発表場所
      弘前大学(青森)
    • 年月日
      20130506-20130507

URL: 

公開日: 2015-05-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi