• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2018 Fiscal Year Research-status Report

ベイズ推定の手法に基づく行列分解問題の研究

Research Project

Project/Area Number 18K11175
Research InstitutionIbaraki University

Principal Investigator

竹田 晃人  茨城大学, 理工学研究科(工学野), 准教授 (70397040)

Project Period (FY) 2018-04-01 – 2023-03-31
Keywords行列分解問題 / 変分ベイズ法 / スパース性
Outline of Annual Research Achievements

当該年度は、行列分解問題の変分ベイズ近似解の導出、および求解ダイナミクスの解析を主に行った。
まず、辞書学習問題への応用を踏まえ、分解された片側の行列の事前分布がラプラス分布の場合の変分ベイズ近似解を求めた。さらに得られた解について数値実験を行い疎行列の復元に近似解が有効であることを示した。この結果は既に学術誌論文として刊行されている。次に、非負値行列分解問題への応用を考慮し、分解された双方の行列の事前分布を指数分布とした場合の変分ベイズ近似解を導出した。この解についても数値実験を行い、事前分布のパラメータを調整することで解の疎性を調整できる可能性があることを示した。この結果は既に国際会議論文として刊行されている。
上記研究と並行して、変分ベイズ解をアルゴリズムとして利用する際の求解ダイナミクスの解析を行った。具体的には、神経科学の分野で知られるAmari-Maginuの統計的ダイナミクスの手法を応用し、求解ダイナミクスを少数の変数で記述できる簡約式を得た。また簡約式と実際の行列分解実験の結果とを比較し、一定の条件下で両者の挙動が一致することを確認した。以上の結果を国内学会および国内研究会で発表した。出版物としては研究会報告の形で既に公表している。
さらに外部向けの実績として、疎行列分解問題に関連したスパース学習およびスパース信号推定に関する講演3件を実施した。以上はすべて依頼による講演である。
その他疎行列分解問題に関連する機械学習の問題として、疎グラフ上の頂点被覆問題とその文書要約問題への応用に関する研究、およびディープラーニングの汎化誤差の起伏構造と学習則との関連の研究も行った。以上の成果は既に国内研究会で発表している。また、疎グラフ上の頂点被覆問題について外部からセミナー講師を招聘し、研究代表者が主催する研究室でセミナーを実施した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

得られた成果については、学術誌論文、国際会議論文、研究会原稿、学会発表の形で既に発表している。研究自体も今の所支障はなく順調に進んでおり、新たな成果も着実に得られている。

Strategy for Future Research Activity

まず、疎行列分解問題において、ラプラス分布や指数分布等の事前分布に含まれるパラメータの適切な設定法の研究を行う。方法についてはある程度構想がまとまっているので、その方法と既知手法との差を調べた上で数値実験を行い、結果をまとめ学術誌論文として発表する予定である。
次に、行列分解アルゴリズムの求解ダイナミクスの研究をさらに進め、ある程度成果がまとまった段階でこちらも学術誌論文としてまとめる。また、提案した求解ダイナミクスの解析手法を、変分ベイズ解に基づくアルゴリズムだけでなく座標降下法に基づく他のアルゴリズムにも適用し、複数のアルゴリズムのダイナミクスの差異について解析的に議論することが可能かを調べる。

Causes of Carryover

使用している計算機設備に故障が発生し補助金による修理を計画したが、当該年度中に修理する時間が取れなかったため未使用額が生じた。繰越金は主に計算機修理費用に充てる予定である。さらに残額が生じた場合は、研究に必要な文献等の購入費用に充てる。

  • Research Products

    (12 results)

All 2019 2018 Other

All Journal Article (4 results) (of which Peer Reviewed: 2 results) Presentation (7 results) (of which Int'l Joint Research: 1 results) Remarks (1 results)

  • [Journal Article] Approximate method of variational Bayesian matrix factorization/completion with sparse prior2018

    • Author(s)
      Ryota Kawasumi, Koujin Takeda
    • Journal Title

      Journal of Statistical Mechanics: Theory and Experiment

      Volume: - Pages: 053404

    • DOI

      10.1088/1742-5468/aabc7d

    • Peer Reviewed
  • [Journal Article] Variational Bayes method for matrix factorization to two sparse factorized matrices2018

    • Author(s)
      Tomiki Tamai, Koujin Takeda
    • Journal Title

      IEEE Xplore

      Volume: - Pages: 418-422

    • DOI

      10.23919/ISITA.2018.8664315

    • Peer Reviewed
  • [Journal Article] 行列分解問題の変分ベイズ解のダイナミクス解析2018

    • Author(s)
      玉井智貴, 竹田晃人
    • Journal Title

      電子情報通信学会技術研究報告

      Volume: IBISML2018 Pages: 74

  • [Journal Article] 行列分解問題への甘利・馬被ダイナミクスの適用2018

    • Author(s)
      玉井智貴, 竹田晃人
    • Journal Title

      第41回情報理論とその応用シンポジウム予稿集

      Volume: - Pages: 377-382

  • [Presentation] 行列分解問題の簡約ダイナミクスの修正および停留点解析2019

    • Author(s)
      玉井智貴, 竹田晃人
    • Organizer
      日本物理学会年次大会
  • [Presentation] 行列分解問題の変分ベイズ解の求解ダイナミクスの簡約化2018

    • Author(s)
      玉井智貴, 竹田晃人
    • Organizer
      日本物理学会秋季大会
  • [Presentation] Variational Bayes method for matrix factorization to two sparse factorized matrices2018

    • Author(s)
      Tomiki Tamai, Koujin Takeda
    • Organizer
      International Symposium on Information Theory and its Applications
    • Int'l Joint Research
  • [Presentation] 画像分類における適応的なSGDの挙動の解析2018

    • Author(s)
      今川和樹, 竹田晃人
    • Organizer
      第21回情報論的学習理論ワークショップ
  • [Presentation] 重み付き最大被覆問題への確率伝搬法の適用2018

    • Author(s)
      喜多野広貴, 竹田晃人
    • Organizer
      第21回情報論的学習理論ワークショップ
  • [Presentation] 行列分解問題の変分ベイズ解のダイナミクス解析2018

    • Author(s)
      玉井智貴, 竹田晃人
    • Organizer
      第21回情報論的学習理論ワークショップ
  • [Presentation] 行列分解問題への甘利・馬被ダイナミクスの適用2018

    • Author(s)
      玉井智貴, 竹田晃人
    • Organizer
      第41回情報理論とその応用シンポジウム
  • [Remarks] 竹田晃人(研究代表者)の個人ページ

    • URL

      http://takeda.ise.ibaraki.ac.jp/takeda/index.html

URL: 

Published: 2019-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi