競合学習による高速高精度な非負値行列因子分解法の確立

2016 年度 実績報告書

• 研究課題/領域番号: 26330259
• 研究機関: 北海道情報大学
• 研究代表者: 内山 俊郎 北海道情報大学, 経営情報学部, 教授 (80708644)
• 研究期間 (年度): 2014-04-01 – 2017-03-31
• キーワード: 競合学習 / 非負値行列因子分解 / トピックモデル / PLSA

研究実績の概要

本研究では、従来研究と比較し高速・高精度な非負値行列因子分解（NMF）手法を確立することを目的とし、理論的な検討と実験による検証により、高速・高精度なNMF手法の導出と検証に至った。理論的には「情報理論的クラスタリングの目的関数がNMFと等価であり、その解がNMFの制約付きの解（ハードクラスタリング制約）であること」を示した。情報理論的クラスタリングについては、競合学習を用いたアルゴリズムが知られており、目的関数最適化の意味で優れた解に到達できることが知られている。これをNMFのための初期値設定に用いることで、従来法では達成困難な高精度なNMFの解が得られる可能性がある。実際に高精度な解が得られることを示したのが、実験による検証である。この検証を通して、従来行われていたランダムな初期値設定よりも、情報理論的クラスタリングの結果を利用した初期値設定法（提案手法。具体的な設定方法に工夫あり）が目的関数（パープレキシティ）の意味で優れた解に到達できることを、多数のデータセットにおいて示した。なお、直接的にNMFを行うアルゴリズムの検討を行い、具体的なアルゴリズムも創出し、実験により一定の有効性を確認した。上記研究は、ハードクラスタリングである情報理論的クラスタリングとソフトクラスタリングであるNMFやそれと関連の深いトピックモデルという研究分野をつなげたといえる。すなわち、情報理論的クラスタリングの有用性は、これを拡張したトピックモデルの有用性をも表していることになる。一連の研究成果は、論文１件（「情報理論的クラスタリングを用いた確率的潜在意味解析の性能向上」、信学論2017）、英文著書１件（"Information-Theoretic Clustering and Algorithms",InTech,2017）、特許１件、教科書１件、紀要１件、学会発表数件、として公開した。

研究成果

• [雑誌論文] 情報理論的クラスタリングを用いた確率的潜在意味解析の性能向上 (2017)
  • 著者名/発表者名: 内山俊郎
  • 雑誌名: 電子情報通信学会論文誌 巻: J100-D ページ: 419-426
  • 査読あり / 謝辞記載あり
• [学会発表] シラバス中の単語情報に基づくカリキュラムの比較 (2017)
  • 著者名/発表者名: 継枝由希子, 内山俊郎
  • 学会等名: 北海道複雑系工学研究会、複雑系マイクロシンポジウムCSMS
  • 発表場所: 公立はこだて未来大学
  • 年月日: 2017-03-10 – 2017-03-10
• [学会発表] TSUKUBAコーパスの様々な分野における有用性の検証 (2017)
  • 著者名/発表者名: 佐藤志織, 内山俊郎
  • 学会等名: 北海道複雑系工学研究会、複雑系マイクロシンポジウムCSMS
  • 発表場所: 公立はこだて未来大学
  • 年月日: 2017-03-10 – 2017-03-10
• [学会発表] 正規化相互情報量を用いたクラスタリング解の分布解析 (2016)
  • 著者名/発表者名: 内山俊郎
  • 学会等名: 情報処理学会北海道シンポジウム
  • 発表場所: 釧路公立大学
  • 年月日: 2016-10-01 – 2016-10-01
• [学会発表] 重み付き情報理論的クラスタリングを用いた確率的潜在意味解析の性能向上 (2016)
  • 著者名/発表者名: 内山俊郎
  • 学会等名: 電子情報通信学会 PRMU研究会
  • 発表場所: NTT武蔵野研究開発センター
  • 年月日: 2016-06-13 – 2016-06-14
• [図書] Advances in Statistical Methodologies and Their Application to Real Problems (2017)
  • 著者名/発表者名: A. Spanos, H.S. Hoang, A. Hoskuldsson, G. Travaglini, T. Uchiyama, I. Ghosh, G.V. Weinberg, Y. Dominicy, A. Mihoci, S. Schmidt, R. Zaki, M. Agrawal, S. Vidyashankar, S. Balli, R. Ametila, H. Nishijo, M.J. D’Souza, E.A. Brandenburg, D. E. Wentzien, R. C. Bautista, A. P. Nwogbaga, R. G. Miller
  • 総ページ数: 324,(93-119)
  • 出版者: InTech