情報エンハンスメント法とその応用

2009 年度 実績報告書

• 研究課題/領域番号: 21500221
• 研究機関: 東海大学
• 研究代表者: 上村 龍太郎 東海大学, 情報教育センター, 教授 (80176643)
• 研究分担者: 竹内 晴彦 産業技術総合研究所, 人間福祉医工学研究部門, 主任研究員 (00357401)
• キーワード: ニューラルネットワーク / 自己組織化マップ / 特徴抽出 / 情報理論 / エントロピー / 相互情報量 / エンハンスメント / 内部表現

研究概要

本研究では、ニューラルネットワーク(特に競合学習)が学習によって獲得した内部表現を明確に解釈する新しい方法を提案することを目的とした。この解釈とは、ニューラルネットワークのすべての構成要素・要素結合の意味と機能を理解すると考える。
2009年度の研究内容は、次の3項目に要約できる、すなわち、ネットワーク構成要素のエンハンスメントの可能性、自己組織化マップへの応用である。
まず、エンハンスメントの可能性を多くの実験によって例証できた。情報エンハンスメントは、入力パターンについての相互情報量を考え、ある特定の要素に注意をおき、この時の情報量の変化を見ることによって内部表現を理解する方法である。要素として入力ユニット、競合ユニット、および入力パターンを考え、これらの重要性は、情報エンハンスメント法によって明確に測定できることがわかった。
次に、自己組織化マップに応用した場合に、測定された重要性を考慮し学習した場合、明確なクラスの境界線が表現できることがわかった。自己組織化マップは視覚化のツールとして広く用いられるようになってきている。しかし、必ずしも常に人間にとってわかりやすいマップが得られるとは限らない。エンハンスメント法を用いることによって、各構成要素の重要性を考慮したマップを生成できることが分かった。これは、より理解しやすい自己組織化マップを作ることに寄与すると考える。
2009年度は、情報エンハンスメント法が実際の問題に応用できる可能性があることを多くの例を通して実証することができたと考える

研究成果

• [雑誌論文] An information-theoretic approach to feature extraction in competitive learning (2009)
  • 著者名/発表者名: Ryotaro Kamimura
  • 雑誌名: Neurocomputing 72(10-12) ページ: 2693-2704
  • 査読あり
• [雑誌論文] Enhancing and Relaxing Competitive Units for Feature Discovery (2009)
  • 著者名/発表者名: Ryotaro Kamimura
  • 雑誌名: Neural processing letters 30(1) ページ: 37-57
  • 査読あり
• [雑誌論文] Feature Detection by Structural Enhanced Information (2009)
  • 著者名/発表者名: Ryotaro Kamimura
  • 雑誌名: Lecture Notes in Computer Science 5507 ページ: 171-178
  • 査読あり
• [雑誌論文] Partially Enhanced Competitive Learning (2009)
  • 著者名/発表者名: Ryotaro Kamimura
  • 雑誌名: Lecture Notes in Computer Science 5507 ページ: 163-170
  • 査読あり
• [雑誌論文] Feature Discovery by Information Loss (2009)
  • 著者名/発表者名: Ryotaro Kamimura
  • 雑誌名: Journal of Computers 4(10) ページ: 943-953
  • 査読あり
• [雑誌論文] Collective Activations to Generate Self-Organizing Maps (2009)
  • 著者名/発表者名: Ryotaro Kamimura
  • 雑誌名: Lecture Notes in Computer Science 5507 ページ: 943-950
  • 査読あり
• [雑誌論文] Enhanced Visualization by Combing SOM and Mixture Models (2009)
  • 著者名/発表者名: Ryotaro Kamimura
  • 雑誌名: Lecture Notes in Computer Science 5507 ページ: 268-275
  • 査読あり
• [雑誌論文] Relative Relaxation and Weighted Information Loss to Simplify and Stabilize Feature Detection (2009)
  • 著者名/発表者名: Ryotaro Kamimura
  • 雑誌名: Journal of Advanced Computational Intelligence and Intelligent Informatics 13(4) ページ: 489-498
  • 査読あり
• [雑誌論文] Self-enhancement learning : Self-supervised and target-creating learning (2009)
  • 著者名/発表者名: Ryotaro Kamimura
  • 雑誌名: Proceedings of the international joint conference on neural networks ページ: 1503-1509
  • 査読あり
• [雑誌論文] Selective enhancement learning in competitive learning (2009)
  • 著者名/発表者名: Ryotaro Kamimura
  • 雑誌名: Proceedings of the international joint conference on neural networks ページ: 1497-1502
  • 査読あり
• [雑誌論文] Self-supervised learning by information enhancement : Target-generating and spontaneous learning for competitive learning (2009)
  • 著者名/発表者名: Ryotaro Kamimura
  • 雑誌名: Proceedings of IEEE international conference on systems, man and cybernetics ページ: 113-119
  • 査読あり
• [雑誌論文] Structural enhanced information to detect features in competitive learning (2009)
  • 著者名/発表者名: Ryotaro Kamimura
  • 雑誌名: Proceedings of IEEE international conference on systems, man and cybernetics ページ: 3395-3401
  • 査読あり