• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

潜在競合学習法による多様多層ニューラルネットワークの構築

研究課題

研究課題/領域番号 16K00339
研究種目

基盤研究(C)

配分区分基金
応募区分一般
研究分野 ソフトコンピューティング
研究機関東海大学

研究代表者

上村 龍太郎  東海大学, 情報教育センター, 非常勤講師 (80176643)

研究期間 (年度) 2016-04-01 – 2019-03-31
研究課題ステータス 完了 (2018年度)
配分額 *注記
4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円)
2018年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2017年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2016年度: 1,820千円 (直接経費: 1,400千円、間接経費: 420千円)
キーワードニューラルネットワーク / 情報理論 / 汎化能力 / 解釈 / 情報圧縮 / 解釈能力 / 相互情報量 / 競合学習 / 内部表現 / 情報劣化 / ディープラーニング / 多層ニューラルネットワーク / 集合的解釈 / デープラーニング / 自己符号化器 / 中間層 / 情報量最大化 / ソフトコンピューティング / 人工知能
研究成果の概要

ニューラルネットワークの代表的な競合学習をより一般的な方法に移行する研究をおこなった。一般化によって競合学習を情報量最大化の一手法と考えることができることがわかった.すなわち,ニューラルネットワークの持つ入力パターンに関する情報量を容易に最大化することができるようになった.この最大化は,複雑な情報を整理する働きがあることもわかり,適切な情報を選択し,情報を圧縮することが可能となった.圧縮された情報は,最も単純なネットワークで表現することができ,ネットワークの推論過程を理解することに応用できることがわかった.

研究成果の学術的意義や社会的意義

意義は,情報量最大化法の単純化,情報の圧縮,さらに解釈可能なニューラルネットワークの開発の3点に要約できる.まず,これまで最大の問題であったニューラルネットワークの持つ情報量の制御を非常に簡単な競合学習で行うことができることがわかった.また,情報量を圧縮することも容易になり,圧縮された情報量を読み取ることが可能となり,解釈へ応用できる可能性が示された.推論過程の解釈が可能となり,より深く社会に受け入れられる方法へ発展する可能性を示したと考える.

報告書

(4件)
  • 2018 実績報告書   研究成果報告書 ( PDF )
  • 2017 実施状況報告書
  • 2016 実施状況報告書
  • 研究成果

    (23件)

すべて 2019 2018 2017 2016

すべて 雑誌論文 (9件) (うち査読あり 9件、 オープンアクセス 3件) 学会発表 (14件) (うち国際学会 14件)

  • [雑誌論文] Sparse semi-autoencoders to solve the vanishing information problem in multi-layered neural networks2019

    • 著者名/発表者名
      Kamimura Ryotaro and Takeuchi Haruhiko
    • 雑誌名

      Applied Intelligence

      巻: - 号: 7 ページ: 1-24

    • DOI

      10.1007/s10489-018-1393-x

    • 関連する報告書
      2018 実績報告書
    • 査読あり
  • [雑誌論文] SOM-based information maximization to improve and interpret multi-layered neural networks: From information reduction to information augmentation approach to create new information2019

    • 著者名/発表者名
      Ryotaro Kamimura
    • 雑誌名

      Expert systems with applications

      巻: 125 ページ: 397-411

    • DOI

      10.1016/j.eswa.2019.01.056

    • 関連する報告書
      2018 実績報告書
    • 査読あり
  • [雑誌論文] Neural self-compressor: Collective interpretation by compressing multi-layered neural networks into non-layered networks2019

    • 著者名/発表者名
      Ryotaro Kamimura
    • 雑誌名

      Neurocomputing

      巻: 323 ページ: 12-36

    • DOI

      10.1016/j.neucom.2018.09.036

    • 関連する報告書
      2018 実績報告書
    • 査読あり
  • [雑誌論文] Supposed Maximum Mutual Information for Improving Generalization and Interpretation of Multi-Layered Neural Networks2019

    • 著者名/発表者名
      Ryotaro Kamimura
    • 雑誌名

      Journal of Artificial Intelligence and Soft Computing Research

      巻: 9.2 号: 2 ページ: 123-147

    • DOI

      10.2478/jaiscr-2018-0029

    • 関連する報告書
      2018 実績報告書
    • 査読あり
  • [雑誌論文] Collective mutual information maximization to unify passive and positive approaches for improving interpretation and generalization2017

    • 著者名/発表者名
      Ryotaro Kamimura
    • 雑誌名

      Neural Networks

      巻: 90 ページ: 56-71

    • DOI

      10.1016/j.neunet.2017.03.001

    • 関連する報告書
      2017 実施状況報告書
    • 査読あり
  • [雑誌論文] Identifying Important Tweets by Considering the Potentiality of Neurons2017

    • 著者名/発表者名
      (6)Kitajima, R., Kamimura, R., Uchida, O., & Toriumi, F
    • 雑誌名

      IEICE TRANSACTIONS on Fundamentals of Electronics, Communications and Computer Sciences

      巻: 99 ページ: 1555-1559

    • NAID

      130005253730

    • 関連する報告書
      2016 実施状況報告書
    • 査読あり
  • [雑誌論文] Potential information maximization: Potentiality-driven information maximization and its application to Tweets classification and interpretation2016

    • 著者名/発表者名
      (1)Kitajima, R., Kamimura, R., Uchida, O., & Toriumi, F
    • 雑誌名

      International Journal of Computer Information Systems and Industrial Management Applications

      巻: 8 ページ: 42-51

    • 関連する報告書
      2016 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Simplified Information Maximization for Improving Generalization Performance in Multilayered Neural Networks.2016

    • 著者名/発表者名
      Ryotaro Kamimura
    • 雑誌名

      Mathematical Problems in Engineering

      巻: 2016 ページ: 1-17

    • DOI

      10.1155/2016/3015087

    • 関連する報告書
      2016 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Information-Theoretic Active SOM for Improving Generalization Performance2016

    • 著者名/発表者名
      Ryotaro Kamimura
    • 雑誌名

      International Journal of Advanced Research in Artificial Intelligence

      巻: 5 号: 8 ページ: 21-30

    • DOI

      10.14569/ijarai.2016.050804

    • 関連する報告書
      2016 実施状況報告書
    • 査読あり / オープンアクセス
  • [学会発表] Excessive, Selective and Collective Information Processing to Improve and Interpret Multi-layered Neural Networks2018

    • 著者名/発表者名
      Ryotaro Kamimura and Haruhiko Takeuchi
    • 学会等名
      Proceedings of SAI intelligent systems conference
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Information-Theoretic Self-compression of Multi-layered Neural Networks2018

    • 著者名/発表者名
      Ryotaro Kamimura
    • 学会等名
      International Conference on Theory and Practice of Natural Computing
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Autoeoncoders and Information Augmentation for Improved Generalization and Interpretation in Multi-layered Neural Networks2018

    • 著者名/発表者名
      Ryotaro Kamimura
    • 学会等名
      International Symposium on Computational and Business Intelligence (ISCBI)
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Information Augmentation, Reduction and Compression for Interpreting Multi-layered Neural Networks2018

    • 著者名/発表者名
      Ryotaro Kamimura
    • 学会等名
      Future of Information and Communication Conference
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Local Selective Learning for Interpreting Multi-Layered Neural Networks2018

    • 著者名/発表者名
      Ryotaro Kamimura, Ryozo Kitajima and Hiroyuki Sakai
    • 学会等名
      Joint 10th International Conference on Soft Computing and Intelligent Systems and 19th International Symposium on Advanced Intelligent Systems
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Correlation-Constrained Mutual Information Maximization for Interpretable Multi-Layered Neural Networks2018

    • 著者名/発表者名
      Ryotaro Kamimura and Haruhiko Takeuchi
    • 学会等名
      Joint 10th International Conference on Soft Computing and Intelligent Systems and 19th International Symposium on Advanced Intelligent Systems
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Autoeconder-Based Excessive Information Generation for Improving and Interpreting Multi-Layered Neural Network2018

    • 著者名/発表者名
      Ryotaro Kamimura and Haruhiko Takeuchi
    • 学会等名
      6th International Conference on Smart Computing and Artificial Intelligence (SCAI 2018)
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] Potential layer-wise supervised learning for training multi-layered neural networks2017

    • 著者名/発表者名
      Ryotaro Kamimura
    • 学会等名
      International joint conference on neural networks
    • 関連する報告書
      2017 実施状況報告書
    • 国際学会
  • [学会発表] Selective and cooperative potentiality maximization for improving interpretation and generalization2017

    • 著者名/発表者名
      Ryotaro Kamimura
    • 学会等名
      International joint conference on neural networks
    • 関連する報告書
      2017 実施状況報告書
    • 国際学会
  • [学会発表] Mutual information maximization for improving and interpreting multi-layered neural networks2017

    • 著者名/発表者名
      Ryotaro Kamimura
    • 学会等名
      IEEE Symposium series on computational intelligence
    • 関連する報告書
      2017 実施状況報告書
    • 国際学会
  • [学会発表] Supervised semi-autoencoder learning for multi-layered neural networks2017

    • 著者名/発表者名
      Ryotaro Kamimura, Haruhiko Takeuchi
    • 学会等名
      IFSA-SCIS
    • 関連する報告書
      2017 実施状況報告書
    • 国際学会
  • [学会発表] Simple and Stable Internal Representation by Potential Mutual Information Maximization. In International Conference on Engineering Applications of Neural Networks2016

    • 著者名/発表者名
      Ryotaro Kamimura
    • 学会等名
      European conference on engineering applications of neural networks
    • 発表場所
      Aberdeen
    • 年月日
      2016-09-02
    • 関連する報告書
      2016 実施状況報告書
    • 国際学会
  • [学会発表] Repeated potentiality assimilation: simplifying learning procedures by positive, independent and indirect operation for improving generalization and interpretation2016

    • 著者名/発表者名
      Ryotaro Kamimura
    • 学会等名
      International Joint Conference on Neural Networks
    • 発表場所
      Vancouber
    • 関連する報告書
      2016 実施状況報告書
    • 国際学会
  • [学会発表] Solving the Vanishing Information Problem with Repeated Potential Mutual Information Maximization. In International Conference on Neural Information Processing2016

    • 著者名/発表者名
      Ryotaro Kamimura
    • 学会等名
      International Conference on Neural Information Processing
    • 発表場所
      Kyoto
    • 関連する報告書
      2016 実施状況報告書
    • 国際学会

URL: 

公開日: 2016-04-21   更新日: 2020-03-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi