• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

情報制御による競合学習の実現とその言語習得過程への応用

研究課題

研究課題/領域番号 13680463
研究種目

基盤研究(C)

配分区分補助金
応募区分一般
研究分野 知能情報学
研究機関東海大学

研究代表者

上村 龍太郎  東海大学, 総合情報センター, 教授 (80176643)

研究分担者 内田 理  東海大学, 電子情報学部, 講師 (50329306)
上村 妙子  専修大学, 文学部, 教授 (30205926)
中西 祥八郎  東海大学, 電子情報学部, 教授 (30056254)
研究期間 (年度) 2001 – 2003
研究課題ステータス 完了 (2003年度)
配分額 *注記
3,600千円 (直接経費: 3,600千円)
2003年度: 900千円 (直接経費: 900千円)
2002年度: 1,000千円 (直接経費: 1,000千円)
2001年度: 1,700千円 (直接経費: 1,700千円)
キーワードニューラルネットワーク / 教師なし学習法 / 教師有り学習法 / 情報量最大化法 / 誤差伝播法 / Radial-basis function / コスト / 競合学習 / 情報量 / 情報量最大化 / 教師付き学習 / 教師なし学習 / 特徴抽出 / 特徴発見 / 汎化能力 / 情報理論 / 自己組織化マップ / 言語習得 / 授受動詞 / 自然言語処理
研究概要

本研究では、人間の知能を模倣する新しい計算モデルを提案し、実際に言語習得過程のシミュレーションに応用しながらモデルの妥当性を探求した。最終的には、新しい知能、思考、認知の新しいパラダイムを創造することを目指して、研究を行なった。
技術的な側面から見れば、本研究は、これまでの教師無し学習(unsupervised learning)の代表である競合学習(competitive learning)の新しい枠組みを提案するものである。新しい方法は、不必要な情報が存在する入力パターンにおいても適切な形で規則性を発見できる可能性をもっている。
平成15年度は、新たにコストの概念を導入し、教師なし学習から教師有り学習へと拡張する試みをおこなった。また、教師指導学習法と情報量最大化と最小化の融合をより容易にする方法を提案した。
まず、新たに情報量のコストという概念を導入した。コストは、コネクションと入力パターンの間の差として定義し、このコストを小さくしながら、情報量を最大化していく方法を考案した。このコストの導入によって、より入力パターンを忠実に反映することが可能となった。
次に、教師有り学習への拡張である。情報量最大化法は、基本的には、教師なし学習法であり、教師情報を考慮することができない。そこで、多層型ネットワークを用い、誤差を最小化する層を追加することによって教師情報を扱うことができるような工夫を行なった。この方法は、radial-basis functionネットワークとかなり類似しており、radial-basis functionネットワークの拡張と考えることができる。
第3に、教師指導学習法(Teacher-directed learning)の改善である。この方法は、誤差伝播を用いない新しい教師付き学習である。この方法では、訓練パターンと教師パターンについての情報量が最大化される。これまで、シグモイド関数を活性化関数として用いてきた。しかし、問題によっては、情報量最大化が不可能な場合が存在した。この問題を、ガウス関数を用いることによって、解決した。
最後に、情報最大化と最小化の融合(Unification of information maximization and minimization)情報量を最大化するのと同様に最小化も行なえる方法を提案してきたが、これまで融合が困難であった。融合を可能とする方法を提案し、実験によってその妥当性を確かめてきた。

報告書

(4件)
  • 2003 実績報告書   研究成果報告書概要
  • 2002 実績報告書
  • 2001 実績報告書
  • 研究成果

    (63件)

すべて その他

すべて 文献書誌 (63件)

  • [文献書誌] 上村 龍太郎: "Improving Feature Extraction Performance of Greedy Network Growing Algorithm by Inverse Euclidean Distance"Connection Science. (To appear).

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Multi-layered greedy network-growing algorithm : extension of greedy network-growing algorithm to multi-layered networks"International Journal of Neural Systems. (To appear).

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Progressive Feature Extraction by Greedy Network-Growing Algorithm"Complex Systems. Vol.14,No.2. 127-153 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Information Theoretic Competitive Learning in Self-Adaptive Multi-Layered Networks"Vol.15. 3-26 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Conditional information control to maximize and minimize information"International Journal of Smart Engineering and Design. Vol.5. 187-202 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Information theoretic competitive learning : eliminating dead neurons in neural networks"Artificial Neural Networks and Neural Information Processing-ICANN/ICONIP2003,Ikyay Kaynak, Ethem Alpaydin, Erikki Oja and Lei Xu, eds.Spring Lecture Notes. 2714. 99-106 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "A hybrid system to unify information control and error minimization"Proceeding of ICANN/ICOMP2003. 29-32 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Teacher-directed learning : information-theoretic competitive learning in supervised multi-layered networks"Connection Science. Vol.15,No.2-3. 117-140 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Information-theoretic competitive learning with inverse Euclidean distance"Neural Processing Letters. Vol.18. 163-184 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Cost-sensitive Information Maximization"Proceeding of IASTED International Conference Artificial Intelligence and Applications. 723-728 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Cost-sensitive Information Maximization and Its Application to Image Compression"Proceeding of IASTED International Conference Artificial Intelligence and Applications. 729-734 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Cost-sensitive Information Maximization and Its Application to Student Survey Analysis"Proceeding of IASTED International Conference Artificial Intelligence and Applications. 735-740 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Cost-sensitive Greedy Network-growing Algorithm and Its Application to Economic Data Analysis"Proceeding of IASTED International Conference Artificial Intelligence and Applications. 741-745 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Information-theoretic Self-organizing Maps and Their Application to Road and Chemical Compound Classification"Proceeding of IASTED International Conference Artificial Intelligence and Applications. 746-752 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Accelerated greedy network-growing algorithm with application to student survey"Proceeding of IASTED International Conference of Applied Simulation and Modelling. 538-544 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Greedy Network-growing algorithm with Minkowski distance with application to economic data analsis"Proceeding of IASTED International Conference of Applied Simulation and Modelling. 545-551 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Generating explicit self-organizing maps by information maximization"Intelligent Data Engineering and Automated Learning, J.Lieu, Y.Cheung and H.Yin(Eds.),Springer Lecture Notes in Computer Science. 236-245 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Improving feature extraction performance of greedy network-growing algorithm"Intelligent Data Engineering and Automated Learning, J.Lieu, Y.Cheung and H.Yin(Eds.),Springer Lecture Notes in Computer Science. 1056-1061 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Competitive learning by information maximization : eliminating dead neurons in competitive learning"Artificial Neural Networks and Neural Information Processing-ICANN/ICONIP2003,O.Kayanak, E.Alpaydin, E.Oja and L.Xu(Eds),Springer Lecture Notes in Computer Science. 99-106 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "A hybrid system to unify information control and error minimization"Proceedings of ICANN/ICONIP2003. 29-32 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Information-theoretic self-organizing maps with Minkowski distance"Proceedings of IASTED International Conference of Artificial Intelligence and Softcomputing. 15-20 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村 龍太郎: "Greedy network-growing algorithm with Minkowski distance"Proceeding of IASTED International Conference of Artificial Intelligence and Softcomputing. 33-39 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Improving Feature Extraction Performance Greedy Network Growing Algorithm by Inverse Euclidean Distance"Connection Science. (To appear). (2004)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Multi-layered greedy network-growing algorithm extension of greedy network-growing algorithm mmulti-layered networks"International Journal if Neural Systems. (To appear). (2004)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Progressive feature extraction by Greedy Network-Growing Algorithm"Complex Systems. Vol.14, No.2. 127-153 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Information Theoretic Competitive Learning Self-Adaptive Multi-Layered Networks"Vol.15, no.2. 3-26

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Conditional information control to maximize a minimize and information"International Journal of Smart Engineering and Design. Vol.5. 187-202 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "information theoretic competitive learnig eliminating dead neurons in neural networks"Artificial Neural Networks and Neural Information Processing-ICANN/ICONIP2003, (Okyay Kaynak, Ethem Alpaydin, Erkki Oja and Lei xu, eds) Springer Lecture Notes 2714. 99-106 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "A hybrid system to unify information control and error minimization"Proceeding of ICANN/ICONIP2003. 29-32 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Teacher-directed learning : information-theoretic competitive learning in supervised multi-layered networks"Connection Science. Vol.15, No.2-3. 117-140 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Information-theoretic competitive learning with inverse Euclidean distance"Neural Processing Letters. Vol.18. 163-184 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Cost-sensitive Information Maximization"Proceeding of IASTED International Conference Artificial Intelligence and Applications. 723-728 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Cost-sensitive Information Maximization and Its Application to Image Compression"Proceeding of IASTED International Conference Artificial Intelligence and Applications. 729-734 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Cost-sensitive Information Maximization and Its Application to Student Survey Analysis"Proceeding of IASTED International Conference Artificial Intelligence and Applications. 735-740 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Cost-sensitive Greedy Network-growig Algorithm and Its Application to Economic Data Analysis"Proceeding of IASTED International Conference Artificial Intelligence and Applications. 741-745 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Information-theoretic Self-organizing Maps and Their Application to Road and Chemi* Compound Classification"Proceeding of IASTED International Conference Artificial Intelligence and Applications. 746-75* (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Accelerated greedy network-growing algorithm with application to student survey"Proceeding of IASTED International Conference Artificial Intelligence and Applications. 538-544 (200*)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Greedy network-growing algorithm with Minkowski distance with apprication to economic data analysis"Proceeding of IASTED International Conference Artificial Intelligence and Applications. 545-551 (200*)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Generating explicit self-organizing maps by information maximization"Intelligent Data Engineering and Automat* Learning, (J.Lieu, Y, Cheung and H. Yin (Eds)) Springer Lecture Notes in Computer Science. 236-245 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Improving feature extraction performance of greedy network-growing algorithm"Intelligent Data Engineering and Automat* Learning, (J.Lieu, Y, Cheung and H. Yin (Eds)) Springer Lecture Notes in Computer Science. 1056-1061 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Competitive learning by information maximization eliminating dead neurons in competitive learning"Artificial Neural Networks and Neural Informati* Processing-ICANN/ICONIP2003, (O.Kayanak, Alpaydin, E, Oja and L.Xu (Eds)), Springer Lecture Notes in computer Science. 99-106 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "A hybrid system to unify information control and error minimization"Proceedings of ICANN/ICONIP2003. 29-32 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Information-theoretic self-organizing maps with Minkowski distance"Proceeding of IASTED International Conference Artificial Intelligence and Softcomputing. 15-2* (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Ryotaro Kamimura: "Greedy network-growing algorithm with Minkowski distance"Proceeding of IASTED International Conference Artificial Intelligence and Softcomputing. 33-3* (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 上村龍太郎: "Conditional information control to maximize and minimize information"International journal of smart engineering system design. 5. 187-202 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] 上村龍太郎, 上村妙子, 内田理: "Progressive Feature Extraction by Greedy Network-Growing Algorithm"Complex systems. 14. 127-153 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] 上村龍太郎: "Teacher-directed learning : information-theoretic competitive learning in supervised multi-layered networks"Connection science. 15. 117-140 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] 上村龍太郎: "Information-theoretic competitive learning with inverse Euclidean distance output units"Neural Processing Letters. 18. 163-184 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] 上村龍太郎: "Competitive learning by information maximization : eliminating dead neurons in competitive learning"Artificial Neural Networks and Neural Information Processing-ICANN/ICONIP2003. 99-106 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] 上村龍太郎: "A hybrid system to unify information control and error minimization"Proceeding of ICONIP/ICANN2003. 29-32 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] 上村龍太郎, 上村妙子, 竹内晴彦: "Greedy Information Acquisition Algorithm : A New Information Theoretic Approach to Dynamic Information Acquisition on Neural Networks"Connection science. 14. 137-162 (2002)

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] 上村龍太郎, 上村妙子, 内田理: "Flexible feature detection and structural information"Connection science. 13. 323-347 (2002)

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] 上村龍太郎: "Controlling internal representation by structural information, "Neurocomputing"Neurocomputing. 48. 705-725 (2002)

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] 上村龍太郎, 上村妙子: "Hybrid Information Processing Systems to Generate Self-Organizing Maps : Combining SOM and information Maximization for Coherent activation Patterns"Proceeding of world congress on computational intelligence. 1785-1790 (2002)

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] 上村龍太郎, 竹内晴彦, 内田理: "Progressive feature extraction by extended greedy information acquisition"Proceedings of international conference on neural information processing. 167-173 (2002)

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] 上村龍太郎: "Information theoretic competitive learning in multi-layered networks, "International Conference on Neural Information Processing"Proceedings of international conference on neural information processing. 311-316 (2002)

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] 上村龍太郎: "Information theoretic neural computation"World scientific. 250 (2002)

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] 上村龍太郎: "Flexible feature detection and structural information(in press)"Connection Science. (2002)

    • 関連する報告書
      2001 実績報告書
  • [文献書誌] 上村龍太郎: "Controlling internal representation by structural information(in press)"Neurocomputing. (2002)

    • 関連する報告書
      2001 実績報告書
  • [文献書誌] 上村龍太郎: "Information theoretic competitive learning and linguistic rule"Transactions on Japanese Society of Artificial Intelligence. 3. 287-298 (2001)

    • 関連する報告書
      2001 実績報告書
  • [文献書誌] 上村龍太郎: "Unified information theoretic approach to competitive learning(in press)"Proceeding of Applied informatics. (2002)

    • 関連する報告書
      2001 実績報告書
  • [文献書誌] 上村龍太郎: "Controlling competition by structural information"Proceedings of International Conference on Neural Information Processing. 1. 241-246 (2001)

    • 関連する報告書
      2001 実績報告書
  • [文献書誌] 上村龍太郎: "Creating self-organization maps by cooperative information control"Proceedings of International Conference on Neural Information Processing. 3. 1311-1316 (2001)

    • 関連する報告書
      2001 実績報告書

URL: 

公開日: 2001-04-01   更新日: 2016-04-21  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi