• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

移動する教師に対するオンライン学習の解析

研究課題

研究課題/領域番号 15500151
研究種目

基盤研究(C)

配分区分補助金
応募区分一般
研究分野 感性情報学・ソフトコンピューティング
研究機関神戸市立工業高等専門学校

研究代表者

三好 誠司  神戸市立工業高等専門学校, 電子工学科, 助教授 (10270307)

研究期間 (年度) 2003 – 2005
研究課題ステータス 完了 (2005年度)
配分額 *注記
2,900千円 (直接経費: 2,900千円)
2005年度: 1,100千円 (直接経費: 1,100千円)
2004年度: 1,000千円 (直接経費: 1,000千円)
2003年度: 800千円 (直接経費: 800千円)
キーワード統計的学習理論 / オンライン学習 / アンサンブル学習 / 汎化誤差 / ヘブ学習 / パーセプトロン学習 / アダトロン学習 / 統計力学 / 線形パーセプトロン / 動く教師 / アンサンブル教師 / 汎化能力 / 勾配法 / 非線形パーセプトロン
研究概要

精度の低い学習機械(生徒)を多数組み合わせることにより精度の高い分類を行おうとすることはアンサンブル学習と呼ばれている.ヘブ学習,パーセプトロン学習,アダトロン学習の三つの学習則についてK個の生徒が多数決や平均値で統合出力を決定するアンサンブル学習の汎化誤差をオンライン学習の枠組みで統計力学的手法を用いて理論的に解析した.その結果,これら三つの学習則は「生徒の多様性維持」というアンサンブル学習との相性においてそれぞれ異なった性質を有しており,アダトロン学習が最も優れているという興味深い事実が明らかになった.次に,教師がコミティマシンや非単調な出力特性を有する場合についても解析を行った.その結果,学習則毎の顕著な特徴が明らかになった.また,教師が真の教師と一定の方向余弦を保ったまま真の教師のまわりを動き続ける場合の生徒の汎化能力についても解析を行い,生徒が動く教師の入出力だけを例題として使用するにもかかわらず,動く教師の汎化誤差よりも生徒の汎化誤差の方が小さくなりうることが明らかになった.現実の人間社会においても,生徒が入出力を観測できる教師は必ずしも正しい解答を示すとは限らず,また,教師自身も学習しており,変わり続ける存在である場合が多いことから,この解析は統計的学習理論と現実社会のアナロジーを考える上で興味深いものである.さらに,現実の人間社会においては,生徒が複数の教師の入出力を観測することができ,また,その教師たちが少しずつ違っているという場合も多いことから,このようなモデルの解析を行い,不完全な複数の教師たちの使い方について解析した.その結果,生徒の学習係数ηが1より小さい場合には教師数Kが多いほど,また,教師の多様性が豊かであるほど生徒の汎化誤差が小さくなるが,ηが1より大きい場合には逆であるという非常に興味深い結果が明らかになった.

報告書

(4件)
  • 2005 実績報告書   研究成果報告書概要
  • 2004 実績報告書
  • 2003 実績報告書
  • 研究成果

    (38件)

すべて 2006 2005 2004 2003 その他

すべて 雑誌論文 (33件) 文献書誌 (5件)

  • [雑誌論文] 集団の意志決定に関する統計力学的解析2006

    • 著者名/発表者名
      三好誠司
    • 雑誌名

      電子情報通信学会論文誌D J89-D・1

      ページ: 129-132

    • NAID

      110003488488

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2005 実績報告書 2005 研究成果報告書概要
  • [雑誌論文] Analysis of on-line learning when a moving teacher goes around a true teacher2006

    • 著者名/発表者名
      Miyoshi, S., Okada, M.
    • 雑誌名

      Journal of the Physical Society of Japan 75・2

      ページ: 24003-24003

    • NAID

      110004086865

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Statistical mechanics of online learning for ensemble teachers2006

    • 著者名/発表者名
      Miyoshi, S., Okada, M.
    • 雑誌名

      Journal of the Physical Society of Japan 75・4

      ページ: 44002-44002

    • NAID

      110004729258

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Statistical mechanics of time-domain ensemble learning2006

    • 著者名/発表者名
      Miyoshi, S., Uezu, T., Okada, M.
    • 雑誌名

      Journal of the Physical Society of Japan 75・8

      ページ: 84007-84007

    • NAID

      110004799205

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] An analysis regarding decision of ensemble b; statistical mechanics (in Japanese)2006

    • 著者名/発表者名
      Miyoshi, S.
    • 雑誌名

      IEICE Transactions on Information and Systems Vol.J89-D, No.1

      ページ: 129-132

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Analysis of on-line learning when a moving teacher goes around a true teacher2006

    • 著者名/発表者名
      Miyoshi, S., Okada, M.
    • 雑誌名

      Journal of the Physical Society of Japan Vol.75, No.2

      ページ: 24003-24003

    • NAID

      110004086865

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Statistical mechanics of online learning for ensemble teachers2006

    • 著者名/発表者名
      Miyoshi, S., Okada, M.
    • 雑誌名

      Journal of the Physical Society of Japan Vol.75, No.4

      ページ: 44002-44002

    • NAID

      110004729258

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Statistical mechanics of time-domain ensemble learning2006

    • 著者名/発表者名
      Miyoshi, S., Uezu, T., Okada, M.
    • 雑誌名

      Journal of the Physical Society of Japan Vol.75, No.8

      ページ: 84007-84007

    • NAID

      110004799205

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Statistical mechanics of online learning for ensemble teachers2006

    • 著者名/発表者名
      Miyoshi, S., Okada, M.
    • 雑誌名

      Journal of Physical Society of Japan 75・4

      ページ: 44002-44002

    • NAID

      110004729258

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] Analysis of on-line learning when a moving teacher goes around a true teacher2006

    • 著者名/発表者名
      Miyoshi, S., Okada, M.
    • 雑誌名

      Journal of Physical Society of Japan 75・2

      ページ: 24003-24003

    • NAID

      110004086865

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] Analysis of ensemble learning using simple perceptrons based on online learning theory2005

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      Physical Review E 71

      ページ: 36116-36116

    • NAID

      110001276022

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2005 研究成果報告書概要 2004 実績報告書
  • [雑誌論文] Analysis of ensemble learning using simple perceptrons based on online learning theory2005

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      Virtual Journal of Biological Physics Research 9・6

    • NAID

      110001276022

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Analysis of ensemble learning using simple perceptrons based on online learning theory2005

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      Progress of Theoretical Phusics, Supplement 157

      ページ: 270-274

    • NAID

      110001276022

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Analysis of ensemble learning using simple perceptrons based on on-line learning theory2005

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      Systems and Computers in Japan, John Wiley & Sons 36・12

      ページ: 63-74

    • NAID

      110003232421

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Analysis of ensemble learning using simple perceptron : based on online learning theory2005

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      Physical Review E Vo.71

      ページ: 36116-36116

    • NAID

      110001276022

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Analysis of ensemble learning using simple perceptron : based on online learning theory2005

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      Virtual Journal of Biological Physics Research Vol.9, No.6

    • NAID

      110001276022

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Analysis of ensemble learning using simple perceptron based on online learning theory2005

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      Progress of Theoretical Physics, Supplement Vol.157

      ページ: 270-274

    • NAID

      110001276022

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Analysis of ensemble learning using simple perceptron based on on-line learning theory2005

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      Systems and Computers in Japan, John Wiley & Sons Vol.36, No.12

      ページ: 63-74

    • NAID

      110003232421

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Analysis of ensemble learning using simple percenptrons based on on-line learning theory2005

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      Systems and Computers in Japan, John Wiley & Sons 36・12

      ページ: 63-74

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] Analysis of ensemble learning using simple perceptrons based on online learning theory2005

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      Progress of Theoretical Physics, Supplement 157

      ページ: 270-274

    • NAID

      110001276022

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] Analysis of ensemble learning using simple perceptrons based on online learning theory2005

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      Progress of Theoretical Physics, Supplement No.157(未定)

    • NAID

      110001276022

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] Analysis of ensemble learning using simple perceptrons based on on-line learning theory2005

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      Electronics and Communication in Japan Part 3 : Fundamental Electronic Science (印刷中)(未定)

    • NAID

      110003232421

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] Analysis of ensemble learning using simple perceptrons based on online learning theory2005

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      Virtual Journal of Biological Physics Research Volume 9 Issue 6

    • NAID

      110001276022

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] Associative memory by recurrent neural networks with delay elements2004

    • 著者名/発表者名
      Miyoshi, S., Yanai, H.F., Okada, M.
    • 雑誌名

      Neural Networks 17・1

      ページ: 55-63

    • NAID

      10012681868

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] オンライン学習理論に基づく単純パーセプトロンのアンサンブル学習の解析2004

    • 著者名/発表者名
      三好誠司, 原一之, 岡田真人
    • 雑誌名

      電子情報通信学会論文誌 DII J87-D-II・7

      ページ: 1391-1401

    • NAID

      110003232421

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Storage capacity diverges with synaptic efficiency in an associative memory model with synaptic delay and pruning2004

    • 著者名/発表者名
      Miyoshi, S., Okada, M.
    • 雑誌名

      IEEE Transactions on Neural Networks 15・5

      ページ: 1215-1227

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Associative memory by recurrent neural networks with delay elements2004

    • 著者名/発表者名
      Miyoshi, S., Yanai, H.E, Okada, M.
    • 雑誌名

      Neural Networks Vol.17, No.1

      ページ: 55-63

    • NAID

      10012681868

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Analysis of ensemble learning using simple perceptrom based on on-line learning theory (in Japanese)2004

    • 著者名/発表者名
      Miyoshi, S., Hara, K., Okada, M.
    • 雑誌名

      IEICE Transactions on Information and Systems PT.2, Vol.J87-D-II, No.7

      ページ: 1391-1401

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Storage capacity diverges with synaptic efficiency in an associative memory model with synaptic delay and pruning2004

    • 著者名/発表者名
      Miyoshi, S., Okada, M.
    • 雑誌名

      IEEE Transactions on Neural Networks Vol.15, No.5

      ページ: 1215-1227

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Storage capacity diverges with synaptic efficiency in an associative memory model with synaptic delay and pruning2004

    • 著者名/発表者名
      Miyoshi, S., Okada, M.
    • 雑誌名

      IEEE Transactions on Neural Networks Vol.15,No.5

      ページ: 1215-1227

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] オンライン学習理論に基づく単純パーセプトロンのアンサンブル学習の解析2004

    • 著者名/発表者名
      三好誠司, 原一之, 岡田真人
    • 雑誌名

      電子情報通信学会論文誌DII Vol.J87-D-II, No.7

      ページ: 1391-1401

    • NAID

      110003232421

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] Associative memory by neural networks with delays and pruning2003

    • 著者名/発表者名
      Miyoshi, S., Okada, M.
    • 雑誌名

      Electronics and Communication in Japan Part 3 : Fundamental Electronic Science, John Wiley & Sons 86・6

      ページ: 48-58

    • NAID

      110003313803

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [雑誌論文] Associative memory by neural networks with delays and pruning2003

    • 著者名/発表者名
      Mryoshi, S., Okada, M.
    • 雑誌名

      Electronics and Communication in Japan Part 3 : Fundamental Electronic Science, John Wiley & Sons Vol.86,No.6

      ページ: 48-58

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2005 研究成果報告書概要
  • [文献書誌] 三好誠司, 原一之, 岡田真人: "オンライン学習理論に基づく単純パーセプトロンのアンサンブル学習の解析"電子情報通信学会論文誌DII. (印刷中). (2004)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] Miyoshi, S., Okada.M: "Storage capacity diverges with synaptic efficiency in an associative memory model with synaptic delay and pruning"IEEE Transactions on Neural Networks. (印刷中). (2004)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] Miyoshi, S., Yanai.H.F., Okada, M.: "Associative memory by recurrent neural networks with delay elements"Neural Networks. 17・1. 55-63 (2004)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] Miyoshi, S., Okada, M: "Associative memory by neural networks with delays and pruning"Electronics and Communication in Japan Part 3:Fundamental Electronic Science. 86・6. 48-59 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] Miyoshi, S., Hara, K., Okada, M: "Analysis of ensemble learning using simple perceptrons based on online learning theory"Proc.on Int.Joint Conf.on Neural Networks. (採録決定). (2004)

    • 関連する報告書
      2003 実績報告書

URL: 

公開日: 2003-04-01   更新日: 2016-04-21  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi