多様なモデルのオンライン学習に関する網羅的・系統的研究

2011 年度 研究成果報告書

• 研究課題/領域番号: 21500228
• 研究種目: 基盤研究(C)
• 配分区分: 補助金
• 応募区分: 一般
• 研究分野: 感性情報学・ソフトコンピューティング
• 研究機関: 関西大学
• 研究代表者: 三好 誠司 関西大学, システム理工学部, 教授 (10270307)
• 研究期間 (年度): 2009 – 2011
• キーワード: 情報統計力学 / 統計的学習理論 / 統計力学 / 機械学習 / オンライン学習 / 汎化能力 / 汎化誤差

研究概要

学習機械の汎化能力をオンライン学習の枠組みで統計力学的手法を用いて解析した。解析は、生徒が複数の動く教師から学ぶモデル、学習に用いる例題のうち少数の例題だけに正解が付与されているようなモデル、例題自身に相関があるモデルなど、統計的学習の基礎理論と応用の両面への波及効果が大きく、時間的あるいは空間的な観点で特徴を有するいくつかのモデルを対象とし、網羅的かつ系統的に行った。また、いずれの場合も計算機実験との比較により検証を行った。

研究成果

• [雑誌論文] Statistical mechanics of on-line learning using correlated examples (2011)
  • 著者名/発表者名: Nakao, K., Narukawa, Y., and Miyoshi, S
  • 雑誌名: IEICE Transactions on Information and Systems 巻: Vol.E94-D, No.10 ページ: 1941-1944
  • 査読あり
• [雑誌論文] Statistical mechanics of adaptive weight perturbation learning (2011)
  • 著者名/発表者名: Miyoshi, R., Maeda, Y., and Miyoshi, S
  • 雑誌名: IEICE Transactions on Information and Systems 巻: Vol.E94-D, No.10 ページ: 1937-1940
  • 査読あり
• [雑誌論文] Image segmentation using region-based latent variables and belief propagation (2011)
  • 著者名/発表者名: Hasegawa, R., Okada, M., and Miyoshi, S
  • 雑誌名: Journal of the Physical Society of Japan 巻: Vol.80, No.9 ページ: 093802(4)
  • 査読あり
• [雑誌論文] Statistical-mechanics approach to the Filtered-X LMS algorithm (2011)
  • 著者名/発表者名: Miyoshi, S. and Kajikawa, Y
  • 雑誌名: Electronics Letters 巻: Volume 47 ページ: 997-999
  • 査読あり
• [雑誌論文] 同時摂動を用いたPSOのFPGA実現 (2011)
  • 著者名/発表者名: 山田貴博, 三好誠司, 肥川宏臣, 前田裕
  • 雑誌名: 電気学会論文誌 巻: Vol.131, No.3 ページ: 682-688
  • 査読あり
• [雑誌論文] Image restoration and segmentation using region-based latent variables : Bayesian inference based on variational method (2011)
  • 著者名/発表者名: Miyoshi, S. and Okada, M
  • 雑誌名: Journal of the Physical Society of Japan 巻: Vol.80, No.1 ページ: 014802(11)
  • 査読あり
• [雑誌論文] Estimation of distribution algorithm incorporating switching (2010)
  • 著者名/発表者名: Tsuchie, K., Hanada, Y., and Miyoshi, S
  • 雑誌名: IEICE Transactions on Information and Systems 巻: Vol.E93-D, No.11 ページ: 3108-3111
  • 査読あり
• [雑誌論文] Statistical mechanical study of partial annealing of a neural network model (2010)
  • 著者名/発表者名: Uezu, T., Abe, K., Miyoshi, S., and Okada, M
  • 雑誌名: Journal of Physics A : Mathematical and Theoretical 巻: Vol.43 ページ: 025004(22)
  • 査読あり
• [雑誌論文] Statistical mechanics of on-line mutual learning with many linear perceptrons (2009)
  • 著者名/発表者名: Hara, K., Nakayama, Y., Miyoshi, S., and Okada, M
  • 雑誌名: Journal of the Physical Society of Japan 巻: Vol.78, No.11 ページ: 114001(5)
  • 査読あり
• [雑誌論文] Statistical mechanical analysis of simultaneous perturbation learning (2009)
  • 著者名/発表者名: Miyoshi, S., Hikawa, H., and Maeda, Y
  • 雑誌名: IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences 巻: Vol.E92-A, No.7 ページ: 1743-1746
  • 査読あり
• [雑誌論文] Effect of slow switching of ensemble teachers in on-line learning (2009)
  • 著者名/発表者名: Miyoshi, S. and Okada, M.
  • 雑誌名: Journal of the Physical Society of Japan 巻: Vol.78, No.5 ページ: 053001(4)
  • 査読あり
• [雑誌論文] Statistical mechanics of on-line ensemble teacher learning through a novel perceptron learning rule
  • 著者名/発表者名: Hara, K. and Miyoshi, S
  • 雑誌名: Journal of the Physical Society of Japan 巻: (accepted)
  • 査読あり
• [学会発表] 複層ベイズ超解像の大画像への適用 (2012)
  • 著者名/発表者名: 木下俊貴, 岡田真人, 三好誠司
  • 学会等名: 日本物理学会年次大会
  • 発表場所: 関西学院大学
  • 年月日: 2012-03-27
• [学会発表] スイッチング状態空間モデルと変分ベイズ法による画像の修復と領域分割 (2012)
  • 著者名/発表者名: 長谷川亮太, 瀧山健, 岡田真人, 三好誠司
  • 学会等名: 日本物理学会年次大会
  • 発表場所: 関西学院大学
  • 年月日: 2012-03-27
• [学会発表] CDMAのSCSNA (2012)
  • 著者名/発表者名: 加藤弘之, 岡田真人, 三好誠司
  • 学会等名: 日本物理学会年次大会
  • 発表場所: 関西学院大学
  • 年月日: 2012-03-27
• [学会発表] 適応フィルタの統計力学II (2012)
  • 著者名/発表者名: 三好誠司, 梶川嘉延
  • 学会等名: 日本物理学会年次大会
  • 発表場所: 関西学院大学
  • 年月日: 2012-03-27
• [学会発表] 統計力学的手法によるFiltered-X LMSアルゴリズムの解析 (2011)
  • 著者名/発表者名: 三好誠司, 梶川嘉延
  • 学会等名: 信号処理シンポジウム
  • 発表場所: 札幌コンベンションセンター
  • 年月日: 2011-11-18
• [学会発表] スイッチング状態空間モデルと変分ベイズ法による画像の修復と分割 (2011)
  • 著者名/発表者名: 長谷川亮太, 瀧山健, 岡田真人, 三好誠司
  • 学会等名: 信号処理シンポジウム
  • 発表場所: 札幌コンベンションセンター
  • 年月日: 2011-11-16
• [学会発表] 統計力学的手法による適応信号処理の解析 (2011)
  • 著者名/発表者名: 三好誠司, 梶川嘉延
  • 学会等名: 14回情報論的学習理論ワークショップ,ディスカッショントラック
  • 発表場所: 奈良女子大学
  • 年月日: 2011-11-10
• [学会発表] MCMCを用いた画像の修復と領域分割 (2011)
  • 著者名/発表者名: 萱野健太, 永田賢二, 岡田真人, 三好誠司
  • 学会等名: 第14回情報論的学習理論ワークショップ,テクニカルトラック
  • 発表場所: 奈良女子大学
  • 年月日: 2011-11-10
• [学会発表] 適応型荷重摂動学習の統計力学 (2010)
  • 著者名/発表者名: 三好亮介, 前田裕, 三好誠司
  • 学会等名: 情報論的学習理論ワークショップ
  • 発表場所: 東大駒場
  • 年月日: 2010-11-05
• [学会発表] 入力が相関を有するオンライン学習の統計力学 (2010)
  • 著者名/発表者名: 中尾健人, 鳴川雄太, 三好誠司
  • 学会等名: 情報論的学習理論ワークショップ
  • 発表場所: 東大駒場
  • 年月日: 2010-11-05
• [備考]
  • URL: http://www2.itc.kansai-u.ac.jp/～miyoshi/cnt/gyoseki.html