• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

記述長最小原理の数理と学習理論

研究課題

研究課題/領域番号 24500018
研究種目

基盤研究(C)

配分区分基金
応募区分一般
研究分野 情報学基礎
研究機関九州大学

研究代表者

竹内 純一  九州大学, システム情報科学研究科(研究院, 教授 (80432871)

連携研究者 小野 廣隆  九州大学, 経済学研究院, 准教授 (00346826)
研究協力者 BARRON Andrew R.  Yale University, Dept. of Statistics, 教授
研究期間 (年度) 2012-04-01 – 2015-03-31
研究課題ステータス 完了 (2014年度)
配分額 *注記
5,330千円 (直接経費: 4,100千円、間接経費: 1,230千円)
2014年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2013年度: 2,080千円 (直接経費: 1,600千円、間接経費: 480千円)
2012年度: 2,210千円 (直接経費: 1,700千円、間接経費: 510千円)
キーワード記述長最小原理 / MDL / 確率的コンプレキシティ / 指数型分布族 / 木情報源モデル / 局所指数族バンドル / Jeffreys事前分布 / 木情報源 / Markovモデル / スパース重ね合わせ符号 / MDL原理 / Bayes符号 / ガウス通信路 / 混合型分布族 / ポートフォリオ
研究成果の概要

記述長最小原理(MDL原理)について,確率的コンプレキシティ(SC)の評価と,SCを達成する最適な予測法(minimax予測)の研究を実施した.具体的には,i.i.d.の正則なi.i.d.モデルについて,ターゲットクラスに関するJeffreys事前分布を用いたBayes混合と,その局所指数族バンドル上のBayes混合の組み合わせによってSCが達成できることを示した.特に混合型分布族および木情報源モデルについては,データ列に関する制約を除去することに成功した.また通信路容量を達成する誤り訂正符号の一つであるスパース重ね合わせ符号(Barronら,2011-)の研究を行った.

報告書

(4件)
  • 2014 実績報告書   研究成果報告書 ( PDF )
  • 2013 実施状況報告書
  • 2012 実施状況報告書
  • 研究成果

    (28件)

すべて 2015 2014 2013 2012 その他

すべて 雑誌論文 (3件) (うち査読あり 3件、 謝辞記載あり 1件) 学会発表 (22件) (うち招待講演 4件) 図書 (1件) 備考 (2件)

  • [雑誌論文] Least Squares Superposition Codes with Bernoulli Dictionary are Still Reliable at Rates up to Capacity2014

    • 著者名/発表者名
      Y. Takeishi, M. Kawakita, & J. Takeuchi
    • 雑誌名

      IEEE Transactions on Information Theory

      巻: 60 号: 5 ページ: 2737-2750

    • DOI

      10.1109/tit.2014.2312728

    • 関連する報告書
      2014 実績報告書 2013 実施状況報告書
    • 査読あり / 謝辞記載あり
  • [雑誌論文] Safe Semi-supervised Learning Based on Weighted Likelihood2014

    • 著者名/発表者名
      M. Kawakita & J. Takeuchi
    • 雑誌名

      Neural Networks

      巻: 53 ページ: 146-164

    • DOI

      10.1016/j.neunet.2014.01.016

    • 関連する報告書
      2013 実施状況報告書
    • 査読あり
  • [雑誌論文] Properties of Jeffreys Mixture for Markov Sources2013

    • 著者名/発表者名
      J. Takeuchi, T. Kawabata & A. R. Barron
    • 雑誌名

      IEEE transactions on Information Theory

      巻: 59 号: 1 ページ: 438-457

    • DOI

      10.1109/tit.2012.2219171

    • 関連する報告書
      2012 実施状況報告書
    • 査読あり
  • [学会発表] L1罰則付き線形回帰のMDLによる推定誤差上界について2015

    • 著者名/発表者名
      豊暉原侑心,川喜田雅則,竹内純一
    • 学会等名
      電子情報通信学会情報理論研究会 (IT)
    • 発表場所
      福岡県北九州市
    • 年月日
      2015-03-02 – 2015-03-03
    • 関連する報告書
      2014 実績報告書
  • [学会発表] スパース構造学習を用いた異常検知によるボットネット検出実験2015

    • 著者名/発表者名
      向井 脩,川村勇気,川喜田雅則,竹内純一
    • 学会等名
      電子情報通信学会情報セキュリティ研究会 (ISEC)
    • 発表場所
      福岡県北九州市
    • 年月日
      2015-03-02
    • 関連する報告書
      2014 実績報告書
  • [学会発表] スパース構造学習を用いたボットネット検出法の性能評価2015

    • 著者名/発表者名
      向井 脩,川村勇気,川喜田雅則,竹内純一
    • 学会等名
      2015年暗号と情報セキュリティシンポジウム
    • 発表場所
      福岡県北九州市
    • 年月日
      2015-01-20 – 2015-01-23
    • 関連する報告書
      2014 実績報告書
  • [学会発表] 非負値行列因子分解におけるMDL原理について2014

    • 著者名/発表者名
      川村勇気,川喜田雅則,村田昇,竹内純一
    • 学会等名
      第37回情報理論とその応用シンポジウム
    • 発表場所
      富山県黒部市
    • 年月日
      2014-12-10 – 2014-12-12
    • 関連する報告書
      2014 実績報告書
  • [学会発表] MDL原理入門2014

    • 著者名/発表者名
      竹内純一
    • 学会等名
      第37回情報理論とその応用シンポジウム
    • 発表場所
      富山県黒部市
    • 年月日
      2014-12-10 – 2014-12-12
    • 関連する報告書
      2014 実績報告書
    • 招待講演
  • [学会発表] 圧縮センシングによる超解像におけるAMPアルゴリズムの振る舞いについて2014

    • 著者名/発表者名
      高木美里,三村和史,川喜田雅則,竹内純一
    • 学会等名
      第37回情報理論とその応用シンポジウム
    • 発表場所
      富山県黒部市
    • 年月日
      2014-12-10 – 2014-12-12
    • 関連する報告書
      2014 実績報告書
  • [学会発表] Stochastic complexity for tree models2014

    • 著者名/発表者名
      J. Takeuchi & A. R. Barron
    • 学会等名
      2014 IEEE Information Theory Workshop
    • 発表場所
      Hobart, Tasmania, Australia
    • 年月日
      2014-11-02 – 2014-11-05
    • 関連する報告書
      2014 実績報告書
  • [学会発表] A Generalized Sufficient Condition for Global Convergence of Modified Multiplicative Updates for NMF2014

    • 著者名/発表者名
      N. Takahashi, J. Katayama, & J. Takeuchi
    • 学会等名
      2014 International Symposium on Nonlinear Theory and its Applications
    • 発表場所
      Luzern, Switzerland
    • 年月日
      2014-09-14 – 2014-09-18
    • 関連する報告書
      2014 実績報告書
  • [学会発表] Geometry of Markov Chains, Finite State Machines, and Tree Models2014

    • 著者名/発表者名
      J. Takeuchi
    • 学会等名
      電子情報通信学会情報理論研究会 (IT)
    • 発表場所
      兵庫県神戸市
    • 年月日
      2014-07-17 – 2014-07-18
    • 関連する報告書
      2014 実績報告書
  • [学会発表] When is a Tree Model an Exponential Family?2014

    • 著者名/発表者名
      J. Takeuchi
    • 学会等名
      The Seventh Workshop on Information Theoretic Methods in Science and Engineering(招待講演)
    • 発表場所
      Honolulu, HI, USA
    • 年月日
      2014-07-05 – 2014-07-07
    • 関連する報告書
      2014 実績報告書
    • 招待講演
  • [学会発表] Asymptotically minimax regret for models with hidden variables2014

    • 著者名/発表者名
      J. Takeuchi & A. R. Barron
    • 学会等名
      2014 IEEE International Symposium on Information Theory
    • 発表場所
      Honolulu, HI, USA
    • 年月日
      2014-06-29 – 2014-07-04
    • 関連する報告書
      2014 実績報告書
  • [学会発表] スパース重ね合わせ符号の復号実験による性能評価2014

    • 著者名/発表者名
      宮本耕平,高木美里,川喜田雅則,竹内純一
    • 学会等名
      電子情報通信学会情報理論研究会 (IT)
    • 発表場所
      大分県別府市
    • 年月日
      2014-05-16
    • 関連する報告書
      2014 実績報告書
  • [学会発表] Boundedness of modified multiplicative updates for nonnegative matrix factorization2013

    • 著者名/発表者名
      J. Katayama, N. Takahashi, & J. Takeuchi
    • 学会等名
      The Fifth IEEE International Workshop on Computational Advances in Multi-Sensor Adaptive Processing
    • 発表場所
      Saint Martin, France
    • 関連する報告書
      2013 実施状況報告書
  • [学会発表] Asymptotically Minimax Regret by Bayes Mixtures for Non-exponential Families2013

    • 著者名/発表者名
      J. Takeuchi & A. R. Barron
    • 学会等名
      2013 IEEE Information Theory Workshop
    • 発表場所
      Sevilie, Spain
    • 関連する報告書
      2013 実施状況報告書
  • [学会発表] Least Squares Superposition Codes with Bernoulli Dictionary are Still Reliable at Rates up to Capacity2013

    • 著者名/発表者名
      Y. Takeishi, M. Kawakita, & J. Takeuchi
    • 学会等名
      2013 IEEE International Symposium on Information Theory
    • 発表場所
      Istanbul, Turkey
    • 関連する報告書
      2013 実施状況報告書
  • [学会発表] Asymptotically Minimax Prediction for Markov Sources2013

    • 著者名/発表者名
      J. Takeuchi
    • 学会等名
      The Sixth Workshop on Information Theoretic Methods in Science and Engineering
    • 発表場所
      Tokyo, Japan
    • 関連する報告書
      2013 実施状況報告書
    • 招待講演
  • [学会発表] 圧縮センシングによるシングルフレーム超解像について2013

    • 著者名/発表者名
      高木美里,三村和史,竹内純一
    • 学会等名
      第36回情報理論とその応用シンポジウム
    • 発表場所
      静岡県伊東市
    • 関連する報告書
      2013 実施状況報告書
  • [学会発表] 非負値行列分解を用いたボットネット検出実験2013

    • 著者名/発表者名
      川村勇気,島村隼平,中里純二,吉岡克成,衛藤将史,井上大介,竹内純一,中尾康二
    • 学会等名
      電子情報通信学会情報通信システムセキュリティ研究会 (ICSS)
    • 発表場所
      福岡県福岡市
    • 関連する報告書
      2013 実施状況報告書
  • [学会発表] Botnet Detection based on Non-negative Matrix Factorization and the MDL Principle2012

    • 著者名/発表者名
      S. Yamauchi, M. Kawakita, & J. Takeuchi
    • 学会等名
      the 19th International Conference on Neural Information Processing
    • 発表場所
      Doha, Qatar
    • 関連する報告書
      2012 実施状況報告書
  • [学会発表] High Dimensional Data Analysis for Botnet Detection2012

    • 著者名/発表者名
      J. Takeuchi
    • 学会等名
      the 19th International Conference on Neural Information Processing
    • 発表場所
      Doha, Qatar
    • 関連する報告書
      2012 実施状況報告書
    • 招待講演
  • [学会発表] Information Theoretic Limit of Single Frame Superresolution2012

    • 著者名/発表者名
      K. Yamaguchi, M. Kawakita, N. Takahashi, & J. Takeuchi
    • 学会等名
      The Third International Conference on Emerging Security Technologies
    • 発表場所
      Lisbon, Portugal
    • 関連する報告書
      2012 実施状況報告書
  • [学会発表] Constant Markov Portfolio and Its Application to Universal Portfolio with Side Information2012

    • 著者名/発表者名
      M. Tsurusaki & J. Takeuchi
    • 学会等名
      2012 IEEE International Symposium on Information Theory
    • 発表場所
      Boston, USA
    • 関連する報告書
      2012 実施状況報告書
  • [図書] A Mathematical Approach to Research Problems of Science and Technology (章題 An introduction of the minimum description length principle)2014

    • 著者名/発表者名
      J. Takeuchi: (book chapter (分担執筆))
    • 総ページ数
      18
    • 出版者
      Springer
    • 関連する報告書
      2014 実績報告書
  • [備考] Jun'ichi Takeuchi's Page

    • URL

      http://www-kairo.csce.kyushu-u.ac.jp/~tak/

    • 関連する報告書
      2012 実施状況報告書
  • [備考] 情報回路及び信号処理研究室

    • URL

      http://www-kairo.csce.kyushu-u.ac.jp/homepage.ja.html

    • 関連する報告書
      2012 実施状況報告書

URL: 

公開日: 2013-05-31   更新日: 2019-07-29  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi