• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Annual Research Report

Fundamental research on finite length analysis in information theory and optimization theory for practical, reliable, and highly efficient communications

Research Project

Project/Area Number 17K06446
Research InstitutionWaseda University

Principal Investigator

松嶋 敏泰  早稲田大学, 理工学術院, 教授 (30219430)

Project Period (FY) 2017-04-01 – 2023-03-31
Keywords有限長解析 / 最適化問題 / 情報源符号化 / ベイズ符号 / 符号化レートの有限長解析 / 情報理論 / 最適化理論
Outline of Annual Research Achievements

本研究では,(a)符号長が有限の場合など,より実用に則した条件のもとでの通信システムの性能の理論限界を導出し,(b)その理論限界を達成する符号化・復号法の組を目指している.
(a)においては符号化レートや誤り確率の理論限界を,実用的な符号長や通信路で数値として導出した.実際に,可変長符号化における歪み超過確率を一定に抑えた下で正規化キュムラント母関数の非漸近的な符号語長を解析し,その達成可能性とレニーエントロピーの関係性に関する結果を得た.
(b)においては,ベイズ決定理論に基づく最適な符号化確率を用いるベイズ符号を中心に,有限長データの圧縮問題に対する圧縮率の理論限界の知見をすでに得ており,これを画像の可逆圧縮問題に適用した.具体的には画像の画素値に対して確率的生成モデルを仮定し,仮定したモデルに対するベイズ符号化が圧縮の理論限界を達成することを示した.このように,(a)による実用に近い条件での理論限界は,(b)の最適化による符号・復号法の構成における直接的な目標となり,実問題において(a)と(b)の融合的・相乗的な研究へと発展させることができた.
また,この画像の確率的生成モデルについて,一部のノードのみ延伸していく四分木に対して良い事前確率分布を仮定することで,一般に指数オーダーの計算量を要するベイズ符号化アルゴリズムを効率化し,最適性を失うことなく計算量を多項式オーダーまで削減することに成功した.このような木構造に関する事前分布について,事後確率計算を効率的に行うことができる事前分布の体系化を行い,これまで確率モデルからの理論的研究があまりみられなかった決定木の分野において,ベイズ決定理論から最適な予測法を導出する研究につなげることができた.

  • Research Products

    (25 results)

All 2023 2022

All Journal Article (3 results) (of which Peer Reviewed: 3 results,  Open Access: 3 results) Presentation (20 results) (of which Int'l Joint Research: 5 results,  Invited: 2 results) Book (2 results)

  • [Journal Article] Non-Asymptotic Bounds of Cumulant Generating Function of Codeword Lengths in Variable-Length Lossy Compression2023

    • Author(s)
      Saito Shota and Matsushima Toshiyasu
    • Journal Title

      IEEE Transactions on Information Theory

      Volume: 69 Pages: 2113~2119

    • DOI

      10.1109/tit.2022.3229358

    • Peer Reviewed / Open Access
  • [Journal Article] Asymptotic Evaluation of Classification in the Presence of Label Noise2023

    • Author(s)
      Goki Yasuda, Tota Suko, Manabu Kobayashi and Toshiyasu Matsushima:
    • Journal Title

      IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences

      Volume: E106.A Pages: 422~430

    • DOI

      10.1587/transfun.2022TAP0013

    • Peer Reviewed / Open Access
  • [Journal Article] Stochastic Model of Block Segmentation Based on Improper Quadtree and Optimal Code under the Bayes Criterion2022

    • Author(s)
      Nakahara Yuta and Matsushima Toshiyasu
    • Journal Title

      Entropy

      Volume: 24 Pages: 1152~1152

    • DOI

      10.3390/e24081152

    • Peer Reviewed / Open Access
  • [Presentation] Bayes Optimal Estimation and Its Approximation Algorithm for Difference with and without Treatment under URLC Model2022

    • Author(s)
      Taisuke Ishiwatari, Shota Saito, Yuta Nakahara, Yuji Iikubo and Toshiyasu Matsushima
    • Organizer
      2022 International Symposium on Information Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] Probability Distribution on Rooted Trees2022

    • Author(s)
      Yuta Nakahara, Shota Saito, Akira Kamatsuka and Toshiyasu Matsushima
    • Organizer
      2022 IEEE International Symposium on Information Theory
    • Int'l Joint Research
  • [Presentation] 潜在的分岐変数を持つ木構造からなる生成モデルと変分ベイズ法による近似推論2022

    • Author(s)
      一條尚希, 中原悠太, 齋藤翔太, 松嶋敏泰
    • Organizer
      電子情報通信学会 情報論的学習理論と機械学習研究会
  • [Presentation] ベイズ決定理論に基づく機械学習ライブラリ:BayesML 0.1.02022

    • Author(s)
      中原悠太, 一條尚希, 島田航志, 飯窪祐二, 齋藤翔太, 風間皐希, 松嶋敏泰, BayesML Code Authors
    • Organizer
      2022年度統計関連学会連合大会
  • [Presentation] ベイズ決定理論に基づく機械学習ライブラリ:BayesML 0.2.02022

    • Author(s)
      中原悠太, 齋藤翔太, 島田航志, 飯窪祐二, 風間皐希, 一條尚希, 松嶋敏泰, BayesML Developers
    • Organizer
      第25回情報論的学習理論ワークショップ
  • [Presentation] 決定木モデルにおけるメタツリーに対するマルコフ連鎖モンテカルロ法2022

    • Author(s)
      中原悠太, 齋藤翔太, 一條尚希, 風間皐希, 松嶋敏泰
    • Organizer
      第45回情報理論とその応用シンポジウム
  • [Presentation] Two-dimensional Autoregressive Model with Time-varying Parameters and the Bayes Codes2022

    • Author(s)
      Yuta Nakahara and Toshiyasu Matsushima
    • Organizer
      2022 International Symposium on Information Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] Stochastic Image Generative Model with Unknown Wavelet Packet Basis and its Application to Image Recognition2022

    • Author(s)
      Ryohei Oka, Yuta Nakahara and Toshiyasu Matsushima
    • Organizer
      第37回信号処理シンポジウム
  • [Presentation] 開始終了間隔の回帰モデル化に基づく開始時点が異なる複数対象の単位期間内終了件数の予測2022

    • Author(s)
      香山渉, 中原悠太, 風間皐希, 島田航志, 小坂奏平, 藤田剛, 松嶋敏泰
    • Organizer
      2022年度統計関連学会連合大会
  • [Presentation] 時点毎に異なるパラメータを有する平面的自己回帰モデルとベイズ符号に関する一考察2022

    • Author(s)
      中原悠太, 松嶋敏泰
    • Organizer
      電子情報通信学会 情報理論研究会
  • [Presentation] データサイエンス入門+α ― 意思決定写像を用いたデータ科学体系化への試み ―2022

    • Author(s)
      松嶋敏泰, 小林学, 野村亮, 安田豪毅, 中原悠太
    • Organizer
      第45回情報理論とその応用シンポジウム
    • Invited
  • [Presentation] A Generalization of the Stratonovich’s Value of Information and Application to Privacy-Utility Trade-off2022

    • Author(s)
      Akira Kamatsuka, Takahiro Yoshida and Toshiyasu Matsushima
    • Organizer
      2022 IEEE International Symposium on Information Theory
    • Int'l Joint Research
  • [Presentation] An Algorithm for Computing the Stratonovich's Value of Information2022

    • Author(s)
      Akira Kamatsuka, Takahiro Yoshida, Koki Kazama and Toshiyasu Matsushima
    • Organizer
      2022 International Symposium on Information Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] 区間ごとに回帰係数の異なる回帰モデルにおけるベイズ決定理論による効率的最適アルゴリズムの研究2022

    • Author(s)
      行谷昇, 島田航志, 松嶋敏泰
    • Organizer
      電子情報通信学会情報理論研究会
  • [Presentation] マルチレベルデータに対する線形回帰多段係数モデルとベイズ決定理論による最適予測に関する研究2022

    • Author(s)
      堀之内康平, 一條尚希, 石渡泰祐, 松嶋敏泰
    • Organizer
      電子情報通信学会情報理論研究会
  • [Presentation] 決定木モデル上のベイズ近似最適予測のためのメタツリー集合並列構成アルゴリズムに関する研究2022

    • Author(s)
      田島慶斗, 一條尚希, 島田航志, 松嶋敏泰
    • Organizer
      電子情報通信学会情報理論研究会
  • [Presentation] 決定木モデルを仮定した分類におけるメタツリー集合のブースティング的構成によるベイズ近似最適アルゴリズムの研究2022

    • Author(s)
      馬庭良太, 一條尚希, 島田航志, 松嶋敏泰
    • Organizer
      電子情報通信学会情報理論研究会
  • [Presentation] 決定木モデル上の分類におけるメタツリー集合のブースティング的構築についての一考察2022

    • Author(s)
      馬庭良太, 一條尚希, 島田航志, 松嶋敏泰
    • Organizer
      第45回情報理論とその応用シンポジウム
  • [Presentation] 決定木モデル上のベイズ最適な予測を近似するためのメタツリー集合並列構成アルゴリズムに関する一考察2022

    • Author(s)
      田島慶斗, 一條尚希, 島田航志, 松嶋敏泰
    • Organizer
      第45回情報理論とその応用シンポジウム
  • [Presentation] データサイエンスで拓く社会変革への道程 ―科学的方法としてのデータサイエンス―2022

    • Author(s)
      松嶋敏泰
    • Organizer
      第13回横幹連合コンファレンス
    • Invited
  • [Book] データ科学入門II2023

    • Author(s)
      松嶋 敏泰、早稲田大学データ科学教育チーム
    • Total Pages
      192
    • Publisher
      サイエンス社
    • ISBN
      4781915671
  • [Book] データ科学入門I2022

    • Author(s)
      松嶋 敏泰、早稲田大学データ科学教育チーム
    • Total Pages
      192
    • Publisher
      サイエンス社
    • ISBN
      9784781915401

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi