• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Research-status Report

有限長解析情報理論と最適化理論による実用高信頼高効率通信に向けた相乗的基礎研究

Research Project

Project/Area Number 17K06446
Research InstitutionWaseda University

Principal Investigator

松嶋 敏泰  早稲田大学, 理工学術院, 教授 (30219430)

Project Period (FY) 2017-04-01 – 2023-03-31
Keywords有限長解析 / 最適化問題 / 情報源符号化 / ベイズ符号
Outline of Annual Research Achievements

本研究では,最終的に,(a)符号化レートや誤り確率の理論限界を,実用的なデータ長や実用的な誤り確率を許して数値として導出する,(b)符号化復号システム全体を大きな最適化問題として定式化し,より実用的な制約のもと(準)最適な符号と復号の組として求める,というように,理論とアルゴリズムの研究を接近させ,融合・発展させること目標としている.本年度は,昨年度に引き続き,(a)に関連した研究として以下の(a')を,(b)に関連した研究として以下の(b')(c')(d')の研究を行った.その結果,(a')に関しては以下の(R-1),(b')に関しては(R-2)と(R-3),(c')に関しては(R-4)の結果を得た.
(a') データ圧縮の研究である情報源符号化問題における,有限のデータ長に対する符号化レート,誤り確率等の理論限界の導出.及び他分野への応用.(b') 情報源符号化問題における効率的な符号化復号アルゴリズムの構築.及び他分野への応用.
(R-1)ベイズ符号は,無歪み情報源符号化における代表的な符号のひとつであるが,ベイズ符号の有限符号語長の理論評価式を用いて,分類問題の誤り確率の精密な評価を行った.さらに,具体例に対して実用的なデータ長を仮定したもとで,分類誤り確率の上界と下界を数値として導出した.(R-2)上記の文脈木に関連して,従来研究されてきた確率モデルである文脈木を含む一般的な確率モデルの定式化を行い,そのもとで期待値や事後確率を効率的に計算するアルゴリズムを導出した.(R-3)情報源符号化問題において,「区間ごとに文脈木モデルが変化する非定常情報源」という従来考えられてきた情報源クラスを含むような情報源に対する効率的なベイズ符号化アルゴリズムを構築した.(R-4)文脈木を用いて記述される画像生成確率モデルを仮定した下でベイズ基準における最適な雑音除去アルゴリズムの構築

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

本研究の最終的な目的は,(a)符号化レートや誤り確率の理論限界を,実用的なデータ長や実用的な誤り確率を許して数値として導出する,(b)符号化復号システム全体を大きな最適化問題として定式化し,より実用的な制約のもと(準)最適な符号と復号の組として求める,ということである.この目的に対して,以下の結果が得られたため,おおむね順調に進展していると判断した.
(1) ベイズ符号に対する解析手法を学習理論における分類問題の分類誤り確率の評価手法に応用できた.
(2) 従来より広い情報源クラスである区間ごとに文脈木モデルが変化する情報源に対して効率的にベイズ符号化を行うアルゴリズムを構築した.

Strategy for Future Research Activity

本年度で得られた成果をもとに,最終的な研究目標の達成に向けて,研究をさらに発展させる.具体的には,研究課題(a)に対しては以下の(i),研究課題(b)に対しては以下の(ii)のアプローチにより研究を実施する予定である.
(i)より実用に近い仮定のもと,より精密に数値的に誤り確率等が導出できる解析手法を構築する.
(ii)引き続き,符号化復号システムの構成の研究を行う.同時に,本年度の成果を基に,構成した符号化復号システムに対する誤り確率,符号化レートの評価手法の研究をさらに進めていく.
また,アプローチ(i)とアプローチ(ii)を近づけていき,最終的には両アプローチを融合させ相乗的な研究を目指す.

Causes of Carryover

新型コロナウイルスの影響で学会が中止あるいはオンライン開催になったことによって,出張費用がかからなかったため,次年度使用額が生じた.この費用は,論文掲載費,出張費用等に充当する予定である.

  • Research Products

    (24 results)

All 2022 2021

All Journal Article (7 results) (of which Peer Reviewed: 7 results,  Open Access: 4 results) Presentation (17 results) (of which Int'l Joint Research: 4 results)

  • [Journal Article] The Ratio of the Desired Parameters of Deep Neural Networks2022

    • Author(s)
      Y. Esaki, Y. Nakahara and T. Matsushima
    • Journal Title

      IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences

      Volume: E105.A Pages: 433-435

    • DOI

      10.1587/transfun.2021TAL0003

    • Peer Reviewed
  • [Journal Article] Upper Bound on Privacy-Utility Tradeoff Allowing Positive Excess Distortion Probability2022

    • Author(s)
      S. Saito and T. Matsushima
    • Journal Title

      IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences

      Volume: E105.A Pages: 425-427

    • DOI

      10.1587/transfun.2021TAL0002

    • Peer Reviewed
  • [Journal Article] Probability Distribution on Full Rooted Trees2022

    • Author(s)
      Y. Nakahara, S. Saito, A. Kamatsuka and T. Matsushima
    • Journal Title

      Y. Nakahara, S. Saito, A. Kamatsuka and T. Matsushima

      Volume: 24 Pages: 328-346

    • DOI

      10.3390/e23060768

    • Peer Reviewed / Open Access
  • [Journal Article] Cluster's Number Free Bayes Prediction of General Framework on Mixture of Regression Models2021

    • Author(s)
      H. Murayama, S. Saito, Y. Iikubo, Y. Nakahara and T. Matsushima
    • Journal Title

      Journal of Statistical Theory and Applications

      Volume: 20 Pages: 425-449

    • DOI

      10.1007/s44199-021-00001-5

    • Peer Reviewed / Open Access
  • [Journal Article] A Stochastic Model for Block Segmentation of Images Based on the Quadtree and the Bayes Code for It2021

    • Author(s)
      Y. Nakahara and T. Matsushima
    • Journal Title

      Entropy

      Volume: 23 Pages: 7

    • DOI

      10.3390/e23080991

    • Peer Reviewed / Open Access
  • [Journal Article] Meta-Tree Random Forest: Probabilistic Data-Generative Model and Bayes Optimal Prediction2021

    • Author(s)
      N. Dobashi, S. Saito, Y. Nakahara and T. Matsushima
    • Journal Title

      Entropy

      Volume: 23 Pages: 768

    • DOI

      10.3390/e23060768

    • Peer Reviewed / Open Access
  • [Journal Article] Gabidulin符号に基づく符号化分散計算方式とその誤り訂正能力の評価2021

    • Author(s)
      風間皐希,鎌塚明,吉田 隆弘,松嶋敏泰
    • Journal Title

      電子情報通信学会論文誌 A

      Volume: J104-A Pages: 156--159

    • DOI

      10.14923/transfunj.2020JAL2023

    • Peer Reviewed
  • [Presentation] Stochastic Model of Block Segmentation Based on Improper Quadtree and Optimal Code under the Bayes Criterion2022

    • Author(s)
      Y. Nakahara and T. Matsushima
    • Organizer
      2022 Data Compression Conference (DCC)
    • Int'l Joint Research
  • [Presentation] 決定木モデルに対するベイズ最適な予測のメタツリーブースティング法による近似2022

    • Author(s)
      于文斌, 風間皐希, 中原悠太, 一條尚希, 齋藤翔太, 松嶋敏泰
    • Organizer
      電子情報通信学会情報理論研究会
  • [Presentation] An Efficient Bayes Coding Algorithm for the Non-Stationary Source in Which Context Tree Model Varies from Interval to Interval2021

    • Author(s)
      K. Shimada, S. Saito and T. Matsushima
    • Organizer
      2021 IEEE Information Theory Workshop (ITW)
    • Int'l Joint Research
  • [Presentation] Privacy-Utility Trade-off with the Stratonovich’s Value of Information2021

    • Author(s)
      A. Kamatsuka, T. Yoshida and T. Matsushima
    • Organizer
      2021 IEEE Information Theory Workshop (ITW)
    • Int'l Joint Research
  • [Presentation] Hyperparameter Learning of Stochastic Image Generative Models with Bayesian Hierarchical Modeling and Its Effect on Lossless Image Coding2021

    • Author(s)
      Y. Nakahara and T. Matsushima
    • Organizer
      2021 IEEE Information Theory Workshop (ITW)
    • Int'l Joint Research
  • [Presentation] Evaluation of Error Probability of Classification Based on the Analysis of the Bayes Code: Extension and Example2021

    • Author(s)
      S. Saito and T. Matsushima
    • Organizer
      2021 IEEE International Symposium on Information Theory (ISIT)
  • [Presentation] 潜在的分岐変数を持つ木構造からなる生成モデルと変分ベイズ法による近似推論2021

    • Author(s)
      一條尚希, 中原悠太, 齋藤翔太, 松嶋敏泰
    • Organizer
      電子情報通信学会c情報論的学習理論と機械学習研究会
  • [Presentation] Probability Distribution on Full Rooted Trees2021

    • Author(s)
      Y. Nakahara, S. Saito, A. Kamatsuka and T. Matsushima
    • Organizer
      第44回情報理論とその応用シンポジウム (SITA2021)
  • [Presentation] URLモデルを仮定した下での母集団全体に対する施策の有無の差に関するベイズ最適な推定とその近似アルゴリズム2021

    • Author(s)
      石渡泰祐, 齋藤翔太, 中原悠太, 飯窪祐二, 松嶋敏泰
    • Organizer
      第44回情報理論とその応用シンポジウム (SITA2021)
  • [Presentation] 二次元離散ウェーブレットパケット変換の基底が未知の場合のベイズ基準のもと最適なノイズ除去アルゴリズム2021

    • Author(s)
      岡 凌平, 中原 悠太, 松嶋 敏泰
    • Organizer
      第44回情報理論とその応用シンポジウム (SITA2021)
  • [Presentation] 一般的なアクセス構造を実現する秘密分散方式を用いた行列の積計算のための秘匿符号化分散計算方式に関する一考察2021

    • Author(s)
      風間皐希, 松嶋敏泰
    • Organizer
      第44回情報理論とその応用シンポジウム(SITA2021)
  • [Presentation] URLモデルを仮定した下での新しい個体への施策の有無による反応の差に関するベイズ最適な決定とその近似アルゴリズム2021

    • Author(s)
      山田一翔, 中原悠太, 齋藤翔太, 飯窪祐二, 松嶋敏泰
    • Organizer
      第44回情報理論とその応用シンポジウム(SITA2021)
  • [Presentation] マルコフ連鎖モンテカルロメタツリー法2021

    • Author(s)
      中原悠太, 齋藤翔太, 風間皐希, 于文斌, 一條尚希, 松嶋敏泰
    • Organizer
      第24回情報論的学習理論ワークショップ (IBIS2021)
  • [Presentation] クラスタ構造を説明する変数と回帰構造を説明する変数により表現された線形回帰モデルにおける計算量削減に関する一考察 ~ ベイズ最適な予測とその近似アルゴリズム ~2021

    • Author(s)
      香山渉, 齋藤翔太, 松嶋敏泰
    • Organizer
      電子情報通信学会情報理論研究会
  • [Presentation] 潜在クラスタを仮定することで個人差を考慮した施策の有無による反応変数の差に関するベイズ最適な予測とその近似アルゴリズム2021

    • Author(s)
      石渡泰祐, 齋藤翔太, 松嶋敏泰
    • Organizer
      電子情報通信学会情報理論研究会
  • [Presentation] 高効率なプライバシー保護情報検索システムの構成アルゴリズムの提案2021

    • Author(s)
      今津潮, 風間皐希, 松嶋敏泰
    • Organizer
      日本経営工学会2021年春季大会
  • [Presentation] サンプリングの偏りを考慮したデータ生成確率モデルの提案2021

    • Author(s)
      山田一翔, 鎌塚明, 中原悠太, 松嶋敏泰
    • Organizer
      日本経営工学会2021年春季大会

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi