• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

有歪み情報源符号化における実用的符号設計のための歪み球を用いた理論限界の解明

研究課題

研究課題/領域番号 19K14989
研究種目

若手研究

配分区分基金
審査区分 小区分21020:通信工学関連
研究機関群馬大学 (2021-2022)
早稲田大学 (2019-2020)

研究代表者

齋藤 翔太  群馬大学, 情報学部, 准教授 (60822145)

研究期間 (年度) 2019-04-01 – 2023-03-31
研究課題ステータス 完了 (2022年度)
配分額 *注記
1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
2020年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2019年度: 520千円 (直接経費: 400千円、間接経費: 120千円)
キーワード情報理論 / シャノン理論 / データ圧縮 / 有歪み情報源符号化 / 非可逆圧縮 / 歪み球 / 数学的基礎理論 / 歪みを許した情報源符号化
研究開始時の研究の概要

本研究では、未だに隔たりのある(i)圧縮率等の理論限界を解明するアプローチと(ii)実用的符号化アルゴリズムを構築するアプローチの溝を埋めるために、「(i)を(ii)に如何に近づけ、実際の符号設計の指針を与える理論アプローチを如何に確立するか」を問う。この問いの解決のために、本研究では歪み球を用いた理論アプローチをさらに発展させることで、実用的符号設計の指針となる理論限界を明らかにすることを目的とする。具体的には、より実用に近い仮定(情報源の統計的性質が未知、圧縮対象のデータの長さが有限等)をおいたもとで、歪み球を用いた明示的な符号の構成により、圧縮率等に関する計算可能な理論限界式を解明する。

研究成果の概要

本研究では、もとのデータと復元後のデータの間の違い(歪み)を許容した情報源符号化問題(非可逆圧縮問題)を扱った。歪みを許容した情報源符号化において、符号語長のキュムラント母関数という評価基準があり、これは平均符号語長や最大符号語長を一般化した概念である。本研究では、有限のデータ系列長を考え、歪みを超過する確率を一定値以下にしたもとでの符号語長のキュムラント母関数の最小値をレニーエントロピーに基づいた情報量により特徴付けられることを示した。

研究成果の学術的意義や社会的意義

画像や音声のデータは、もとのデータと復元後のデータが多少異なっていても問題ない場合が多いため、これらのデータの圧縮には有歪み情報源符号化の研究成果が用いられる。そのため、有歪み情報源符号化の研究の進展により、データの記憶容量や通信コストが減少すれば、限られた資源・エネルギーの節約につながる。本研究では、理論的にはどこまでデータを圧縮できるかというアルゴリズムの設計において目指すべき指針を与えた研究である。また、圧縮対象のデータの長さが有限であるという仮定のもとで結果を導いており、実用的な仮定のもとでの理論成果を導出している。

報告書

(5件)
  • 2022 実績報告書   研究成果報告書 ( PDF )
  • 2021 実施状況報告書
  • 2020 実施状況報告書
  • 2019 実施状況報告書
  • 研究成果

    (45件)

すべて 2023 2022 2021 2020 2019

すべて 雑誌論文 (6件) (うち査読あり 6件、 オープンアクセス 5件) 学会発表 (39件) (うち国際学会 8件、 招待講演 3件)

  • [雑誌論文] Non-Asymptotic Bounds of Cumulant Generating Function of Codeword Lengths in Variable-Length Lossy Compression2023

    • 著者名/発表者名
      Saito Shota and Matsushima Toshiyasu
    • 雑誌名

      IEEE Transactions on Information Theory

      巻: 69 号: 4 ページ: 2113-2119

    • DOI

      10.1109/tit.2022.3229358

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Upper Bound on Privacy-Utility Tradeoff Allowing Positive Excess Distortion Probability2022

    • 著者名/発表者名
      S. Saito and T. Matsushima
    • 雑誌名

      IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences

      巻: E105.A 号: 3 ページ: 425-427

    • DOI

      10.1587/transfun.2021TAL0002

    • NAID

      130008165398

    • ISSN
      0916-8508, 1745-1337
    • 年月日
      2022-03-01
    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Probability Distribution on Full Rooted Trees2022

    • 著者名/発表者名
      Nakahara Yuta、Saito Shota、Kamatsuka Akira、Matsushima Toshiyasu
    • 雑誌名

      Entropy

      巻: 24 号: 3 ページ: 328-346

    • DOI

      10.3390/e24030328

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Probability Distribution on Full Rooted Trees2022

    • 著者名/発表者名
      Y. Nakahara, S. Saito, A. Kamatsuka and T. Matsushima
    • 雑誌名

      Y. Nakahara, S. Saito, A. Kamatsuka and T. Matsushima

      巻: 24 号: 6 ページ: 328-346

    • DOI

      10.3390/e23060768

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Cluster's Number Free Bayes Prediction of General Framework on Mixture of Regression Models2021

    • 著者名/発表者名
      H. Murayama, S. Saito, Y. Iikubo, Y. Nakahara and T. Matsushima
    • 雑誌名

      Journal of Statistical Theory and Applications

      巻: 20 号: 3 ページ: 425-449

    • DOI

      10.1007/s44199-021-00001-5

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] 拡張直交配列を用いた混合水準の実験計画法に関する一考察2020

    • 著者名/発表者名
      山口純輝, 風間皐希, 鎌塚明, 齋藤翔太, 松嶋敏泰
    • 雑誌名

      電子情報通信学会論文誌 A

      巻: J103-A ページ: 17-24

    • 関連する報告書
      2019 実施状況報告書
    • 査読あり
  • [学会発表] セキュリティを考慮した2つの問題に対する情報理論的解析について ~ Local Differential Privacyの下でのパラメータ推定問題と、プライバシーと有用性のトレードオフ問題 ~2023

    • 著者名/発表者名
      齋藤翔太
    • 学会等名
      電子情報通信学会 情報理論研究会
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] 文脈木情報源に対する逐次型情報源符号化の最大冗長度の下界について2023

    • 著者名/発表者名
      齋藤翔太
    • 学会等名
      電子情報通信学会 情報理論研究会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Bayes Optimal Estimation and Its Approximation Algorithm for Difference with and without Treatment under URLC Model2022

    • 著者名/発表者名
      Taisuke Ishiwatari, Shota Saito, Yuta Nakahara, Yuji Iikubo, Toshiyasu Matsushima
    • 学会等名
      2022 International Symposium on Information Theory and Its Applications
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] On Meta-Bound for Lower Bounds of Bayes Risk2022

    • 著者名/発表者名
      Shota Saito
    • 学会等名
      2022 IEEE International Symposium on Information Theory
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Probability Distribution on Rooted Trees2022

    • 著者名/発表者名
      Yuta Nakahara, Shota Saito, Akira Kamatsuka, Toshiyasu Matsushima
    • 学会等名
      2022 IEEE International Symposium on Information Theory
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Lower Bound of Bayes Risk in Parameter Estimation under Local Differential Privacy2022

    • 著者名/発表者名
      Shota Saito
    • 学会等名
      第45回情報理論とその応用シンポジウム
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 決定木モデルにおけるメタツリーに対するマルコフ連鎖モンテカルロ法2022

    • 著者名/発表者名
      中原 悠太, 齋藤 翔太, 一條 尚希, 風間 皐希, 松嶋 敏泰
    • 学会等名
      第45回情報理論とその応用シンポジウム
    • 関連する報告書
      2022 実績報告書
  • [学会発表] ベイズ決定理論に基づく機械学習ライブラリ:BayesML 0.2.02022

    • 著者名/発表者名
      中原悠太, 齋藤翔太, 島田航志, 飯窪祐二, 風間皐希, 一條尚希, 松嶋敏泰, BayesML Developers
    • 学会等名
      第25回情報論的学習理論ワークショップ
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 「情報」を測る:情報理論における情報の捉え方2022

    • 著者名/発表者名
      齋藤翔太
    • 学会等名
      第10回 早稲田大学データ科学センター・先端社会科学研究所ジョイントセミナー
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] ベイズ決定理論に基づく機械学習ライブラリ:BayesML 0.1.02022

    • 著者名/発表者名
      中原 悠太, 一條 尚希, 島田 航志, 飯窪 祐二, 齋藤 翔太, 風間 皐希, 松嶋 敏泰, BayesML Code Authors
    • 学会等名
      2022年度統計関連学会連合大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] On Bayesian Approach for Classification of Context Tree Model2022

    • 著者名/発表者名
      Shota Saito
    • 学会等名
      電子情報通信学会 情報理論研究会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 潜在的分岐変数を持つ木構造からなる生成モデルと変分ベイズ法による近似推論2022

    • 著者名/発表者名
      一條尚希, 中原悠太, 齋藤翔太, 松嶋敏泰
    • 学会等名
      電子情報通信学会 情報論的学習理論と機械学習研究会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] ベイズリスクの下界に対するmeta-bound2022

    • 著者名/発表者名
      齋藤翔太
    • 学会等名
      電子情報通信学会 情報理論研究会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] 決定木モデルに対するベイズ最適な予測のメタツリーブースティング法による近似2022

    • 著者名/発表者名
      于文斌, 風間皐希, 中原悠太, 一條尚希, 齋藤翔太, 松嶋敏泰
    • 学会等名
      電子情報通信学会 情報理論研究会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] An Efficient Bayes Coding Algorithm for the Non-Stationary Source in Which Context Tree Model Varies from Interval to Interval2021

    • 著者名/発表者名
      Koshi Shimada, Shota Saito, Toshiyasu Matsushima
    • 学会等名
      2021 IEEE Information Theory Workshop
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] Evaluation of Error Probability of Classification Based on the Analysis of the Bayes Code: Extension and Example2021

    • 著者名/発表者名
      Shota Saito, Toshiyasu Matsushima
    • 学会等名
      2021 IEEE International Symposium on Information Theory
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] A Refined Analysis of Merhav and Ziv's Bayesian Approach for Classification of Markov Sources2021

    • 著者名/発表者名
      Shota Saito
    • 学会等名
      第44回情報理論とその応用シンポジウム
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] Probability Distribution on Full Rooted Trees2021

    • 著者名/発表者名
      Yuta Nakahara, Shota Saito, Akira Kamatsuka, Toshiyasu Matsushima
    • 学会等名
      第44回情報理論とその応用シンポジウム
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] URLモデルを仮定した下での新しい個体への施策の有無による反応の差に関するベイズ最適な決定とその近似アルゴリズム2021

    • 著者名/発表者名
      山田一翔, 中原悠太, 齋藤翔太, 飯窪祐二, 松嶋敏泰
    • 学会等名
      第44回情報理論とその応用シンポジウム
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] URLモデルを仮定した下での母集団全体に対する施策の有無の差に関するベイズ最適な推定とその近似アルゴリズム2021

    • 著者名/発表者名
      石渡泰祐, 齋藤翔太, 中原悠太, 飯窪祐二, 松嶋敏泰
    • 学会等名
      第44回情報理論とその応用シンポジウム
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] マルコフ連鎖モンテカルロメタツリー法2021

    • 著者名/発表者名
      中原悠太, 齋藤翔太, 風間皐希, 于文斌, 一條尚希, 松嶋敏泰
    • 学会等名
      第24回情報論的学習理論ワークショップ(IBIS2021)
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] クラスタ構造を説明する変数と回帰構造を説明する変数により表現された線形回帰モデルにおける計算量削減に関する一考察 ~ ベイズ最適な予測とその近似アルゴリズム ~2021

    • 著者名/発表者名
      香山渉, 齋藤翔太, 松嶋敏泰
    • 学会等名
      電子情報通信学会 情報理論研究会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] 潜在クラスタを仮定することで個人差を考慮した施策の有無による反応変数の差に関するベイズ最適な予測とその近似アルゴリズム2021

    • 著者名/発表者名
      石渡泰祐, 齋藤翔太, 松嶋敏泰
    • 学会等名
      電子情報通信学会 情報理論研究会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] Non-asymptotic converse theorem on the overflow probability of variable-to-fixed length codes2021

    • 著者名/発表者名
      Shota Saito, Toshiyasu Matsushima
    • 学会等名
      電子情報通信学会情報理論研究会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 区間ごとに文脈木モデルが変化する情報源における効率的ベイズ符号化アルゴリズム2021

    • 著者名/発表者名
      島田航志, 齋藤翔太, 松嶋敏泰
    • 学会等名
      電子情報通信学会情報理論研究会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 複数の隠れマルコフモデルの重み付けによるベイズ基準のもとでの最適な音素の予測2021

    • 著者名/発表者名
      山岡大志, 齋藤翔太, 松嶋敏泰
    • 学会等名
      電子情報通信学会音声研究会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] On Two Information Quantities Relating Two Distortion Balls2020

    • 著者名/発表者名
      Shota Saito, Toshiyasu Matsushima
    • 学会等名
      2020 International Symposium on Information Theory and Its Applications
    • 関連する報告書
      2020 実施状況報告書
    • 国際学会
  • [学会発表] Evaluation of Error Probability of Classification Based on the Analysis of the Bayes Code2020

    • 著者名/発表者名
      Shota Saito, Toshiyasu Matsushima
    • 学会等名
      2020 IEEE International Symposium on Information Theory
    • 関連する報告書
      2020 実施状況報告書
    • 国際学会
  • [学会発表] ベイズ符号の解析に基づいた分類誤り確率の評価 ~拡張と具体例~2020

    • 著者名/発表者名
      齋藤翔太, 松嶋敏泰
    • 学会等名
      電子情報通信学会情報理論研究会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 音素認識問題におけるベイズ規準の下最適な予測に対する近似手法2020

    • 著者名/発表者名
      山岡大志, 齋藤翔太, 松嶋敏泰
    • 学会等名
      電子情報通信学会情報理論研究会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 線形回帰モデルの混合の統一的なフレームワークにおけるベイズ最適な予測とその近似アルゴリズム2020

    • 著者名/発表者名
      村山 春香, 齋藤 翔太, 飯窪 祐二, 中原 悠太, 松嶋 敏泰
    • 学会等名
      2020年度統計関連学会連合大会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] Probabilistic Data Generating Process on Tree Structure Model: Bayes Optimal Prediction and Sub-Optimal Algorithm2020

    • 著者名/発表者名
      Nao Dobashi, Shota Saito, Yuta Nakahara, Toshiyasu Matsushima
    • 学会等名
      2020年度統計関連学会連合大会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 変分ベイズ法によって導出された近似事後分布を用いた予測分布とベイズ予測分布の$\alpha$-ダイバージェンスの漸近評価2020

    • 著者名/発表者名
      山田一翔, 齋藤翔太, 松嶋敏泰
    • 学会等名
      電子情報通信学会情報理論研究会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] Non-Asymptotic Fundamental Limits of Guessing Subject to Distortion2019

    • 著者名/発表者名
      Shota Saito, Toshiyasu Matsushima
    • 学会等名
      2019 IEEE International Symposium on Information Theory
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] クラスター説明変数と回帰説明変数により表現された線形回帰モデルにおけるベイズ最適な予測の近似手法2019

    • 著者名/発表者名
      村山春香, 齋藤翔太, 中原悠太, 松嶋敏泰
    • 学会等名
      電子情報通信学会情報理論研究会
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] 決定木モデルにおける集団学習法の考えを用いたベイズ最適な分類の近似アルゴリズム2019

    • 著者名/発表者名
      土橋那央, 齋藤翔太, 松嶋敏泰
    • 学会等名
      電子情報通信学会情報理論研究会
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] Evaluation of Error Probability of Classification Based on the Analysis of the Bayes Code2019

    • 著者名/発表者名
      齋藤翔太, 松嶋敏泰
    • 学会等名
      第42回情報理論とその応用シンポジウム
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] Guessing ~基礎と広がり~2019

    • 著者名/発表者名
      齋藤翔太
    • 学会等名
      第42回情報理論とその応用シンポジウム
    • 関連する報告書
      2019 実施状況報告書
    • 招待講演
  • [学会発表] 潜在変数に非正規分布を仮定した回帰モデルにおけるベイズ基準の下最適な予測に対する近似手法2019

    • 著者名/発表者名
      天野祐貴, 齋藤翔太, 松嶋敏泰
    • 学会等名
      第42回情報理論とその応用シンポジウム
    • 関連する報告書
      2019 実施状況報告書

URL: 

公開日: 2019-04-18   更新日: 2024-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi