• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2019 Fiscal Year Research-status Report

A Study on Fundamental Limits of Lossy Compression Based on Distortion Ball Aiming for Practical Code Construction

Research Project

Project/Area Number 19K14989
Research InstitutionWaseda University

Principal Investigator

齋藤 翔太  早稲田大学, 理工学術院, 講師(任期付) (60822145)

Project Period (FY) 2019-04-01 – 2021-03-31
Keywords歪みを許した情報源符号化 / 歪み球 / 情報理論 / データ圧縮 / シャノン理論
Outline of Annual Research Achievements

本研究は、歪みを許容した情報源符号化において、歪み球という概念を用いた理論アプローチを発展させることで、実用的符号設計の指針となる理論限界を明らかにすることを目的とするものである。特に、歪み球を用いた明示的な符号の構成により、圧縮率等に関する計算可能な理論限界式を解明することに重点を置いて研究を進めている。この研究課題に対する2019年度の研究実績は以下の通りである。
1)有歪み情報源符号化において、歪みがある閾値を超過する確率である歪み超過確率と、符号語長がある閾値を超過する確率であるオーバーフロー確率が一定値以下になるという制約のもとでは、オーバーフロー確率の閾値の最小値を求めることが重要な問題である。この理論限界が、歪み球とSmooth max エントロピーと呼ばれる情報量を用いて特徴付けられることを証明した。特に、順定理においては、歪み球を用いた明示的な符号の構成によって、理論限界が特徴付けられることを示した。この結果は既に国際学会にて発表済みであったが、証明の一部に不十分な点があったため、2019年度では、それを修正し論文誌に投稿した。
2)有歪み情報源符号化と密接な関係のある問題として、Guessing問題がある。この問題では、確率変数の実現値をできるだけ少ない質問回数で推測した場合、質問回数の最小値を求めることが課題である。推測が多少誤ってもよいという問題設定のもとで、この問題に対する理論限界式が、歪み球とレニーエントロピーを用いた情報量により特徴付けられることを明らかにした。特に、順定理においては、歪み球を用いた明示的な推測の構成によって、理論限界が特徴付けられることを示した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

「研究実績の概要」で述べたように、2019年度は、有歪み情報源符号化問題に対して、従来ランダム符号化により理論限界を証明していた部分を、歪み球を用いることによる明示的な符号の構成を与えることによって証明することができた。これは理論アプローチを実用アプローチに近づける重要な結果であると考えている。また、情報源符号化と密接な関係のある問題であるGuessing問題に対しても、歪み球を用いた明示的な推測の構成によって、理論限界が特徴付けられることを示すことができた。さらに、これらの結果を論文としてまとめ、論文誌に投稿し、審査中である。Guessing問題に対しても歪み球を用いたアプローチにより結果を得られたことは研究計画以上の進展であるが、一方で当初の計画に記載していた「歪み球を用いることによる情報源の統計的性質が未知の場合の理論限界を導出する」という計画は、当初の予定よりも研究が遅れている。以上のことを鑑みて、現在までの進捗状況はおおむね順調と考えている。

Strategy for Future Research Activity

これまでの研究では、情報源の統計的性質(情報源の確率分布)が既知のもとで解析を行っている。しかしながら、現実的には、情報源の統計的性質が分かっていることは稀である。実用的な符号構成の指針となる理論限界を導出することを念頭に入れると、情報源の統計的性質が未知の場合の理論限界を導出することが必須である。そこで、例えば、情報源はパラメータによりパラメトライズされた確率分布で表現されるが、そのパラメータの真値は未知であるというような、情報源の統計的性質が未知である場合を考える。このもとで、情報源出力データの長さが有限である等の実用的な仮定をおき、圧縮率等の理論限界に関する閉じた式を、歪み球を用いたアプローチで解明する。また、具体的な情報源に対して、具体的に計算可能な理論限界式を導出することも試みる。

  • Research Products

    (7 results)

All 2020 2019

All Journal Article (1 results) (of which Peer Reviewed: 1 results) Presentation (6 results) (of which Int'l Joint Research: 1 results,  Invited: 1 results)

  • [Journal Article] 拡張直交配列を用いた混合水準の実験計画法に関する一考察2020

    • Author(s)
      山口純輝, 風間皐希, 鎌塚明, 齋藤翔太, 松嶋敏泰
    • Journal Title

      電子情報通信学会論文誌 A

      Volume: J103-A Pages: 17 - 24

    • Peer Reviewed
  • [Presentation] Non-Asymptotic Fundamental Limits of Guessing Subject to Distortion2019

    • Author(s)
      Shota Saito, Toshiyasu Matsushima
    • Organizer
      2019 IEEE International Symposium on Information Theory
    • Int'l Joint Research
  • [Presentation] クラスター説明変数と回帰説明変数により表現された線形回帰モデルにおけるベイズ最適な予測の近似手法2019

    • Author(s)
      村山春香, 齋藤翔太, 中原悠太, 松嶋敏泰
    • Organizer
      電子情報通信学会情報理論研究会
  • [Presentation] 決定木モデルにおける集団学習法の考えを用いたベイズ最適な分類の近似アルゴリズム2019

    • Author(s)
      土橋那央, 齋藤翔太, 松嶋敏泰
    • Organizer
      電子情報通信学会情報理論研究会
  • [Presentation] Evaluation of Error Probability of Classification Based on the Analysis of the Bayes Code2019

    • Author(s)
      齋藤翔太, 松嶋敏泰
    • Organizer
      第42回情報理論とその応用シンポジウム
  • [Presentation] Guessing ~基礎と広がり~2019

    • Author(s)
      齋藤翔太
    • Organizer
      第42回情報理論とその応用シンポジウム
    • Invited
  • [Presentation] 潜在変数に非正規分布を仮定した回帰モデルにおけるベイズ基準の下最適な予測に対する近似手法2019

    • Author(s)
      天野祐貴, 齋藤翔太, 松嶋敏泰
    • Organizer
      第42回情報理論とその応用シンポジウム

URL: 

Published: 2021-01-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi