• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2019 Fiscal Year Research-status Report

有限長解析情報理論と最適化理論による実用高信頼高効率通信に向けた相乗的基礎研究

Research Project

Project/Area Number 17K06446
Research InstitutionWaseda University

Principal Investigator

松嶋 敏泰  早稲田大学, 理工学術院, 教授 (30219430)

Project Period (FY) 2017-04-01 – 2021-03-31
Keywords最適化問題 / 有限長解析 / 符号構成 / 重み分布 / 符号化レートの有限長解析 / スムースレニーエントロピー / 情報理論 / 最適化理論
Outline of Annual Research Achievements

本研究では,最終的に,(a)符号化レートや誤り確率の理論限界を,実用的なデータ長や実用的な誤り確率を許して数値として導出する,(b)符号化復号システム全体を大きな最適化問題として定式化し,より実用的な制約のもと(準)最適な符号と復号の組として求める,というように,理論とアルゴリズムの研究を接近させ,融合・発展させること目標としている.本年度は,昨年度に引き続き,(a)に関連した研究として以下の(a')を,(b)に関連した研究として以下の(b')の研究を行った.その結果,(a')に関しては以下の(R-1),(b')に関しては以下の(R-2)の結果を得た.
(a') 雑音のある通信路を通しての情報通信の研究である通信路符号化問題において,有限のデータ長に対する符号化レート,誤り確率等の理論限界の導出.
(b') 様々な最適化問題とその解法アルゴリズムについての従来研究の整理.また,現状の符号化復号システムにおいてシステムの一部を最適化問題とみなした際の目的関数やヒューリスティクスとして用いられうる量の整理,拡張.
(R-1) 構成した符号の有限長での誤り確率の性能を評価する量として,BP閾値と呼ばれる量があるが,対数型空間結合符号およびSpatially Coupled Uneven LDPC Code と呼ばれる新たに提案したうえで,この2つの符号クラスに対して,それぞれ密度発展法という手法による評価を行った.
(R-2) 符号構成の目的関数になりうる量として,重み分布と呼ばれる量があるが,``Mt. Fuji’’ Spatially Coupled Code と呼ばれる新たな符号クラスに対して,重み分布を解明し,Covariance Evolution による評価を行った.これにより,符号化復号システム全体の最適化問題としての定式化に近づいた.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

本研究の最終的な目的は,(a)符号化レートや誤り確率の理論限界を,実用的なデータ長や実用的な誤り確率を許して数値として導出する,(b)符号化復号システム全体を大きな最適化問題として定式化し,より実用的な制約のもと(準)最適な符号と復号の組として求める,ということである.この目的に対して,以下の結果が得られたため,おおむね順調に進展していると判断した.(1) 歪みを許した情報源符号化問題において有限長のデータに対する符号化レートの理論限界を導出することができた.(2) 符号化復号システムにおいて一部を最適化問題とみなした際の目的関数やヒューリスティクスとして用いられうる量の整理,拡張を行うことができた.

Strategy for Future Research Activity

本年度で得られた成果をもとに,最終的な研究目標の達成に向けて,研究をさらに発展させる.具体的には,研究課題(a)に対しては以下の(i),研究課題(b)に対しては以下の(ii)のアプローチにより研究を実施する予定である.
(i)本年度の成果をもとに,より実用に近い仮定のもと,より精密に数値的に誤り確率等が導出できる解析手法を構築する.
(ii)本年度に整理した符号化復号システムの一部を最適化問題とみなした問題に対する知識を総合的に考慮して,より実用に近い仮定のもと,符号化復号システム全体を最適化問題として俯瞰し,最適化理論を用いた復号アルゴリズムや符号の探索による符号構成の同時最適化の研究を進めていく.
また,アプローチ(i)とアプローチ(ii)を近づけていき,最終的には両アプローチを融合させ相乗的な研究を目指す.

Causes of Carryover

当初より出張費用が抑えられたため,次年度使用額が0より大きくなった.この費用は,論掲載費,出張費用等に充当する予定である.

  • Research Products

    (18 results)

All 2020 2019

All Journal Article (2 results) (of which Peer Reviewed: 2 results) Presentation (16 results) (of which Int'l Joint Research: 8 results)

  • [Journal Article] 拡張直交配列を用いた混合水準の実験計画法に関する一考察2020

    • Author(s)
      山口純輝, 風間皐希, 鎌塚明, 齋藤翔太, 松嶋敏泰
    • Journal Title

      電子情報通信学会論文誌(A)

      Volume: J103-A Pages: 17-24

    • Peer Reviewed
  • [Journal Article] Variable-Length Intrinsic Randomness on Two Performance Criteria based on Variational Distance2019

    • Author(s)
      Jun Yoshizawa, Shota Saito, Toshiyasu Matsushima
    • Journal Title

      IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences

      Volume: E102-A Pages: 1642-1650

    • DOI

      https://doi.org/10.1587/transfun.E102.A.1642

    • Peer Reviewed
  • [Presentation] A Stochastic Model of Block Segmentation Based on the Quadtree and the Bayes Code for It2020

    • Author(s)
      Yuta Nakahara, Toshiyasu Matsushima
    • Organizer
      2020 Data Compression Conference (DCC)
    • Int'l Joint Research
  • [Presentation] Bayes Code for 2-dimensional Auto-regressive Hidden Markov Model and Its Application to Lossless Image Compression2020

    • Author(s)
      Yuta Nakahara, Toshiyasu Matsushima
    • Organizer
      2020 International Workshop on Advanced Image Technology (IWAIT)
    • Int'l Joint Research
  • [Presentation] Optimal Estimating of the Magnitude of the change for Sources with Piecewise Constant Parameters under Bayesian Criterion2019

    • Author(s)
      Kairi Suzuki, Akira Kamatsuka, Toshiyasu Matsushima
    • Organizer
      Bayes on the beach 2019
    • Int'l Joint Research
  • [Presentation] Reducing the Computational and Communication Complexity of a Distributed Optimization for Regularized Logistic Regression2019

    • Author(s)
      Nozomi Miya, Hideyuki Masui, Hajime Jinushi, Toshiyasu Matsushima
    • Organizer
      2019 IEEE International Conference on Systems, Man, and Cybernetics (SMC)
    • Int'l Joint Research
  • [Presentation] Model Selection of Bayesian Hierarchical Mixture of Experts Based on Variational Inference2019

    • Author(s)
      Yuji Iikubo, Shunsuke Horii, Toshiyasu Matsushima
    • Organizer
      2019 IEEE International Conference on Systems, Man, and Cybernetics (SMC)
    • Int'l Joint Research
  • [Presentation] Covariance Evolution for Spatially ``Mt. Fuji'' Coupled LDPC Codes2019

    • Author(s)
      Yuta Nakahara, Toshiyasu Matsushima
    • Organizer
      2019 IEEE Information Theory Workshop (ITW)
    • Int'l Joint Research
  • [Presentation] Distributed Stochastic Gradient Descent Using LDGM Codes2019

    • Author(s)
      Shunsuke Horii, Takahiro Yoshida, Manabu Kobayashi, Toshiyasu Matsushima
    • Organizer
      2019 IEEE International Symposium on Information Theory (ISIT)
    • Int'l Joint Research
  • [Presentation] Non-Asymptotic Fundamental Limits of Guessing Subject to Distortion2019

    • Author(s)
      Shota Saito, Toshiyasu Matsushima
    • Organizer
      2019 IEEE International Symposium on Information Theory (ISIT)
    • Int'l Joint Research
  • [Presentation] 潜在変数に非正規分布を仮定した回帰モデルにおけるベイズ基準の下最適な予測に対する近似手法2019

    • Author(s)
      天野祐貴, 齋藤翔太, 松嶋敏泰
    • Organizer
      第42回情報理論とその応用シンポジウム
  • [Presentation] 関数類似度の提案と基準関数との類似度が高い深層ネットワークの存在比率の近似計算2019

    • Author(s)
      江崎泰志, 中原悠太, 松嶋敏泰
    • Organizer
      第42回情報理論とその応用シンポジウム
  • [Presentation] Evaluation of Error Probability of Classification Based on the Analysis of the Bayes Code2019

    • Author(s)
      齋藤翔太, 松嶋敏泰
    • Organizer
      第42回情報理論とその応用シンポジウム
  • [Presentation] ベイズ規準の下で最適な平均処置効果の推定2019

    • Author(s)
      シーン誠, 鎌塚明, 松嶋敏泰
    • Organizer
      第42回情報理論とその応用シンポジウム
  • [Presentation] セキュアな再生成符号に基づく分散ストレージシステムにおける秘匿情報検索2019

    • Author(s)
      鎌塚明, 風間皐希, 吉田隆弘, 松嶋敏泰
    • Organizer
      第42回情報理論とその応用シンポジウム
  • [Presentation] 決定木モデルにおける集団学習法の考えを用いたベイズ最適な分類の近似アルゴリズム2019

    • Author(s)
      土橋那央, 齋藤翔太, 松嶋敏泰
    • Organizer
      電子情報通信学会情報理論研究会
  • [Presentation] クラスター説明変数と回帰説明変数により表現された線形回帰モデルにおけるベイズ最適な予測の近似手法2019

    • Author(s)
      村山春香, 齋藤翔太, 中原悠太, 松嶋敏泰
    • Organizer
      電子情報通信学会情報理論研究会
  • [Presentation] LDGM符号を用いた勾配符号化と確率的勾配降下法2019

    • Author(s)
      堀井俊佑, 吉田隆弘, 小林学, 松嶋敏泰
    • Organizer
      電子情報通信学会情報理論研究会

URL: 

Published: 2021-01-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi