2014 Fiscal Year Research-status Report
スムースRenyiエントロピー・ダイバージェンスを用いた情報理論の再定式化
| Project/Area Number |
26420343
|
|---|
| Research Institution | Tokyo Institute of Technology |
|---|
Principal Investigator |
植松 友彦 東京工業大学, 理工学研究科, 教授 (60168656)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
松田 哲直 東京工業大学, 理工学研究科, 助教 (00638984)
|
|---|
| Project Period (FY) |
2014-04-01 – 2017-03-31
|
| Keywords | スムースRenyiエントロピー / スムースRenyiダイバージェンス / Slepian-Wolf符号化 / Wyner-Ahlswede-Korner符号化 / レート歪み関数 / intrinsic randomness |
|---|
| Outline of Annual Research Achievements |
平成２６年度は、次の４つの成果を挙げた。
（１）２つの情報源を独立に符号化して復号器に送り、復号器では全ての情報源の系列を復元するSlepian-Wolf符号化問題については、符号化する系列の長さが長くなったときに誤り率が指定された値ε以下になるという条件下で、２つの符号器の符号化レート対の満足すべき領域を明らかにすると共に、この領域の内界と外界がスムースRenyiエントロピーを用いて表せることを示した。また、誤り率が零に収束するとき内界と外界が一致することを示した。
（２）一般情報源の歪みを許した符号化の限界であるレート歪み関数をスムースRenyiダイバージェンスを用いて表す方法を明らかにし、最大歪み制約や平均ひずみ制約のある固定長符号化におけるレート歪み関数の統一的な導出法を確立した。
（３）Intrinsic randomness問題とは、一般情報源から出力される長さnの系列を整数の集合{1,2,...,M}に写像することで、サイズがMの一様乱数を近似する問題である。系列長nが長くなったときに近似誤差が与えられた値ε以下であるという条件の下で得られる乱数生成レートの上限をM=exp(nR+o(n))と書いたとき、o(n)の最大次数の項(√nの項)の係数が2次の乱数生成レートである。この2次のレートがスムースRenyiエントロピーを用いて表せることを明らかにすると共に、誤り率や乱数生成レートの系列長nに対する極限の取り方を変えても、統一的に2次のレートが導出できる方法を確立した。
（４）２つの情報源を独立に符号化して復号器に送り、復号器では片方の情報源の系列のみを復元するWyner符号化問題について検討し、符号化する系列の長さが長くなったとき誤り率が指定された値ε以下に収束するために、２つの符号器の符号化レート対の満足すべき領域をスムースRenyiエントロピーとスムースRenyiダイバージェンスを用いて明らかにしている。
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
研究当初は（１）から（３）までの問題に焦点をあてて研究を実施する予定だったが、（２）の成果がWyner-Ahlswede-Korner符号化に応用できることに気がつき、予定外の（４）の研究を実施することができ、計画以上の成果を挙げることができた。
|
| Strategy for Future Research Activity |
平成27年度は、次の問題に対して研究を遂行する。
（１）無記憶情報源や混合情報源に対するスムースRenyiエントロピーやスムースRenyiダイバージェンスの計算法や漸近的な表示式を求め、有限長に対して得られた限界式が厳しいことを確認すると共に、情報スペクトルを用いて既に得られている限界式との比較を行う。具体的には、スムースRenyiエントロピーやスムースRenyiダイバージェンスの無記憶情報源に対する計算法を確立すると共に、無記憶情報源の出力系列の確率分布に対し、スムースRenyiエントロピーの漸近的な表示式を求めると共に、無記憶通信路のスムースRenyiダイバージェンスの漸近的な表示式を明らかにする。更に、複数の無記憶情報源から成る混合情報源に対しても、この成果を拡張する。
（２）２つの情報源を独立に符号化して復号器に送り、復号器では片方の情報源の系列を最大Dまでの歪みを許して復元するWyner-Ziv符号化問題について検討し、符号化する系列の長さが長くなったとき誤り率が零に収束するために、２つの符号器の符号化レート対の満足すべき領域をスムースRenyiエントロピーやスムースRenyiダイバージェンスを用いて明らかにする。これは、昨年度に検討したWyner符号化問題の歪みのある場合への拡張である。
平成28年度については、本年度の研究の進行状況に応じて、(1)多重アクセス通信路の達成可能領域のスムースRenyiダイバージェンスによる再定式化、(2)複数の情報源を用いた乱数生成問題のスムースRenyiダイバージェンスによる再定式化、などについて検討する。
|
Research Products
(4 results)
