2018 Fiscal Year Research-status Report
Study on the distribution that achieves the channel capacity of discrete and continuous channels
| Project/Area Number |
17K00008
|
|---|
| Research Institution | Nagaoka University of Technology |
|---|
Principal Investigator |
中川 健治 長岡技術科学大学, 工学研究科, 教授 (80242452)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
渡部 康平 長岡技術科学大学, 工学研究科, 助教 (10734733)
武井 由智 秋田工業高等専門学校, その他部局等, 教授 (90313337)
|
|---|
| Project Period (FY) |
2017-04-01 – 2020-03-31
|
| Keywords | 通信路容量 / Kullback-Leibler情報量 / Arimotoアルゴリズム / 収束速度 |
|---|
| Outline of Annual Research Achievements |
2018年4月頃から，それまでに得られた結果をまとめて，2018年10月に開催された情報理論とその応用国際シンポジウム（ISITA2108）で発表した。発表内容は，通信路容量を計算するArimotoアルゴリズムの収束速度を評価についてである。通信路容量を達成する入力分布λ*が確率分布全体の集合Δの内点にあるときには収束速度の評価は比較的易しい。それに対して，λ*がΔの境界上にあるときは問題かかなり難しい。Arimotoアルゴリズムの定義関数Fのヘッセ行列を解析することが重要である。Fのヘッセ行列を計算し，1/Nオーダーの遅い収束について，具体的な通信路行列について評価した。さらに，その結果をまとめて，2018年8月にIEEE Transactions on Information Theoryに投稿した。投稿した内容は，まず，Arimotoアルゴリズムの概要を述べ，その情報幾何学的性質を述べた。さらにArimotoアルゴリズムの収束速度を解析するための数学的基礎を明らかにし，それに基づいて収束速度を調べた。具体的な通信路行列にその解析を適用し，Arimotoアルゴリズムの収束速度が正しく評価されていることを確認した。しかし，扱っている入力アルファベットがm=3の場合のみである。2019年4月に不採択の結果となった。今後は，投稿論文の内容をさらに発展させて再投稿する予定である。
さらに，2019年1月頃から任意のmに対する収束速度の評価を行っている。現時点で部分的な結果が得られているが，まだ十分に一般的とは言えない。さらに検討を継続してゆく。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
前年度に引き続き，Arimotoアルゴリズムの収束速度について検討している。収束速度を評価するための基本的な考え方として，Arimotoアルゴリズムを定義する関数FはΔからΔへの微分可能な写像であり，最適な入力分布λ*がFの不動点であり，そして，収束速度は不動点λ*におけるFのテイラー展開の第1項と第2項によって評価される。その評価のために，入力アルファベットを表すインデックスをタイプ1,2,3と分類する。
昨年度は，上記の考えに基づいて，指数関数的な収束については，一般的な通信路行列に対して収束速度を評価できたが，1/Nオーダーの収束については，入力アルファベット数mがm=3のときにしか収束速度を得ることができなかった。これが，2018年8月までの状況である。
2018年9月以降に，m=3を制限せずに，全く一般の通信路行列に対して1/Nオーダの収束速度の数値的評価を行った。収束の証明ができていないが，もし収束することを仮定すると，任意の通信路行列に対して，タイプ2のインデックスが存在するとき，Arimotoアルゴリズムの収束速度が1/Nオーダとなることが数値的に確認できた。しかし，問題は収束の証明である。これは極めて困難である。多変数の非線形漸化式の収束速度を評価する必要があるのだが，1/Nオーダの遅い収束を証明するために使える定理が少なく，証明に難航している。
しかし，その証明が達成できれば，これを応用して，Arimotoアルゴリズムの収束を加速することができると考えている。
|
| Strategy for Future Research Activity |
これまでに，Arimotoアルゴリズムの収束速度の研究を中心に進めてきたので，下記の２つのテーマについて，あまり研究が進んでいない。今年度は引き続き，下記のテーマについて研究を進める。
(1) 離散的無記憶通信路の通信路容量を達成する入出力分布を計算するアルゴリズムの開発
本研究では，各通信路行ベクトルからKullback-Leibler情報量が等しい分布のアファイン部分空間への射影を繰り返し適用して通信路容量Cを達成する最適点を求めるアルゴリズムを開発する。開発のために利用する量は，Kullback-Leibler情報量，重心座標，内積，ピタゴラスの定理，アファイン部分空間への射影のみである。
我々は既に，任意の通信路行列に対して適用できるCを計算するための射影によるアルゴリズム（射影アルゴリズム）を得ているが，それはまだヒューリスティックな部分を含むので，必ずしも正しいCの値が得られない場合がある。今後，失敗する例をさらに分析して100%の正答率を得ることを目的とする。
(2) 連続値加法的雑音通信路の通信路容量を達成する入出力分布を計算するアルゴリズムの開発
通信路の入力Xおよび出力Yが連続値をとるときの通信路容量について考察する。わずかな例外を除いて，通信路容量Cを達成する入力分布は離散分布であることが知られている。本研究では，なぜ離散分布がCを達成するのか，その理由を明らかにする。特にXが実数上の有限区間で雑音Zが有限区間上の加法的雑音の場合について検討する。入力X上の確率分布の特性関数，すなわちフーリエ変換に基づいて，最適な入力分布の離散性について明らかにする。
|
| Causes of Carryover |
予定していたPCの購入を翌年度に変更した。本年度は，そのPCの購入，および国際会議，国内会議への参加のための参加費と旅費に使用する。さらに研究分担者との研究打合せのための旅費に使用する。
|
