Information Theoretic Inequalities for Smooth Entropies
| Project/Area Number |
23K16839
|
|---|
| Research Category |
Grant-in-Aid for Early-Career Scientists
|
| Allocation Type | Multi-year Fund |
|---|
| Review Section |
Basic Section 60010:Theory of informatics-related
|
|---|
| Research Institution | Shimane University |
|---|
Principal Investigator |
阪井 祐太 島根大学, 学術研究院機能強化推進学系, 助教 (70907849)
|
|---|
| Project Period (FY) |
2023-04-01 – 2028-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥4,810,000 (Direct Cost: ¥3,700,000、Indirect Cost: ¥1,110,000)
Fiscal Year 2027: ¥650,000 (Direct Cost: ¥500,000、Indirect Cost: ¥150,000)
Fiscal Year 2026: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2025: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2024: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2023: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
|
|---|
| Keywords | 情報理論 / シャノン理論 / エントロピー / データ圧縮 / 情報源符号化 / 漸近解析 / 不等式 / スムースエントロピー / 最適輸送 |
|---|
| Outline of Research at the Start |
数理・データサイエンス・AI教育が重要視される昨今，情報理論は情報工学の理論的基盤の一つであり，通信問題における情報の量的解析に長けた分野である．特にエントロピーとよばれるような情報量による不等式評価により，多くの符号化問題の本質的限界の解明に成功してきた．本研究では，情報セキュリティ分野にて近年提案され，量子情報の解析にも利用される「スムースエントロピー」が関連する不等式をより深く解析することで，複雑ネットワークモデルに対する新たな解析手法の模索とともに，これまで符号化定理の証明道具としてガラパゴス的に発展してきた情報理論的不等式の他分野への展開を考察する．
|
| Outline of Annual Research Achievements |
本研究課題では，スムースエントロピーによる情報理論的不等式の精査を目的としており，これまでの研究では「誤りを許容した通信問題」のスムースエントロピーによる解析に取り組んだ．そのアプローチの中でも，補助情報が参照可能な情報源モデルに対するデータ圧縮問題として，いくつかの誤り規範に基づく符号化問題の定式化を考え，それぞれの誤り規範によってエントロピーによる定式化を議論するにあたり，どのようなスムース化の操作が相応しいかを検討した．特に，補助情報に関して最悪の誤り規範を考慮する場合の最適データ圧縮率を定式化するスムースエントロピーを考案し，その定式化の証明を与えた．さらにそのスムースエントロピーに対する不等式評価を行い，最適データ圧縮率の漸近解析を導出した．情報理論では一般性を考慮してより抽象的な数学的定義に基づく工学問題を考えることが古典的によく行われているが，本研究課題のスムースエントロピーによる定式化および解析も一般の可測空間上における補助情報に対して行い，その広い応用性を示した．補助情報のある情報源モデルに対する通信問題は，近年のIoT (Internet of Things)技術の発展に伴いその背後の数理として重要性の高まるネットワーク情報理論への足掛かりとなる初等的な問題であり，本研究成果により未解決問題の多いネットワーク情報理論に対するスムースエントロピーを介した解析手法の一つを提示した．また，スムースエントロピーによる最適圧縮率の定式化にはMajorization理論の解析手法が関わっており，本研究成果はスムース化の操作とそうした最適化に関わる数理との関係性も示している．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究課題では，スムースエントロピーによる工学問題の解析手法の新展開を目指しており，これまでの研究にて実際にデータ圧縮問題に対してスムースエントロピーによる定式化および不等式評価が可能であることを示せた．その結果として，研究実績の概要に記載した，補助情報に関して最悪の誤り規範を考慮した場合の最適データ圧縮率の漸近解析を論文にまとめ，査読付き英論文誌IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciencesに論文が採択された．また採択された漸近解析について，考慮する最適化問題に対する不等式評価をより精密に解析した高次漸近解析を考案しており，現在その証明の確認および論文投稿を検討している．
|
| Strategy for Future Research Activity |
採択された論文中でのスムースエントロピーの漸近展開について，その一部では単純な三角不等式による評価を行い，余剰高をある種ゆるく評価していた．現在，スムースエントロピーの定義に現れる多次元の最適化問題をゆるく抑えずに厳密に評価する解析を考案し，その形式的な証明の記述および論文執筆に注力している．また，より高度なネットワーク情報理論の問題として，補助情報の参照が限定的な通信問題に対するスムースエントロピーの定式化について検討する．特に，これまで測度の集中現象を介した解析が行われたネットワーク情報理論の問題について，対数Sobolev不等式のようなエントロピー集中不等式の観点からスムース化の操作を考慮する方針を模索する．
|
Report
(1 results)
Research Products
(1 results)
