非加法的情報理論の構築とその学習理論への応用に関する研究

2003 Fiscal Year Annual Research Report

• Project/Area Number: 14780259
• Research Institution: Chiba University
• Principal Investigator: 須鎗 弘樹 千葉大学, 工学部, 助教授 (70246685)
• Keywords: 非加法的情報理論 / サリスエントロピー / サリス相互情報量 / 一意性定理 / シャノン-ヒンチンの公理系 / 独立成分分析 / ベイズ更新 / ベイジアンネットワーク

Research Abstract

非加法的情報理論において,昨年度得られたサリスエントロピーの一意性定理をさらに発展させて、一般的にエントロピーが持つと考えられる2つの加法性によりエントロピーを3つのクラスに分類し、サリスエントロピーが,その2つの加法性の両方を満たすクラスに属することを示した.これにより、サリスエントロピーの一意性定理のより簡潔なバージョンを構成することができた.さらに,シャノンの不等式の拡張がサリスエントロピーの場合には成り立たないことを示し、従来の問題を解決した。この理論的な研究は現在さらに発展し,サリスエントロピーから自然に導入される新しい積により,カオスやフラクタルなどの自己相似系のダイナミクスを統一的に説明できる新しい理論体系の構築につながることが最近わかってきた.これに関しては、すでに3本の論文を投稿中である.
上記の結果を背景に,従来,ベイズ更新に用いられている式を,サリスエントロピーの拡張パラメータqとq正規化期待値を用いて,新しい更新式を得た.(q=1のとき,従来のベイズ更新式に一致する.)今までのベイズ更新式では,事前確率から事後確率に急激に値が変動することが多かったが,qに適切な値を設定することにより、緩やかな変動が可能になった.これは,そもそも,サリスエントロピーの拡張パラメータqのコントロールに,確率分布の強調の効果があるためである.これを迷路探索ロボットのシミュレーションに用いることにより,従来のベイズ更新式を用いたときに見られた偏った行動をとる傾向が少なくなり、より幅広い行動をとることが可能になり,その効果を確かめることができた.

Research Products

• [Publications] H.Suyari, S.Furuichi: "Comment on 'Note on generalization of Shannon theorem and inequality'"Jourinal of Physics A : Mathematical and General. 36. 5157-5158 (2003)
• [Publications] H.Suyari: "Generalization of Shannon-Khinchin axioms to nonextensive systems and the uniqueness theorem for the nonextensive entropy"IEEE Trans. Inform. Theory. (掲載予定).
• [Publications] H.Suyari: "The uniqueness theorem for the nonextensive entropy"Proceedings 2003 IEEE International Symposium on Information Theory. 2003. 260 (2003)
• [Publications] 須鎗弘樹: "Three classes of nonextensive entropies characterized by Shannon additivity and pseudoadditivity"京都大学数理解析研究所講究録. 1340. 27-34 (2003)
• [Publications] 南野達彦, 須鎗弘樹: "堆積モデルとTsallis統計"京都大学数理解析研究所講究録. 1340. 35-44 (2003)
• [Publications] 須鎗弘樹: "ベイジアンネットワーク入門(1)"日本医用画像工学会誌. 21. 315-318 (2003)
• [Publications] 須鎗弘樹: "ベイジアンネットワーク入門(2)"日本医用画像工学会誌. 21. 382-386 (2003)