歪み有り情報圧縮の高速符号化アルゴリズムの開発と理論解析

2003 Fiscal Year Annual Research Report

• Project/Area Number: 15700141
• Research Institution: Kobe City College of Technology
• Principal Investigator: 三村 和史 神戸市立工業高等専門学校, 電子工学科, 講師 (40353297)
• Keywords: 歪み有り情報圧縮 / 統計力学 / レプリカ法 / TAP法 / マルコフ連鎖モンテカルロ法 / 多層パーセプトロン / 経路積分法 / 連想記憶モデル

Research Abstract

歪み有り情報圧縮について符号化が多項式時間となるような符号化アルゴリズムを開発して、その性能の典型評価を統計力学的手法により解析を行った。指数関数的な計算時間が必要である理論限界を達成する高効率アルゴリズムの近似アルゴリズムがTAP法により既に導出されている。TAP法による解析を行うと、最適な圧縮符号がアトラクタとなるようなエネルギー曲面の緩和過程が求められる。しかし、このエネルギー曲面はゴルフホール型であるため、緩和過程の定常状態は初期状態に大きく依存するので初期値の選び方が重要となる。既存の近似アルゴリズムでは、初期値をランダムに選んでいたために、最適な圧縮符号を得ることができなかった。そこで、S/N解析によって圧縮過程を解析し、初期値のレート歪み関数を得た。アトラクタに近い初期値から緩和を始めることができれば、高速に最適な圧縮符号を得ることが可能となる。初期値の影響について、現在計算機シミュレーションなどによってさらなる検討を重ねている。また、圧縮に用いるアルゴリズムそのものの改良についても理論的に検討した。多層パーセプトロン特にパリティマシンおよびコミティマシンを用いた符号化方法を理論的に解析し、特定のパラメータ領域において解析結果を得た。平成16年度にさらにこれらの研究を推進する予定である。初期値の選択を含めた高速で高効率なアルゴリズムを提案して、その性能評価を行なう。さらに、計算機シミュレーションと比較することにより理論の検証を行う。
歪み有り情報圧縮の解析で必要となるS/N解析手法についても検討し、同じ理論的枠組みを持つ連想記憶モデルについて理論解析を行った。また、緩和過程のダイナミクスの解析で重要となる経路積分法の適用についても研究を行い、論文The path-integral analysis of associative memory model storing infinite number of limit cyclesをJournal of Physics A : Mathematical and Generalに投稿中である。この研究で経路積分法から得られるダイナミクスから定常状態を理論的に得る方法を確立した。

Research Products

• [Publications] Kazushi Mimura, Tomoyuki Kimoto, Masato Okada: "Synapse efficiency diverges due to synaptic pruning following over-growth"Physical Review E. 68. 031910 (2003)
• [Publications] Kazushi Mimura, Masato Okada: "Statistical Mechanics of lossy data compression using multilayer perceptron."Journal of the Phys.Soc.Japan. (発表予定).