画像修復アルゴリズムの動的側面に関する統計力学的性能評価

2003 Fiscal Year Annual Research Report

• Project/Area Number: 14084201
• Research Institution: Hokkaido University
• Principal Investigator: 井上 純一 北海道大学, 大学院・工学研究科, 助教授 (30311658)
• Keywords: 確率的情報処理 / 統計力学 / 画像修復 / EMアルゴリズム / ランダムスピン系 / 平均場理論 / ベーテ近似 / 非加法的エントロピー

Research Abstract

今年度は主に下記にあげた4つの項目に関して成果をあげることができた.
1.Q状態イジング模型及びガウス模型を用いた濃淡画像修復に対するEMアルゴリズムの性能評価
2.非加法的統計力学に,基づく確定的アニーリングEMアルゴリズムの拡張とそのダイナミックス
3.濃淡画像修復の対するボルツマン機械学習によるハイパーパラメータ推定のダイナミックスと解の安定性解析
4.ベーテ近似に基づくQ状態イジング模型及びポッツ模型で表された濃淡画像の修復アルゴリズム構築
1.では濃淡画像をQ状態イジング模型で表し,動的平均場理論に基づき,周辺尤度最大化基準によりハイパーパラメータを決定する際,EMアルゴリズムを用いた場合のシステムの動的振る舞いを調べた.ここではEMアルゴリズムを構築する際に現れる時間に依存したコスト関数であるQ関数のハイパーパラメータ依存性を議論し,「結合強度」「磁場強度」に対応するハイパーパラメータのうち,磁場強度の収束が結合強度のそれと比べて格段に速い理由を各時刻におけるQ関数の勾配形状により理解できることを示した.また,濃淡階調値がアルゴリズムの収束速度に及ぼす影響をも調べ,階調値を一つ上げるだけでも,マルコフ連鎖モンテカルロ法に基づくMPM推定値やハイパーパラメータ推定の処理速度が大幅に低下してしまうことが明らかとなった.上記のように画像修復系におけるハイパーパラメータ推定アルゴリズムの従う方程式を調べることにより,収束速度や精度を議論することができたが,得られる解の安定性を調べることなしにはアルゴリズムの信頼性は保証されない.そこで,3.においては濃淡画像修復に対して導出されたボルツマン機械学習によるハイパーパラメータ推定に関し,得られる解の線形安定性を調べ,解が漸近安定となる(結合強度)-(磁場強度)領域を示す相図を描いた.主要な結論は「ボルツマン機械学習方程式の解が真のハイパーパラメータ値に一致するならば,その解は漸近安定である」ということである.
2.ではEMアルゴリズムの初期値依存性の問題に対処するため,Q関数を構成する際に用いる事後確率をベイズ公式からでなく,規格化条件の下でTsallisエントロピーを最大とする分布を選び,ここに現れるエントロピーの非加法性を表すパラメータをアルゴリズムの過程で制御する,「確定的アニーリングEMアルゴリズム」を構築し,その統計的性能を混合正規分布の密度関数推定に適用した場合に対して解析評価した.従来のEMアルゴリズムは,初期状態の選び方により,解が周辺尤度の局所最大に捕われてしまうのに対し,我々の提案したアルゴリズムは初期条件に依らずに最尤推定値が得られることがわかった.4.では実際の濃淡標準画像をQ状態イジング模型及びポッツ模型により表し,それぞれを正規雑音により劣化させ,その画像から「ベーテ近似」に基づく反復アルゴリズムを構築し,画像の修復を試みた.得られた結果により,"lena", "girl", "house"と称される各標準画像の持つ性質が,Q状態イジング模型,ポッツ模型のどちらにより近い対称性を持つのかを定量的に評価することができた.

Research Products

• [Publications] J.Inoue, K.Tabushi: "A generalization of the deterministic annealing EM algorithm by means of non-extensive statistical mechanics"International Journal of Modern Physics B. 17・29. 5525-5539 (2003)
• [Publications] K.Tanaka, J.Inoue, D.M.Titterington: "Probabilistic image processing by means of Bethe approximation for Q-Ising model"Journal of Physics A : Mathematical and General. 36. 11023-11035 (2003)
• [Publications] J.Inoue, K.Tanaka: "Mean field theory of EM algorithm for Bayesian gray scale image restoration"Journal of Physics A : Mathematical and General. 36. 10997-11010 (2003)
• [Publications] J.Inoue: "Image Restoration and Ising Spin Glasses in A Transverse Field"Physica Scripta. T106. 70-76 (2003)
• [Publications] K.Tanaka, J.Inoue, D.M.Titterington: "Loopy belief propagation and probabilistic image processing"Neural Networks for Signal Processing. XIII. 329-338 (2003)