ベイズ推定に基づくデコード過程に関する統計力学的理論とその応用

2002 Fiscal Year Annual Research Report

• Project/Area Number: 14084212
• Research Institution: The Institute of Physical and Chemical Research
• Principal Investigator: 岡田 真人 理化学研究所, 脳数理研究チーム, 副チームリーダー (90233345)
• Keywords: ベイズ推定 / 統計力学 / 確率的情報処理 / CDMA / 画像修復 / 誤り訂正符号 / デコード / 復調

Research Abstract

これまでニューラルネットワークモデル一種であるの連想記憶モデルの記憶想起のダイナミクスを,統計神経力学を用いて理論的に研究してきた.この知見を元に,連想記憶モデルに適用されてきた統計神経力学をCDMAの復調アルゴリズムの一つである多段マルチユーザ復調器に適用し,その復調のダイナミクスを理論的に説明することに成功した.現在この結果を論文としてまとめている.さらにこの知見は,単に既存のアルゴリズムの理解にとどまらず,発見法的な方法では思いもつかない,新たなアルゴリムの設計に役立つ可能性がある.具体的に,次の新たなアルゴリズムを一つ提案した.多段マルチユーザー復調器では,各段間での統計的な相関が無視できない.その相関から,生じるオンサガー項を各段で推定して,その推定値をキャンセルすることにより,より高速な復調器が設計できることがわかった.
さらに画像の修復の過程のダイナミクスをマスター方程式の方法で議論した.画像修復結果の特性を議論する静的な平衡状態の理論では,西森温度で修復するのがピクセルレベルの誤り率の点で最適であることが知られていた.そこで修復の動的過程においても,西森温度で修復することが最適であるかを議論した.その結果,西森温度より低温で修復する過程で,平衡状態で実現される最適な西森温度での修復結果と同じ状態を系が過渡的にとることがわかった.さらにその数理的なメカニズムも解明した.現在この結果を論文としてまとめている.さらにこの知見は,画像修復だけにとどまらず誤り訂正符号にも当てはまる.具体的には,バイアスコードされた誤り訂正符号では画像修復で得られた現象と同じ現象が生じることが理論的に予想される.

Research Products

• [Publications] M.Inoue, H.Park, M.Okada: "On-line learning theory of soft committee machines with correlated hidden units. --Steepest gradient descent and natural gradient descent--"Journal of Physical Society of Japan. (印刷中).