• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

確率モデルに対する平均場近似法の情報理論的定式化

Research Project

Project/Area Number 11780287
Research Category

Grant-in-Aid for Encouragement of Young Scientists (A)

Allocation TypeSingle-year Grants
Research Field Intelligent informatics
Research InstitutionTokyo Metropolitan University

Principal Investigator

田中 利幸  東京都立大学, 大学院・工学研究科, 講師 (10254153)

Project Period (FY) 1999 – 2000
Project Status Completed (Fiscal Year 2000)
Budget Amount *help
¥1,900,000 (Direct Cost: ¥1,900,000)
Fiscal Year 2000: ¥600,000 (Direct Cost: ¥600,000)
Fiscal Year 1999: ¥1,300,000 (Direct Cost: ¥1,300,000)
Keywords平均場近似 / 確率モデル / EMアルゴリズム / 変分ベイズ法 / CDMAマルチユーザ復調 / Bethe近似 / 確率伝播アルゴリズム / ターボ復号法 / ニューラルネットワーク / 情報幾何学 / 情報統計力学 / グラフィカルモデル
Research Abstract

昨年度の研究成果をふまえ,EMアルゴリズムにおける平均場近似法の適用,およびAttiasらによって提案されている変分ベイズアプローチについて検討した.もともとのEMアルゴリズムはその収束性について理論的な保証が与えられているが,平均場近似法を適用することによってこの性質が失われてしまう.本研究では,EMアルゴリズムに平均場近似法を適用した場合の幾何学的な描像を,情報幾何学にもとづいて与えた.この描像により,上記の事実は幾何学的に簡明に理解される.また,変分ベイズアプローチは本質的には平均場近似法そのものであり,昨年度までに得た平均場近似法の情報幾何学的解釈が変分ベイズアプローチに対してもそのまま適用できることを確認した.また,この幾何学的解釈にもとづいて,変分ベイズアプローチの改良案を提示した.
CDMAマルチユーザ復調の問題は通信工学の分野における問題であるが,本年度の研究活動においてこの問題に対して平均場近似法が適用できることが見出された.この問題にナイーブな平均場近似法を適用した場合を想定して,解析的な性能評価および数値実験による検証をおこなった.
統計力学の分野でのBethe近似は,人工知能の分野での確率伝播アルゴリズムとの関連が見出されつつあるが,確率伝播アルゴリズムは通信工学におけるターボ復号法とも関連している.本研究では,Bethe近似とターボ復号法とが本質的には同一の枠組みで捉えられることを明らかにし,両者に対して情報幾何学的な解釈を与えた.これにもとづいて,これらの手法の近似精度と幾何学的な構造との関連を明らかにする結果を得た.

Report

(2 results)
  • 2000 Annual Research Report
  • 1999 Annual Research Report
  • Research Products

    (11 results)

All Other

All Publications (11 results)

  • [Publications] Toshiyuki Tanaka: "Information geometry of mean field a approximation"Neural Computation. 12(8). 1951-1968 (2000)

    • Related Report
      2000 Annual Research Report
  • [Publications] Toshiyuki Tanaka: "Information geometry of mean-field approximation"In M.Opper and D.Saad (eds.), Advanced Mean Field Methods : Theory and Practice (MIT Press). (2001)

    • Related Report
      2000 Annual Research Report
  • [Publications] 田中利幸: "直接拡散CDMA方式のビット誤り率の解析"2000年情報論的学習理論ワークショップ予稿集. 57-62 (2000)

    • Related Report
      2000 Annual Research Report
  • [Publications] 田中利幸: "ニューラルネットワークによるCDMAマルチユーザ復調器の性能の解析"2000年電子情報通信学会情報・システムソサイエティ大会講演論文集. 27 (2000)

    • Related Report
      2000 Annual Research Report
  • [Publications] Toshiyuki Tanaka: "Analysis of bit error probability of direct-sequence CDMA multiuser demodulators"In V.Tresp et al.(eds.), Advances in Neural Information Processing Systems (MIT Press). 13. (2001)

    • Related Report
      2000 Annual Research Report
  • [Publications] 田中 利幸: "フィードフォワードネットワークに対する平均場近似の定式化"日本神経回路学会第9回全国大会講演論文集. 143-144 (1999)

    • Related Report
      1999 Annual Research Report
  • [Publications] 田中 利幸: "層状フィードフォワードネットワークに対する平均場近似"日本物理学会講演概要集. 54・2. 285 (1999)

    • Related Report
      1999 Annual Research Report
  • [Publications] Toshiyuki Tanaka: "A formulation of mean-field approximation for layeard feedforward stochastic networks"Proc. Sixth Int. Conf. Nearal Inform. Process. '99. 2. 544-549 (1999)

    • Related Report
      1999 Annual Research Report
  • [Publications] 田中 利幸: "確率的に動作する多層フィードフォワード型ネットワークに対する平均場近似"電子情報通信学会論文誌 D-II分冊. J82-D-II・12. 2420-2422 (1999)

    • Related Report
      1999 Annual Research Report
  • [Publications] 田中 利幸: "情報幾何学と平均場近似"物性研究. 73・5. 834-841 (2000)

    • Related Report
      1999 Annual Research Report
  • [Publications] 田中 利幸: "フィードフォワードネットワークに対する平均場近似の情報幾何"電子情報通信学会技術研究報告(ニューロコンピューティング). (発表予定). (2000)

    • Related Report
      1999 Annual Research Report

URL: 

Published: 1999-04-01   Modified: 2016-04-21  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi