• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

画像修復の知見を用いたガウス過程関数近似の統計的理論とその応用

研究課題

研究課題/領域番号 14580438
研究種目

基盤研究(C)

配分区分補助金
応募区分一般
研究分野 知能情報学
研究機関独立行政法人理化学研究所

研究代表者

岡田 真人  独立行政法人理化学研究所, 脳数理研究チーム, 副チームリーダー (90233345)

研究期間 (年度) 2002 – 2003
研究課題ステータス 完了 (2003年度)
配分額 *注記
3,700千円 (直接経費: 3,700千円)
2003年度: 1,600千円 (直接経費: 1,600千円)
2002年度: 2,100千円 (直接経費: 2,100千円)
キーワード関数近似 / 画像修復 / ガウスモデル / フーリエ変換 / 特異点 / 統計力学 / 学習機械 / オンラインラーニング / 並進対称性
研究概要

関数近似,画像修復の両方に関して,従来は重畳されるノイズに相関がないと仮定する場合が,ほとんどであった.しかし,現実にはレンズなどの画像の生成過程や時系列など関数近似する場合を考えると,ノイズに相関がある場合がより現実的である.まず,このような画像を最適に修復することを,先ほどのフーリエ変換を用いてできるだけ解析的に議論した.この議論で応用上重要な点は,従来はノイズに相関が無いとして,近似や修復を行っていたことであり,その近似がどの程度妥当なものであるかを議論することである.そこで,用いた近似的なモデルの範囲内で,もっともよく修復できる限界点を求め,その限界にどの程度ちかづけるかを議論した.その結果,従来用いられていた周辺尤度最大化法でその限界まで到達できないことがわかり,その理由が異なったパラメータが系の挙動に影響を与えないときに生じる特異性によることが示唆された.
これは研究計画当初には予想できなかったことであり,プロジェクト遂行上の必要性から,今年度は特異性を持つモデルのパラメータ推定の性質を調べることを第一の目標とした.これまで研究では,特異性を持つモデルの汎か誤差など,学習が終了した後の性質を議論する場合がほとんどであり,このプロジェクトに必要な学習のダイナミクスに関して,まったく研究が行われていなかった.そこで私は,学習のダイナミクスの解析が比較的容易なオンライン学習の枠組みで特異性を持つモデルのパラメータ推定を議論することにした.特異点を持つモデルでは,最急降下法を用いることは望ましくないことがわかった.そこで,系のFisher情報行列を用いた自然勾配法の性質を議論し,この方法では前述の困難が全て解決することがわかった.

報告書

(3件)
  • 2003 実績報告書   研究成果報告書概要
  • 2002 実績報告書
  • 研究成果

    (20件)

すべて その他

すべて 文献書誌 (20件)

  • [文献書誌] Jun Tsuzurugi, Masato Okada: "Statistical mechanics of the Bayesian image restoration under spatially correlated noise"Physical Review E. 66. 066704 (2002)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Masato Inoue, Hyeyoung Park, Masato Okada: "On-line learning theory of soft committee machines with correlated hidden units.-- Steepest gradient descent and natural eradient descent --"Journal of Physical Society of Japan. vol.72, No.4. 805-810 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Tomoko Ozeki, Masato Okada: "Non-monotonic behaviour in relaxation dynamics of image restoration"Journal of Physics A : Mathematical and General. vol.36. 11011-11020 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Hyeyoung Park, Masato Inoue, Masato Okada: "On-line learning dynamics of two-layer neural networks with unidentifiable parameters."Journal of Physics A : Mathematical and General. vol.36. 11753-11764 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Kazuyuki Hara, Masato Okada: "On-line learning through simple perceptron learning with a margin"Neural Networks. vol.17, No.2. 215-223 (2004)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Masato Inoue, Hyeyoung Park, Masato Okada: "Dynamics of the adaptive natural gradient method for soft committee machines"Physical Review E. vol.69. 056120 (2004)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] 岡田真人, 原 一之: "学習の問題を統計力学で取り扱う:線形パーセプトロンのアンサンブル学習を一例として.Computer Today, vol.20, No.2"サイエンス社. 23-28 (2003)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Jun Tsuzurugi, Masato Okada: "Statistical mechanics of the Bayesian image restoration under spatially correlated noise."Physical Review E. vol.66. 066704 (2002)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Masato Inoue, Hyeyoung Park, Masato Okada: "On-line learning theory of soft committee machines with correlated hidden units. --Steepest gradient descent and natural gradient descent -."Journal of Physical Society of Japan. vol.72-No.4. 805-810 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Tomoko Ozeki, Masato Okada: "Non-monotonic behavior in relaxation dynamics of image restoration."Journal of Physics A : Mathematical and General. vol.36. 11011-11020 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Hyeyoung Park, Masato Inoue, Masato Okada: "On-line learning dynamics of two-layer neural networks with unidentifiable parameters."Journal of Physics A : Mathematical and General. vol.36. 11753-11764 (2003)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Kazuyuki Hara, Masato Okada: "On-line learning through simple perceptron learning with a margin."Neural Networks. vol.17-No.2. 215-223 (2004)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Masato Inoue, Hyeyoung Park, Masato Okada: "Dynamics of the adaptive natural gradient method for soft committee machines."Physical Review E. vol.69. 056120 (2004)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      2003 研究成果報告書概要
  • [文献書誌] Hyeyoung Park: "On-line learning dynamics of two-layer neural networks with unidentifiable parameters."Journal of Physics A: Mathematical and General. vol.36. 1175-1176 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] Tomoko Ozeki: "Dynamical properties of Markov Chain Monte Carlo method for image restoration"Journal of Physics A: Mathematical and General. vol.36. 11011-11102 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] Tatsuto Murayama: "One-step RSB scheme for the rate distortion functions."Journal of Physics A: Mathematical and General. vol.36. 11123-11130 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] Masato Inoue: "On-line learning theory of soft committee machines with correlated hidden units.--Steepest gradient descent and natural gradient descent--"Journal of Physical Society of Japan. vol.72, No.4. 805-810 (2003)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] Kazuyuki Hara: "On-line learning through simple perceptron learning with a margin"Neural Networks,. vol.17, No.2. 215-223 (2004)

    • 関連する報告書
      2003 実績報告書
  • [文献書誌] J.Tsuzurugi, M.Okada: "Statistical mechanics of the Bayesian image restoration under spatially correlated noise"Physical Review E. 66. 066704 (2002)

    • 関連する報告書
      2002 実績報告書
  • [文献書誌] M.Inoue, H.Park, M.Okada: "On-line learning theory of soft committee machines with correlated hidden units. -Steepest gradient descent and natural gradient descent-"Journal of Physical Society of Japan. (印刷中).

    • 関連する報告書
      2002 実績報告書

URL: 

公開日: 2002-04-01   更新日: 2016-04-21  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi