• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2013 Fiscal Year Research-status Report

構造学習理論と双有理幾何学

Research Project

Project/Area Number 23500172
Research InstitutionTokyo Institute of Technology

Principal Investigator

渡邊 澄夫  東京工業大学, 総合理工学研究科(研究院), 教授 (80273118)

Keywords特異揺らぎ / 実対数閾値 / WAIC / WBIC
Research Abstract

本研究は、双有理幾何学と構造学習理論の関係についての数学的な関係を解明し、統計的学習理論の理論的整備を行うことを目的としている。前年度までの研究により、双有理不変量である特異揺らぎとモデル選択規準WAICの関係を解明し、また双有理不変量である実対数閾値をサンプルから推測するための方法としてモデル選択規準WBICを導出した。
平成25年度の研究成果は次の通りである。まず平均WAICと平均汎化誤差の関係を実験的に確認した。平均WAICと平均汎化誤差が、サンプル数が無限大になる場合において等しい挙動を持つことはすでに理論的に証明されているが、具体的な問題でその精度がどの程度であるかは知られていなかった。平均汎化誤差を推定する量としてはWAICのほかにAICとDICが知られているが、サンプル数を変化させてAICおよびDICとの比較を行うことにより、サンプル数が少ない場合においてもWAICにより平均汎化誤差がAICやDICよりも正しく推定できることが明らかになった。
次にWBICの値とベイズ自由エネルギーの値の関係を実験的に確認した。WBICはベイズ自由エネルギーの近似値を与えるものとして導出されているが、具体的な問題においてWBICがベイズ自由エネルギーに対してどの程度に良い近似値を与えているかは知られていなかった。本研究において、最急降下法などを援用して事後分布を適切に作成することでWBICがベイズ自由エネルギーの近似値を与えることが明らかになった。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

双有理不変量である特異揺らぎと実対数閾値を推定する方法としてWAICとWBICを導出することができ、その有効性を計算機実験により確認した。本研究に関して国際会議での招待講演を2件行った。またWAICとWBICについては外国で出版された統計学の教科書に掲載され、世界的な研究の発展にも寄与している。

Strategy for Future Research Activity

統計的推測で重要な役割を果たす双有理不変量の導出と、その双有理不変量をサンプルから推測する方法について、統計学における新しい規準である WAIC と WBIC を導出することができた。最終年度に当たる平成26年度においては、計算機実験による精度検証をさらに進めること、および、研究成果を世界に公表することで、学術分野の発展に貢献を行いたい。

Expenditure Plans for the Next FY Research Funding

2013年度の所要額は主としてこれまでの研究成果の国際会議等での発表のために用いられた。次年度使用額の1029円は研究発表のために必要であった金額と計画の金額の差であり、ほぼ計画通りに研究およびその発表は進められていると考えられる。
計画の最終年度となる2014年度では、研究のまとめおよび研究成果の公表に用いる予定である。

  • Research Products

    (5 results)

All 2013 Other

All Presentation (4 results) (of which Invited: 2 results) Remarks (1 results)

  • [Presentation] 学習において一般漸近理論と正則漸近理論が成立するために十分なサンプル数の相違について2013

    • Author(s)
      渡辺澄夫
    • Organizer
      電子情報通信学会NC研究会
    • Place of Presentation
      岐阜大学
    • Year and Date
      20131221-20131221
  • [Presentation] 最急降下法とMCMC法による情報量規準WBICに基づく階層型ニューラルネットワークのモデル選択2013

    • Author(s)
      玉井雄介 渡辺澄夫
    • Organizer
      電子情報通信学会IBISML研究会
    • Place of Presentation
      東京工業大学
    • Year and Date
      20131112-20131112
  • [Presentation] WAIC and WBIC are Information Criteria for Singular Statistical Model Evaluation2013

    • Author(s)
      Sumio Watanabe
    • Organizer
      WITMSE 2013
    • Place of Presentation
      The University of Tokyo
    • Year and Date
      20130826-20130829
    • Invited
  • [Presentation] Model Selection for Non-Regular Statistical Models2013

    • Author(s)
      Sumio Watanabe
    • Organizer
      Joint Statistical Meeting
    • Place of Presentation
      Canada, Motreal
    • Year and Date
      20130803-20130808
    • Invited
  • [Remarks] 渡辺澄夫

    • URL

      http://watanabe-www.math.dis.titech.ac.jp/users/swatanab/index-j.html

URL: 

Published: 2015-05-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi