2005 Fiscal Year Annual Research Report
特異な統計モデルに対するリサンプリング法の適用に関する研究
| Project/Area Number |
17500177
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (C)
|
| Research Institution | Hokkaido University |
|---|
Principal Investigator |
今井 英幸 北海道大学, 大学院・情報科学研究科, 助教授 (10213216)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
佐藤 義治 北海道大学, 大学院・情報科学研究科, 教授 (80091461)
工藤 峰一 北海道大学, 大学院・情報科学研究科, 教授 (60205101)
村井 哲也 北海道大学, 大学院・情報科学研究科, 助教授 (90201805)
櫻井 裕仁 北海道大学, 大学院・情報科学研究科, 助手 (00333625)
|
|---|
| Keywords | 変化点問題 / ニューラルネットワーク / モデル同定 / モデル選択 |
|---|
| Research Abstract |
本年度は特定の特異モデルに対してブートストラップ法を適用し、モデルの形状やサンプルサイズを変えて様々な条件で数値実験を行い、ブートストラップ法による母数の推定、信頼区間の構成およびモデル選択に関する性能と漸近的な挙動および適用限界に関する数値的な検討を行った。
モデルとして用いたものは(1)ブートストラップ法による変化点問題の信頼領域の構成、(2)ブートストラップ法による三層ニューラルネットワークのモデル同定とモデル選択、の二つである。これらの問題は正則モデルの部分問題としては実現されないクラスに属し、理論的にも未解決の領域が多い問題である。
ブートストラップ法を用いた変化点問題の信頼領域の構成においては、変化点前後のモデルの形状によって、信頼領域の構成が大きく影響を受けることが数値的に示された。また、モデルの分散が未知の攪乱母数である場合には、母分散の大きさ、および、その推定方法もまた、信頼領域の構成に大きく影響することが観察された。
ブートストラップ法を用いたニューラルネットワークのモデル同定においては、通常、中間層の素子数を十分に大きなモデルを用意して、複雑な入出力関係を実現することを目的としている。しかし、真のモデルが比較的少数の中間層からなるネットワークである場合には、ブートストラップ法によるモデルの同定が不安定になり、十分大きなサンプルサイズがある場合であっても、十分な推定精度が得られない可能性がある。また、ブートストラップ法を用いたモデルの選択においても、精度よく真のモデルが選択されるケースは限られていることが、数値実験の結果から予想される。
これらの知見は特定の特異モデルによる数値実験からの知見であり、どの程度一般性をもって成り立つことであるかは、更に大規模な数値実験や理論的な検討が必要であり、現在、研究を進めている。
|
