2011 Fiscal Year Annual Research Report
Bregman情報量に基づく統計モデルの拡張とその応用
| Project/Area Number |
22700292
|
|---|
| Research Institution | Aoyama Gakuin University |
|---|
Principal Investigator |
藤本 悠 青山学院大学, 理工学部, 助教 (40434302)
|
|---|
| Keywords | 統計数学 / 情報基礎 / copula / 機械学習 |
|---|
| Research Abstract |
本研究では情報量の一般化の考え方と深い関係のある,乗除算及び統計的独立性の拡張を提案し,統計的推論の枠組みの中でこの拡張を用いた統計モデルの性質,有効性を整理し,実際の現場への応用の土台を構築することを目的としている.これまでに提案モデルの統計的推論の文脈での応用としてナイーブベイズモデルなどへの拡張を論じると同時に,一般化線形モデルの観点から提案手法の理論背景の整理を試みている.平成23年度には主に拡張独立モデルの具体的な推定結果の統計的な性質を議論すると共に,この考え方を非負行列分解の拡張に応用することを行った.一般に最尤理論の枠組みでの提案拡張独立モデルの推定では陽な解を得ることが困難となる.これを避けるために,これまでcopulaの推定の文脈で用いられる段階的推定法の応用を提案してきた.今年度は厳密解を数値計算的に導く場合と段階的推定法を応用して近似解を獲得する場合とで,どのような状況でどの程度精度が異なるのかを汎化性能の観点から議論を試み,その結果推定に用いるサンプル数に応じて両推定法の優位性が変わってくることなどを実験的に確認した,また,2行2列の同時確率表を対象とすることで,従来の独立モデルと拡張独立モデルの幾何学的な構造の視覚的な比較を行い,段階的推定法を用いる際には同時分布の一様分布への収縮という観点が推定精度の意味で効いてくることを確認した.
また,乗除算の一般化という観点から非負行列分解の拡張を行い,確率的射影勾配法による推定アルゴリズムを提案した.部分空間法の枠組みでの判別問題を考えると,本研究で導入する拡張は一般に用いられる線形な部分空間を非線形に歪めることに相当する.データのバラつき方を提案手法で実現される柔軟な部分空間によって表現することで,判別問題をより精度良く解くことが可能になることを,ベンチマークデータを用いた数値実験を通して示した.
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究は当初の目的として,統計的推論の枠組みの中で拡張した統計モデルの性質,有効性を整理し,実際の現場への応用の枠組みを構築することを掲げている.これまでに行ったいくつかのモデルの拡張に加え,推定結果の幾何学的な構造描写やサンプル数との関係の議論などに着手できたことや,応用例として判別問題での有効性を示すことが出来ていることから,概ね順調な進展だと考えている.
|
| Strategy for Future Research Activity |
今後は,データに基づく統計モデル(非負行列分解)の推定の観点から適切な乗算の一般化の仕方を学習するという問題をパラメトリックな乗算定義の範疇で議論していく予定である.これによって,応用に際してさらに利便性の高い方法が提案できると考えている.
また,これまで本提案手法で一般化した独立性の応用上の利点を判別精度などの観点から言及してきたが,この一般化が物理的に何を意味するのかという意味づけを与えることは,本研究の理論上の有用性を示す上で重要だと考えている.この辺りについては分野の垣根を超えた様々な研究者の知見が参考になると考えているため,引き続き多分野の研究者との議論を通して意味づけを整理していく予定である.
|
