2018 Fiscal Year Research-status Report
Robust estimation with effective learning
| Project/Area Number |
17K00065
|
|---|
| Research Institution | The Institute of Statistical Mathematics |
|---|
Principal Investigator |
藤澤 洋徳 統計数理研究所, 数理・推論研究系, 教授 (00301177)
|
|---|
| Project Period (FY) |
2017-04-01 – 2022-03-31
|
| Keywords | ロバスト統計 / 最尤推定 / ダイバージェンス / スパース・モデリング / 潜在変数モデル / MMアルゴリズム / 歪正規分布 |
|---|
| Outline of Annual Research Achievements |
申請者である藤澤は，スーパーロバストネスをもつガンマ・ダイバージェンスを提案した．ガンマ・ダイバージェンスは，近年になって国際的な引用も大きく増加し，数年前から，日本の統計関連学会でも，しばしば議論に上がるようになった．ただし，パラメータ推定アルゴリズムは，データが独立同一標本でモデルが指数型分布のときに提案されており，そうでない時には，その適用に課題を残していた．最近になって，申請者らは，Majorization-Minimization (MM) アルゴリズムを上手く利用することで，スパース・モデリングにも適用範囲を広げつつある．本申請研究では，その研究の発展，混合効果モデルのような潜在変数モデルへの適用，加えて，ビッグデータ用のオンライン学習，に関して研究を進める．
2018年度の成果を記述する．ロバスト回帰用の二つのガンマ・ダイバージェンスには実は大きな違いがあることを発見して研究をまとめた．特に，ロジスティック回帰が，その枠組みに入るため，意義が大きい．ロバストなポアソン回帰モデルの研究をまとめた．オンライン学習についても触れている．歪対称分布として最も有名である歪正規分布は潜在変数モデルである．このモデルに対して，陽に書けるハンディなEMアルゴリズムが存在しないと知り，過剰パラメータをあえて導入することで，そのアルゴリズムを構成した．その成果はソフトウェアとして公開した．ロバスト推定の問題は基本的には非凸問題である．ロス関数も罰則項も非凸である場合の確率的最適化の収束性に関して研究をまとめた．
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
ロバスト性とスパース性を併せもつ回帰モデリングに関してはおおむね順調である．歪正規分布に関して成果を得るにはもう少し時間がかかると考えていたが思いのほか早く成果をまとめられた．
|
| Strategy for Future Research Activity |
現在投稿中の論文を雑誌にしっかりと掲載したい．潜在変数型モデルのロバスト推定に関して検討を始めたい．
|
| Causes of Carryover |
今年度は予想通りに海外出張で当初計画より多めに使用した．残額は初年度の残額がまだ残っているため．来年度はおおむね予定通りに使用する予定である．
|
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
[Book] 統計科学百科事典2018
Author(s)
Miodrag Lovric (Ed.)
Total Pages
2130
Publisher
丸善出版
ISBN
978-4-621-30310-8
