2023 Fiscal Year Research-status Report
Development of Parametric Estimation Based on Variational Divergence
| Project/Area Number |
23K16849
|
|---|
| Research Institution | Toyohashi University of Technology |
|---|
Principal Investigator |
小林 真佐大 豊橋技術科学大学, 情報メディア基盤センター, 助教 (30936787)
|
|---|
| Project Period (FY) |
2023-04-01 – 2027-03-31
|
| Keywords | 変分形式ダイバージェンス / fダイバージェンス / ロバスト推定 / 推定方程式の不偏性 / f分離可能歪み尺度 / ブレグマンダイバージェンス / 板倉斎藤距離 / 逆数ダイバージェンス |
|---|
| Outline of Annual Research Achievements |
経験分布を用いたfダイバージェンスの最小化に基づくパラメトリック推定について検討した。最適化の手順は、fダイバージェンスの変分下界が上限を達成するための関数の最適化と変分下界のモデルパラメータに関する最適化の繰り返しからなる。既存研究では、関数の構成法として、1.ニューラルネットワーク、2.カーネル関数、3.仮定したパラメトリックモデルを用いる等の方法が提案されていた。これらはそれぞれ、1.計算コストが高い、2.次元の呪いの悪影響を受ける、3.外れ値に脆弱等の問題があった。本研究では、3の方法をM推定の考え方に基づいて改良を行った。すなわち、仮定したパラメトリックモデルを特別な場合として含むモデルから関数を構成した。外れ値を混入させて数値実験を行ったところ、推定量のバイアスと平均二乗誤差が既存手法3に比べて改善することが確認できた。
最小ダイバージェンス法とも深いかかわりがあるM推定の問題について推定方程式の不偏性の観点から研究を進めた。具体的には、単調増加関数fと2点のデータベクトル間のブレグマンダイバージェンスによって定義される損失関数に注目し、解析的積分が困難であるバイアス補正項を必要とせずに推定方程式が不偏となる統計モデル、ブレグマンダイバージェンス、関数fの組み合わせを調べた。バイアス補正項の必要性の有無は推定に用いるブレグマンダイバージェンスに依存し、関数fの条件は簡単な積分の有界性によって特徴づけられることが明らかになった。以前より投稿していた、マハラノビス距離と板倉斎藤距離に関する結果が情報理論の主要論文誌に採択された。また、逆数関数によって定義されるブレグマンダイバージェンスに注目して調べたところ、2種類の統計モデルに対してバイアス補正項を必要とせずに推定方程式の不偏性が成り立つことを証明できた。この結果は情報理論の主要国際会議ISITに論文が採択された。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
当初からの計画通り、経験分布を用いたfダイバージェンスの変分表現に基づくパラメトリック推定法を構築することができた。しかしながら、まだ論文にまとめることができていない。
以前から投稿していた論文が情報理論の主要論文誌であるIEEE Transactions on Information Theoryに採択された。この論文の発展として得た結果が情報理論の主要国際会議であるIEEE ISIT2024に採択された。
以上を総括して、おおむね順調に進展していると判断した。
|
| Strategy for Future Research Activity |
fダイバージェンスの変分表現に基づくパラメトリック推定に関する研究を論文にまとめる。また、ISITに採択された研究に関しては、漸近分散の導出や数値実験を行い、内容を拡張した上でフルペーパーの論文にまとめる。
|
| Causes of Carryover |
投稿していた論文のオープンアクセス費用に充てる予定であったが、別予算にて支払うことになったため残額が生じた。次年度の国際会議に論文が採択されたため、参加費及び旅費に残額を充てる。
|
