研究課題/領域番号 |
23700175
|
研究機関 | 奈良先端科学技術大学院大学 |
研究代表者 |
渡辺 一帆 奈良先端科学技術大学院大学, 情報科学研究科, 助教 (10506744)
|
キーワード | 混合モデル / レート歪み関数 / 再構成分布 / ガンマ分布 / 漸近的ミニマックス性 / 国際情報交換 / フィンランド |
研究概要 |
混合モデルはクラスタリングや確率密度推定に用いられる学習モデルである。前年度に提案された凸クラスタリング法やカーネルベクトル量子化を含む統一的な学習法について、引き続きその有効性の数値実験による検証を行った。前年度において、この学習法はレート歪み関数を求める最適化問題と捉えられることが示された。この解釈に基づき混合正規分布を情報源としたときのレート歪み関数を求め、情報源から生成されたデータを用いて求めたレート歪み関数との比較を行った。前年度に得られたガンマ情報源と対数絶対損失による歪み尺度に対するレート歪み関数の評価を、広い情報源のクラスに一般化した。ガンマ分布やワイブル分布は神経科学におけるスパイク間隔や音声信号処理におけるパワースペクトルなどの分布として広く用いられている。ガンマ情報源に対するレート歪み関数の導出を一般化することにより、多くの情報源について、対数絶対損失による歪み有りデータ圧縮では、最適な再構成分布が離散成分と連続成分からなることが示された。さらに、絶対損失の一般化であるイプシロン不感応損失についてレート歪み関数の下界および上界評価を与え、近似計算法を導出した。 また、ユニバーサル符号化において符号長の損失分の最悪値を最小化する正規化最尤符号に関して、それを近似する漸近的ミニマックス性の達成条件を考察した。前年度に引き続き、ヘルシンキ大学計算機科学部の研究グループと情報交換を行い、強い意味での漸近的ミニマックス性を達成するためには、データ数の知識が必要であることを示し、数値実験による検証を行った。
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
1: 当初の計画以上に進展している
理由
混合モデルのノンパラメトリック学習法に対するレート歪み理論による解釈の検証を進め、さらにレート歪み関数の厳密評価の一般化を与えた。また、絶対損失に関するレート歪み関数の評価をイプシロン不感応損失に一般化し、シャノンの下界の達成条件を示すことができた。漸近的ミニマックス性は正規化最尤符号を簡単な計算法で近似するための基礎となる。その達成条件の精緻化に部分的に成功している。
|
今後の研究の推進方策 |
今後はより多様な歪み尺度のなかで、特にイプシロン不感応損失に関連する歪み尺度についてレート歪み関数の評価を検討し、数値的な計算法の構成を図る。正規化最尤法の近似概念としての漸近的ミニマックス性の達成条件の精緻化を考察し計算機実験による検証を行う。特に正規化最尤法による学習アルゴリズムやモデル選択法について情報集収するため、引き続き国際ワークショップへの参加を行う。
|
次年度の研究費の使用計画 |
情報収集のために参加を予定していた国際ワークショップが国内で開催されたため当初予定よりも少ない研究費で遂行でき、未使用額が生じた。 次年度に請求する研究費と合わせ、今後も継続的に国際ワークショップへの参加を行うことを計画している。
|