2016 Fiscal Year Research-status Report
| Project/Area Number |
15K16050
|
|---|
| Research Institution | Toyohashi University of Technology |
|---|
Principal Investigator |
渡辺 一帆 豊橋技術科学大学, 大学院工学研究科, 講師 (10506744)
|
|---|
| Project Period (FY) |
2015-04-01 – 2019-03-31
|
| Keywords | レート歪み関数 / ディリクレ過程平均法 / 一般化ガウス情報源 / 一般化事後分布 |
|---|
| Outline of Annual Research Achievements |
レート歪み関数は歪み有りデータ圧縮における歪みと圧縮率の間の最適なトレードオフ関係を示す。スパース線形回帰符号は、貪欲法によるスパース推定の考え方を用いた歪み有り圧縮法であり、二乗損失においてレート歪み関数を達成することが証明された。スパース線形回帰符号を、絶対損失の場合に拡張し、二乗損失に特化した従来法を改良した。この成果に関し、共同研究者が国内学会において発表を行った。一般化ガウス情報源に対し、べき乗で定義される損失関数についてレート歪み関数の高精度な上界を導出し、国際会議にて口頭発表を行った。また、柔軟に損失関数を設計できるカーネル関数を用いた歪み尺度に対するレート歪み関数の上下界を与えた成果を国際会議へ投稿した。
最も代表的なクラスタリング手法のK平均法の拡張であり、クラスタ数を柔軟に推定するディリクレ過程（DP）平均法の制御パラメータに関する推定クラスタ数の変化について考察した。DP平均法のクラスタ数の変化は最大歪みによるレート歪み関数と捉えられることを示し、目的関数を最大歪みや外れ値に対する頑健性を持つ歪み尺度に一般化し、従来のDP平均法と同程度の計算量で、同様の収束性を持つことを示した。この成果について、共同研究者が国内学会での発表を行った。
レート歪み理論によるベイズ推論の解釈を与えた。具体的には、学習モデルと歪み尺度の対応を与えることで、ベイズ推論において用いられる一般化事後分布が、レート歪み関数を与える最適解となることを示し、潜在変数を持つ学習モデルの性能を示す学習係数と、レート歪み関数から求められるレート歪み次元との間の関係を明らかにした。この結果について、国際ワークショップおよび国内学会での発表を行った。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
べき乗による歪み尺度や、柔軟な損失関数の設計が可能なため機械学習法において広く用いられるカーネル関数を用いた歪み尺度について、レート歪み関数の評価を与えることができた。また、スパース線形回帰符号やDP平均法等の実用的な歪み有り圧縮法、クラスタリング法を多様な歪み尺度に応用するための拡張に成功している。
|
| Strategy for Future Research Activity |
スパース線形回帰符号の枠組みを応用した、大規模データにおける特徴量の逐次的な処理方法を検討する。これまでに得られた一般化されたDP平均法について、外れ値に対する頑健性や得られる歪みの分布をデータの分布の裾の重さに着目した数値実験により調べ、その有効性を検証する。混合モデルなどの潜在変数を持つ学習モデルにおいて、ベイズ推論における学習係数とレート歪み次元の関係を数値実験により検証し、ベイズ推論の実際の応用に重要な効率的な近似推論法に関して、共同研究者との議論を行う。
|
| Causes of Carryover |
個別に参加を予定していた国際会議と国際ワークショップが、欧州にてほぼ同時期に開催されたため、これらと共同研究者との打ち合わせの旅程を一つにまとめ、未使用額が生じた。
|
| Expenditure Plan for Carryover Budget |
次年度以降に請求する研究費と合わせ、国際学会への参加回数を増やす、もしくは研究打ち合わせのための滞在期間を延ばすことにより、共同研究者との議論の場を十分に確保することを計画している。
|
