2015 Fiscal Year Research-status Report
構造情報を利用したアンサンブル学習法とその大規模問題への応用
| Project/Area Number |
25730018
|
|---|
| Research Institution | Future University-Hakodate |
|---|
Principal Investigator |
竹之内 高志 公立はこだて未来大学, システム情報科学部, 准教授 (50403340)
|
|---|
| Project Period (FY) |
2013-04-01 – 2017-03-31
|
| Keywords | 板倉斎藤ダイバージェンス / 拡張擬似モデル |
|---|
| Outline of Annual Research Achievements |
前年度までに提案したマルチタスク手法は, 計算量を少なく抑えつつ複数のタスクの情報共有を行うことが可能なアンサンブル学習手法である. 提案手法は通常用いられる, カルバックライブラーダイバージェンスと確率モデルの組み合わせによる推定ではなく, 板倉斎藤ダイバージェンスと拡張擬似モデルを用いた推定に基づいている. そこで, 板倉斎藤ダイバージェンスと拡張擬似モデルを用いた統計的推定問題の数理的バックグラウンドについて考察を行い結果を得た.
具体的には, 指数型の拡張擬似モデルと板倉斎藤ダイバージェンスを用いた推定がアダブーストと等価であることを示すとともに, 一般化ダイバージェンスの一種であるブレグマンダイバージェンスの中で, 指数型拡張擬似モデルを用いた推定がフィッシャー一致性を持つダイバージェンスのクラスを明らかにした. ダイバージェンスは一般に対称性を持たないため, フィッシャー一致性を持つという条件から導かれるダイバージェンスのクラスは2種類存在する. 板倉斎藤ダイバージェンスは, そのどちらのクラスにも含まれ, 加えて2種類のクラスに同時に含まれるダイバージェンスは板倉斎藤ダイバージェンスのみであることを理論的に示した. また, 統計的推定問題に従来用いられるカルバックライブラーダイバージェンスは, 指数型拡張擬似モデルに対しては一般にフィッシャー一致性を持たないことも示した.
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
前年度までに提案した手法の数理的バックグラウンドを明らかにし, 一般的な性質(拡張モデルを用いた推定における 板倉斎藤ダイバージェンスの一意性, ある種の離散確率モデルに対する板倉斎藤ダイバージェンスの計算量的な有効性等)を示すことができた. 結果は以下に採録されている.
Takashi Takenouchi, Osamu Komori and Shinto Eguchi.
Binary Classification with a Pseudo Exponential Model and Its Application for Multi-Task Learning.
Entropy, 17, pp. 5673-5694, 2015.
|
| Strategy for Future Research Activity |
27年度までに提案しているアンサンブル学習の枠組みに基づく多値判別手法に関して, 理論解析結果を洗練し数値解析によって検証・確認すると共に, その結果を用いて2値判別器の統合の際のコード表のデザイン指針について検討する.
|
| Causes of Carryover |
成果をまとめた論文の査読に想定外に時間がかかったため, 論文の追加校正費, 投稿掲載料が必要となったため.
|
| Expenditure Plan for Carryover Budget |
成果をまとめた論文の校正費, 投稿掲載料として用いる.
|
