| 研究実績の概要 |
本年は主にアンサンブル学習の枠組みに基づくマルチタスク学習に取り組んだ. マルチタスク学習は, 複数の情報を共有するタスク(判別問題)に対して,タスク間で共有されている情報を利用することで性能の向上を測る技術である.多くのアルゴリズムが確率モデルにもとづいて導出されている一方で, 本研究では確率モデルを含む拡張擬似モデルを用いて効率的に推定を行うためのアルゴリズムを考案した.
通常の確率モデルを用いた推定では. アルゴリズムが経験分布と確率モデル間のカルバックライブラーダイバージェンスの最小化問題として定式化されることが多いが, 拡張擬似モデルを用いた推定にカルバックライブラーダイバージェンスを適用すると一致性などの好ましい性質が失われることが明らかになったため, 一般化ダイバージェンスの一つである板倉斉藤ダイバージェンスに着目した. その結果, 拡張擬似モデルを用いた推定に板倉斉藤ダイバージェンスを適用することで, 判別問題における著名なアルゴリズム・アダブーストと等価なアルゴリズムが導出できることが明らかとなった. アダブーストは一致性を持ち, さらに計算効率のよいアルゴリズムであり, 様々な実問題に応用されている. この結果をマルチタスク学習問題に援用することで, タスク間の共有情報を利用して性能を向上させることが可能な, 高速かつ簡易なアルゴリズムを開発した. 擬似モデルを用いた推定や提案法に関して理論的な考察を行いその性質を明らかにし, 数値実験によってその有用性を確認した.
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
今年度提案した手法は, 拡張擬似モデルと板倉斉藤ダイバージェンスを用いて, アンサンブル学習の枠組みでマルチタスク学習を効率的に行うことを可能としている. 手法の構築, 実装は終了しており, 簡単な実験により従来法との比較を行いつつ性能の検証も行った. また, 提案手法の理論的性能についての解析も行い, 結果をまとめて国際会議に投稿し採録されている.
Takashi Takenouchi, Osamu Komori, and Shinto Eguchi.
A novel boosting algorithm for multi-task learning based on the Itakura-saito divergence.
BAYESIAN INFERENCE AND MAXIMUM ENTROPY METHODS IN SCIENCE AND ENGINEERING (MAXENT 2014), volume 1641, pages 230--237. AIP Publishing, 2015.
|
