2008 Fiscal Year Annual Research Report
| Project/Area Number |
19300051
|
|---|
| Research Institution | Kyushu University |
|---|
Principal Investigator |
竹内 純一 Kyushu University, 大学院・システム情報科学研究院, 教授 (80432871)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
香田 徹 九州大学, 大学院・システム情報科学研究院, 教授 (20038102)
高橋 規一 九州大学, 大学院・システム情報科学研究院, 准教授 (60284551)
實松 豊 九州大学, 大学院・システム情報科学研究院, 准教授 (60336063)
川端 勉 電気通信大学, 電気通信学部, 教授 (50152997)
川喜田 雅則 九州大学, 大学院・システム情報科学研究院, 助教 (90435496)
|
|---|
| Keywords | 学習理論 / 機械学習 / 情報量 / 情報幾何 / 確率的コンプレキシティ / ユニバーサル符号 / 凸2次計画法 / Boosting |
|---|
| Research Abstract |
多量のデータから知識を抽出するための学習技術の研究に対し,情報理論における情報量の観点から,理論と実践の両面について取り組んでいる.下記に今年度の主な成果を述べる.
1.定常Markovモデルの情報幾何学
通常,確率的コンプレキシティ(SC)の定数項はFisher計量から誘導される体積の対数で与えられる.体積はFisher情報行列の行列式に基づき計算されるが, MarkovモデルについてはMarkovカーネルパラメータに関する行列式しか知られていなかった.今年度,より重要な期待値パラメータについて同行列式の値を初めて求めることに成功した.この結果により,組み合わせ論的手法によるSCの評価と,統計的手法による評価が同等であることが確認された.
2. Support Vector Machine(SVM)の効率的学習アルゴリズム
SVMの効率的アルゴリズムとして知られる分割法知られる分割法の解析を行っている.今年度,分割法を基に凸2次計画問題の新たな解法アルゴリズムを提案し,数値実験によってその有効性を確認した.この結果は, SVMアルゴリズムの改善のみならず,一般の最適化手法への貢献として重要である.
3. Boostingの性能に関する漸近的評価
Boostingは弱学習機をモデルの外にシフトして改良するアルゴリズムとみなせることに着目し,漸近的な評価を行っている.今年度は,モデルが真の分布含むケースに,実際のシフトが理想的なシフトと正反対になることを示した.
4.ユニバーサル符号の解析
SCの基本となるユニバーサル符号のうち, Context Tree Weighting(CTW)法およびLemple-Ziv(LZ)アルゴリズムについて解析した.特に後者について, Markov情報源向けに修正されたLZ78アルゴリズムの冗長度を求めた.本結果はLZアルゴリズムをSCの推定法として用いる場合の性能保証を与えるものであり,実用上重要である.
|
