| 研究概要 |
1. マージン最大化学習器に関する結果
与えられたサンプルに対し,l1ソフトマージンが最大となる仮説超平面を求める新しいアルゴリズムSparseLPBoostを提案した.この問題は,事例集合と特徴空間への写像の集合をそれぞれ行と列に対応させた行列によって定まる線形計画問題として定式化できるが,本手法は,この問題を小さい部分行列上の問題に帰着することによって,計算効率の飛躍的な改善を図るものである.実際,さまざまなデータに対する計算機実験によって,本手法の有効性が確かめられた.これは,疎なプロジェクションをランダム写像として用いた効率のよい非線形概念の学習方式とみなすことができる.
2. しきい値回路のエネルギー複雑度に関する結果
本研究で提案するランダム写像を用いた学習方式が扱う仮説は,3層のしきい値回路によってモデル化できる.また,『中間層に現れる特徴ベクトルのノルムが小さいほど,仮説の凡化誤差限界が小さい.ノルムは回路のエネルギー複雑度によって上から抑えられるため,エネルギー複雑度の小さいしきい値回路の計算能力を明らかにすることは極めて重要である.本研究では,パリティ関数や剰余関数などの対称な関数を計算するしきい値回路について,エネルギー複雑度とゲート数の間にトレードオフが存在することを示した.この結果は,提案学習方式の効率化の限界を示唆している.
3. 表現の複雑さに関する研究
ある広い論理関数のクラスに対し,最小のプール式表現,もしくはその表現のサイズの精密な下界を求める効率のよい手法を与えた.多項式サイズで深さ定数のしきい値回路のクラスは,多項式サイズのプール式のクラスに包含される(TC^0⊆NC^1)ため,この結果は,本学習方式の効率の精密な見積もりを与える可能性がある.
|
