ブーリアンカーネルを用いたブール関数の帰納学習

2003 Fiscal Year Annual Research Report

• Project/Area Number: 14780315
• Research Institution: National Institute of Advanced Industrial Science and Technology
• Principal Investigator: 佐土原 健 独立行政法人産業技術総合研究所, 知能システム研究部門, 研究員 (90344168)
• Keywords: 機械学習 / 分類学習 / SVM / カーネル法 / データマイニング / 変数選択 / 特徴選択

Research Abstract

平成15年度は、ブール関数の帰納学習における学習精度の向上を目的として、ブーリアンカーネルを用いた変数選択法に関する研究を行った。ブーリアンカーネルは、論理積が張る空間の内積を、次元に依存しない計算量で計算可能な関数であり、この空間上でデータを正しく分離する超平面を、効率良く学習することを可能にする。今年度は、こうして学習された超平面fを、ブーリアンカーネルを用いて分析することで、データの分離に寄与しない変数を同定する手法に関して研究を行った。提案手法は、ある特定の変数xを含む論理積を全て除去して得られる部分空間へのfの制限f'を、ブーリアンカーネルを用いて効率よく計算する。そして、この制限f'の分離能力がfと比較して劣化していないとき、変数xを分離に寄与しない変数と判断する。このように、xを含む論理積の影響を考慮に入れて、xの分離への寄与度を評価することにより、変数間の相互作用を考慮した変数選択が可能になる。このような手法の有効性を検証するために、ランダムに生成したブール関数の学習実験を行った。この実験では、ランダムに生成したデータから、複数の変数選択手法を用いて変数の部分集合を選択する。そして、選択された変数だけを用いて、共通の学習アルゴリズムによりブール関数を学習し、その精度を比較することで、変数選択手法の性能を比較した。その結果、変数の数、ブール関数の複雑さ、データの数等のパラメータを様々に変化させた条件下で、提案手法が、既存手法よりも高い性能を有していることが確認できた。

Research Products

• [Publications] Ken SADOHARA: "Feature subset selection using restriction kernels"IEIGE Technical Report. 103・305. 19-24 (2003)
• [Publications] 佐土原 健: "ブール関数の学習におけるブーリアンカーネルを用いた特徴選択について"情報処理学会研究報告. 2004・29. 187-192 (2004)