ブースティングを用いた判別手法とその品質管理・マーケティングへの応用

2002 Fiscal Year Annual Research Report

• Project/Area Number: 13780352
• Research Institution: University of Tsukuba
• Principal Investigator: 鈴木 秀男 筑波大学, 社会工学系, 講師 (10282328)
• Keywords: AdaBoost / ブースティング(Boosting) / 判別(Classification) / Gradient Boosting / 工程管理(Process Control)

Research Abstract

本年度は,ブースティングの代表的なアルゴリズムのAdaBoostを用いた判別木による異常パターンの識別方法の提案とその有効性の検証を行った.工程パターンとして,シフト,トレンド,サイクルの異常パターンと正常パターンとした.AdaBoostを適用した結果,工程パターンの識別精度は向上し,第1種の誤り率も低く抑えることができた.しかしながら,第1種の誤り率は標準値とされる0.3%を上まわっており,工程データに対する重みや生成された判別木の重要度係数の決定方式なとについて,さらなる改善が必要である.これらの研究成果の一部は,「IFORS2002, Edinburgh, 8-12 July, 2002」にて報告された.
AdaBoostに対する学習データのノイズや外れ値への影響を少なくするための改良と汎化能力の評価を行った.具体的には,逐次追加する判別器(classifier)を決定する際の損失関数としてシグモイド関数を導入し,判別がうまくできないデータに関する改善率を緩やかにし,ノイズや外れ値に対する過学習を抑えるようにした.追加する学習器として,損失関数のgradientをニューラルネットにより補間したものとした.シミュレーション実験の結果,提案方法は従来のAdaBoostによりおおむね安定した識別結果を示している.特に,ミスラベル(外れ値)が存在する場合,提案方法が有効であると言える.これらの研究成果の一部は,「日本オペレーションズ・リサーチ学会,2003年春季発表会,3月18日」にて報告予定である.