研究課題
本研究は、教師付き学習において、退化現象を利用した構造学習アルゴリズムにより、モデルパラメータとモデル構造を同時に最適化し、汎化能力の高いモデルを得ることを目的としている。これまで構造学習アルゴリズムのベースとなる最適化アルゴリズムとして遺伝的アルゴリズム(GA)を用いてきたが、本年度は、性能向上のため新しいアルゴリズムへの退化現象の導入を中心に検討した。昨年度から継続しているDifferential Evolution(DE)による制約付き最適化に関する研究から、DEがGAよりも高速でかつ多峰性の問題にも強いアルゴリズムであることが判明した。なお、この研究により2006 IEEE Congress on Evolutionary Computation Competition ProgramにおけるNonlinear Programming部門のAwardを獲得した。このため、DEに退化現象を導入する方法について検討した。GAをベースとする遺伝的退化アルゴリズム(GAd)では、遺伝子を正常値と損傷度の対により表現し、対を保存した1点交叉、正常値に対する突然変異、損傷度に対する退化のための突然変異により構造最適化を実現している。これに対して、DEをベースとして退化を実現するために、正常値にDEの遺伝的操作を適用し、損傷度に退化のための突然変異を適用する方法を調査したが、正常値と損傷度が分離して最適化されるため高い性能が得られない、損傷度の間の交叉が実現しにくいなどの問題が明らかになった。このため、(1)正常値と損傷度の対を一旦表現型の実数値に写像し、(2)その表現型の値を使用してDEの遺伝的操作を行うとともに損傷度間の交叉を行い、(3)得られた表現型の値と損傷度から逆写像により正常値を求めるという、写像および逆写像を導入したアルゴリズムであるDEdを考案した。DEdは幾つかのテスト問題において、GAdよりも高速で精密な最適化が可能という結果を得ることができた。なお、写像を利用する方法は、DEだけではなく、実数値GAにおける交叉にも適用できる汎用性の高い方法である。次年度はDEdをより詳細に調査するとともに、DEdにおいて退化圧力を自動調整する方法の検討および構造学習アルゴリズムの応用実験を行う予定である。
すべて 2006
すべて 雑誌論文 (6件)
情報処理学会論文誌 47・6
ページ: 1861-1871
Proc. of the 2nd IEEE International Conference on Cyber netics ＆ Intelligent Systems
ページ: 683-689
Proc. of 2006 IEEE Congress on Evolutionary Computation
ページ: 308-315
Proc. of 2006 IEEE Conference on Systems, Man, and Cybernetics
ページ: 2322-2327
数理解析研究所講究録 1477
ページ: 1-10
電子情報通信学会論文誌 J89-D・12
ページ: 2661-2670
