2006 Fiscal Year Annual Research Report
退化現象を利用した構造学習アルゴリズムとその応用に関する研究
| Project/Area Number |
16500083
|
|---|
| Research Institution | Hiroshima City University |
|---|
Principal Investigator |
高濱 徹行 広島市立大学, 情報科学部, 教授 (80197194)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
岩根 典之 広島市立大学, 情報科学部, 助教授 (60264933)
|
|---|
| Keywords | 構造学習 / 構造最適化 / 退化 / 遺伝的アルゴリズム / ニューラルネットワーク / 教師付き学習 / Particle Swarm Optimization / Differential Evolution |
|---|
| Research Abstract |
本研究は、教師付き学習において、退化現象を利用した構造学習アルゴリズムにより、モデルパラメータとモデル構造を同時に最適化し、汎化能力の高いモデルを得ることを目的としている。これまで構造学習アルゴリズムのベースとなる最適化アルゴリズムとして遺伝的アルゴリズム(GA)を用いてきたが、本年度は、性能向上のため新しいアルゴリズムへの退化現象の導入を中心に検討した。昨年度から継続しているDifferential Evolution(DE)による制約付き最適化に関する研究から、DEがGAよりも高速でかつ多峰性の問題にも強いアルゴリズムであることが判明した。なお、この研究により2006 IEEE Congress on Evolutionary Computation Competition ProgramにおけるNonlinear Programming部門のAwardを獲得した。このため、DEに退化現象を導入する方法について検討した。GAをベースとする遺伝的退化アルゴリズム(GAd)では、遺伝子を正常値と損傷度の対により表現し、対を保存した1点交叉、正常値に対する突然変異、損傷度に対する退化のための突然変異により構造最適化を実現している。これに対して、DEをベースとして退化を実現するために、正常値にDEの遺伝的操作を適用し、損傷度に退化のための突然変異を適用する方法を調査したが、正常値と損傷度が分離して最適化されるため高い性能が得られない、損傷度の間の交叉が実現しにくいなどの問題が明らかになった。このため、(1)正常値と損傷度の対を一旦表現型の実数値に写像し、(2)その表現型の値を使用してDEの遺伝的操作を行うとともに損傷度間の交叉を行い、(3)得られた表現型の値と損傷度から逆写像により正常値を求めるという、写像および逆写像を導入したアルゴリズムであるDEdを考案した。DEdは幾つかのテスト問題において、GAdよりも高速で精密な最適化が可能という結果を得ることができた。なお、写像を利用する方法は、DEだけではなく、実数値GAにおける交叉にも適用できる汎用性の高い方法である。次年度はDEdをより詳細に調査するとともに、DEdにおいて退化圧力を自動調整する方法の検討および構造学習アルゴリズムの応用実験を行う予定である。
|
