2004 Fiscal Year Annual Research Report
退化現象を利用した構造学習アルゴリズムとその応用に関する研究
| Project/Area Number |
16500083
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (C)
|
| Research Institution | Hiroshima City University |
|---|
Principal Investigator |
高濱 徹行 広島市立大学, 情報科学部, 助教授 (80197194)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
岩根 典之 広島市立大学, 情報科学部, 助教授 (60264933)
|
|---|
| Keywords | 構造学習 / 構造最適化 / 退化 / 遺伝的アルゴリズム / ニューラルネットワーク / 教師付き学習 |
|---|
| Research Abstract |
ニューラルネットワークなどのモデル記述系における学習において、退化現象を利用した構造学習アルゴリズムGA^dにより、モデルパラメータとモデル構造を同時に最適化し、汎化能力の高いモデルを得ることが本研究の目的である。本年度は、次のように、汎化能力の向上、効率化に関する研究を中心とし、応用研究のための調査も行った。(1)汎化能力の向上:汎化能力を向上させるためには、得られた構造の良さをできる限り正確に評価する必要がある。このためには、情報量基準や交差検定を用いて構造を評価する方法が考えられるが、実際に情報量基準AICを評価関数としてGA^dで構造学習を行うと、比較的初期の世代に過度に退化を起こし、モデルパラメータを削除しすぎてしまい、近似誤差の少ないモデルを得るのが困難になることがあった。この問題を解決するために、近似誤差と情報量基準とのバランスを取りながら最適化する方法として、初期段階では近似誤差を重視し、次第に情報量基準を重視するように2つの評価値の重みを調整する方法を検討し、実験を行い、過度の退化が回避できることを確認した。(2)効率化:現在交叉としては、単純な一点交叉を採用している。これに対して、実数値GAでは、算術交叉、BLX-α(Blend Crossover)やSPX(Simplex Crossover)などのより効率の良い交叉が提案されている。しかし、GA^dにおける遺伝子は、正常値と損傷度という2種類の情報がコーディングされているため、損傷度の扱いをどうするかが問題となっている。交叉にBLX-αを用い、損傷度はそのまま継承するという単純な方法により、最適化の速度が向上することを確認した。しかし、損傷度の扱いについてはさらなる検討が必要である。(3)応用研究のための調査:退化に基づく構造最適化が有効と考えられる応用研究に関する予備調査として、株価や為替変動の予測に関する調査を開始するとともに、データの収集を開始した。
|
Research Products
(6 results)
