2017 Fiscal Year Research-status Report
機械学習を導入した適応度景観推定型進化型計算フレームワークの提案
| Project/Area Number |
26330282
|
|---|
| Research Institution | Osaka Prefecture University |
|---|
Principal Investigator |
森 直樹 大阪府立大学, 工学(系)研究科(研究院), 准教授 (90295717)
|
|---|
| Project Period (FY) |
2014-04-01 – 2019-03-31
|
| Keywords | 進化型計算 / 適応度景観 / 機械学習 / 深層学習 / 遺伝的アルゴリズム / 遺伝的プログラミング / 進化型深層学習 |
|---|
| Outline of Annual Research Achievements |
昨年度は，提案中の適応度景観推定手法に機械学習を導入した適応度景観推定型進化型計算(Fitness Landscape Learning Evolutionary Computation: FLLEC)と深層学習の融合を中心に研究を進めた．
まず，適応度景観に関する新しい概念として，劣個体分布と DII analysis を提案し，その有効性を示した．
提案中である深層学習と進化型計算を融合した進化型深層学習(Evolutionary Deep Learning: evoDL)について，人間の感性に基づくイラスト識別に続いて，アニメの実絵コンテデータの識別問題や世界初の試みである４コマ漫画のストーリー理解への応用など人の認知に関わる問題への提案手法の適用を試みた．その結果 evoDL による優れた深層畳み込みニューラルネットワークの構造獲得に成功し，人の感性に近い人工知能の進化的獲得の可能性を示した．
また，深層学習とは別の機械学習手法として提案した，遺伝的プログラミングを応用するために多層個体群を有する遺伝的プログラミング(Genetic Programming with Multi-Layered Population Structure: MLPS-GP)についてブール代数に関するベンチマーク問題で世界的に見てもトップレベルの性能を示すことに成功し，論文として発表した．具体的な実環境への応用例として引き続き，株式取引の戦略獲得に関して有効であることを示した．また Interactive EC (IEC) におけるユーザモデルの推定にも適応度景観推定手法を応用し，音楽の進化的獲得手法を提案した．上記内容については，機械学習として深層強化学習と Variational Autoencoder に基づく拡張を検討しており，本年度も引き続き大きな成果が期待できる．
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
昨年度は進化型深層学習による感性識別，多層個体群を有する遺伝的プログラミングの拡張，適応度景観推定型進化型計算フレームワークのブール代数問題への適用と十分な研究成果が得られた．特に，適応度景観推定型進化型計算に関しては，進化計算学会に投稿した論文「劣個体分布に基づく DII analysis の提案と応用」が論文賞を受賞し，研究成果が高く評価された．これは，適応度景観の理論的解析手法と実探索の効率化への応用に関する内容であり，それが進化型計算の国内最高峰の学会で最高の評価を得たことは，本研究課題が十分な成果を上げていることを示していると考える．
次に，進化型深層学習は今後の人工知能研究についてブレイクスルーとなる可能性を秘めた非常にポテンシャルが高い手法であり，今後の発展が期待できる成果を得た．DCAI, GECCO, ACIS 等の国際学会での発表を通し，学会で発表賞を受賞するなど国際的な活動も十分にできた．これらの成果の中で，本テーマを設定したときには予想できなかった驚異的な速度による深層学習の発展を受けて，進化型深層学習という本テーマを包括しながらより重要な課題について研究成果を引き続き発展させることができた．
また，実応用を踏まえた研究として，音楽や絵本，４コマ漫画など人の創作物の認知に関する研究を新たに推進することができた．特に単なる画像認識ではなく，ストーリーを理解する深層学習システムを進化的に獲得することができたことは当初では予測していなかった大きな成果であった．
当初の計画では想定なかった，深層学習と進化型計算の融合という観点と，適応度景観について人の創作物に関わる問題を設定した点において，本研究課題は当初の計画以上に研究が進展していると考える．
|
| Strategy for Future Research Activity |
今後の研究は，進化型計算と機械学習，特に深層学習の融合について着眼して推進していく．まずは，従来研究の方針を踏襲する形で，適応度景観推定への深層学習の導入や，MLPS-GP と深層学習の融合について発展的な研究をする．次に，現在提案中の進化型深層学習をより発展させた進化型機械学習の提案をする．
現在，深層学習は工学において特に重要な要素技術であり，この分野において国際的競争力をつけることは本課題達成のために必須である．そこで，進化型計算を用いて深層学習のネットワークを進化的に獲得可能な進化型深層学習(evolutionary Deep Learning: evoDL) を用いて重要な深層学習技術である深層畳み込みニューラルネットワーク(Deep Convolutional Neural Network: DCNN)と Long short-term memory (LSTM) のネットワークを進化的に獲得し，既存のベンチマーク評価において従来ネットワークを超す性能を示す．
evoDL による CNN, LSTM 等の既存の深層学習ネットワークの柔軟な構築を実現後，この成果を進化型機械学習(evolutionary Machine Learning: evoML)開発の基盤とする．
evoML では SVM, ランダムフォレスト等の従来の機械学習を包括した形で問題を適応的に解くことが可能なフレームワークを目指す．
最終的には適応度景観推定が困難とされる人の感性に基づく実問題に提案手法を適用し，高次レベルの人工知能の進化的実現を達成する．
|
