2020 Fiscal Year Annual Research Report
ディープニューロ進化の機能創発のためのモチーフ構造に関する研究
| Project/Area Number |
20H04253
|
|---|
| Research Institution | The University of Tokyo |
|---|
Principal Investigator |
伊庭 斉志 東京大学, 大学院情報理工学系研究科, 教授 (40302773)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
長谷川 禎彦 東京大学, 大学院情報理工学系研究科, 准教授 (20512354)
|
|---|
| Project Period (FY) |
2020-04-01 – 2023-03-31
|
| Keywords | 進化計算 / 遺伝的アルゴリズム / ニューロ進化 / 動力学系解析 / 深層学習 / ディープラーニング |
|---|
| Outline of Annual Research Achievements |
本年度の研究では，スケーラビリティを考慮しながら，ディープニューロ進化におけるモチーフ構造（遺伝子型）と機能（表現型）の因果関係を導出する手法の実現を試みた．
このメカニズムの解明は，モチーフ性を制御して機能創発を的確に導くための理論的基盤となる．具体的には，ディープニューロ進化の基本的なデータ構造であるグラフや木構造のような離散構造に対して，統計的学習・非線形力学系解析や代数的学習手法を利用して効果的に構造を生成するアルゴリズムを構築しその有効性を実験的に検証した．
たとえば，蟻コロニー最適化（ACO）を用いることで時系列予測をするLSTMの過学習を抑制する枠組を提案した．ドロップアウトなどの過学習を防ぐ手法と組み合わせることで，合理的な計算時間でLSTMの内部構造を最適化することに成功した．石炭火力発電所，気象，経済の3つの異なる実世界データの時系列予測に対して本手法を適用し，ドロップアウト・ドロップコネクトなどの他手法と比較してその効果を検証した．
また，GAN(Generative Adversarial Network)を用いたvoxel表現された3Dモデルの生成に対して，本手法を対話型進化計算に応用するアプローチを提案した．従来の手法は，ランダム性が高すぎるため好みの構造物が生成されなかったり，一度好みのものが生成されても次の選択肢から消えてしまうという弊害が頻繁に起こっていた．この原因としては，既存のシステムが機械側で好ましいと思われる構造物の選別をせず，生成された構造物をそのままユーザーに提示していることが挙げられる．これに対して，本研究ではグラフカーネルを用いた構造物生成手法を提案した．ランダムに生成する構造物の類似性比較や被験者によるアンケート実験を通して，その有用性を統計的に検証した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
今年度は、ニューロ進化におけるハイパーパラメータと部分構造に関する因果関係の推定のために，混合分布に基づくモチーフ性の同定を試みた．また，研究分担者は代数学的な機械学習を拡張して，実問題領域で頑強性のある近似手法をイデアル理論に基づいて構築した．この手法は，代数学（離散領域）と実世界（実数的連続表現）の橋渡しをして，デジタル的な遺伝子型（構造）とアナログ的な表現型（ネットワークが発現する機能）の因果関係の推論法としても利用可能である．これらの成果をもとにして，今年度はディープニューロ進化におけるモチーフ構造の推定と制御の枠組をより効果的に構築できると期待される．
|
| Strategy for Future Research Activity |
令和３年度の研究では，前年度に構築したディープニューロ進化の枠組をより実際的な問題領域であるロボティクスに応用し，モチーフ構造が効果的に構成にされているかを検証する．また、新たな応用として，工学的最適化問題や創発デザイン（X線データによる危険物検出 や楽曲の生成）を扱う．例えば，危険物検出はセキュリティ上の理由や検出機器の違いに起因して学習データが大量には入手できず，従来の画像処理技術を超えたチャレンジングな工学的最適化問題である．これらの実タスクの遂行には複雑な動力学的数値計算に加えて非連続的な条件分岐が必要であり，汎用的な解法の構築は難しい．これに対して研究分担者の専門領域である動的力学系解析の手法を応用し，より効果的なニューロ進化の実現を試みる．
|
-
-
-
-
-
-
[Presentation] Parametric Genetic Programming2020
Author(s)
Adam Kotaro Pindur, Takahiro Horiba, Hitoshi Iba
Organizer
Joint 11th International Conference on Soft Computing and Intelligent Systems and 21st International Symposium on Advanced Intelligent Systems, SCIS/ISIS 2020
Int'l Joint Research
-
-
