2011 Fiscal Year Research-status Report
アクティブ人工神経回路に基づく最適化システムプラットホーム開発
| Project/Area Number |
23500291
|
|---|
| Research Institution | Sendai National College of Technology |
|---|
Principal Investigator |
早川 吉弘 仙台高等専門学校, 情報システム工学科, 准教授 (20250847)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
中島 康治 東北大学, 電気通信研究所, 教授 (60125622)
|
|---|
| Project Period (FY) |
2011-04-28 – 2014-03-31
|
| Keywords | 高次結合ニューラルネットワーク / IDモデル / 負性抵抗 / MPIプログラミング / GPGPU |
|---|
| Research Abstract |
実用的な最適化問題として取り扱える問題種類の拡張を目指し、２次形式の問題評価関数では限界があることから、高次関数への拡張を考慮した高次結合IDモデルの検討・開発をした。その中で特に、今年度は離散動作モデルを検討することで、計算速度を上げることに成功した。また、本システムの中心的なニューロンモデルであるIDニューロンモデルは、連立常微分方程式の形で表現されるため、現在は計算機上でのシミュレーションによりその動作を実現している。従って、原理的には超並列計算が可能な神経モデルであっても、現状では計算時間の問題を避けられない状況である。そこで、次の2方面で打開策を検討した。１．並列計算アルゴリズムの一手法であるMPIプログラミング技術を使い、システムの高速化の検討を行った。ここでの問題点はMPIを用いることで、複数のコンピュータに計算を分配・並列化を目指すのだが、システムダイナミクスの性質上計算ステップ毎にコンピュータ間通信が発生し、パフォーマンスの低下を招くことである。この問題を解決するためにモジュラー型ニューラルネットワークを提案し、これを本システムへ適用することで、従来方式の最大で16倍の速度向上を達成する成果を得た。また、この時予想以上のパフォーマンスを発揮するパラメータ領域の存在が発見された。２．さらなる数値計算上の並列化を進めるためにGPGPU技術の利用の検討を行った。その結果は１．のMPIプログラミングよりさらに大規模な神経回路網システムにおいても十数倍程度の計算速度の向上を達成できた。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
当初計画における初年度の計画は、１．高次関数への拡張を含む、次世代IDモデルの検討・開発、２．離散システム化による計算時間の高速化、３．MPIプログラミングやGPGPU技術利用の検討であり、１．と２．については融合した形で検討を行い結果を得ることができた。３．につても検討、実装を行い計算速度について結果を得ることができた。以上の理由によりおおむね順調に進展していると判断する。
|
| Strategy for Future Research Activity |
次世代高次IDモデルの検討・開発について、研究期間中に一定の結論を目指す。また、従来型のIDモデルで発見されたリミットサイクル状態から情報を読み出す手法により、所望のシステムの実現に繋がる可能性もあるので、数値計算を中心にこの動的な解表現の可能性も探る予定である。 また、スケールフリーでの性能保証に関する検討も引き続き進める。 更に本ターゲットシステムでは、対象とされる問題に応じてヒューリスティックに必要な制約条件を見つけそれを適用する必要があり、なかなか困難なものである。従って、実用的なシステムとするには、利用者のこのヒューリスティックな処理の負担を軽減させるインターフェースが必要であり、この開発も進めたい。
|
| Expenditure Plans for the Next FY Research Funding |
次世代高次IDモデルの検討・開発については前年度の知見を基に引き続き研究を進める予定である。また、従来型のIDモデルで発見されたリミットサイクル状態の情報処理への利用を検討する予定である。この成果が新しい情報処理システムの実現に繋がる可能性もあるので、数値計算を中心に進める予定である。 また、スケールフリーでの性能保証に関する検討は、平成23年度の結果を踏まえて数値実験を中心に進めていく予定である。具体的にはMPIプログラミングで用いてきたモジュラー型ニューラルネットワークをGPGPUへの適用を試みる。 更に本ターゲットシステムでは、対象とされる問題に応じてヒューリスティックに必要な制約条件を見つけそれを適用する必要があり、この処理の負担を軽減させるインターフェースが必要であるのでこの開発も行う。
|
