相関ノイズを用いた最適化問題の解法

• Project/Area Number: 16700210
• Research Category: Grant-in-Aid for Young Scientists (B)
• Allocation Type: Single-year Grants
• Research Field: Sensitivity informatics/Soft computing
• Research Institution: Yamaguchi University
• Principal Investigator: 川村 正樹 山口大学, 大学院・理工学研究科, 講師 (60314796)
• Project Period (FY): 2004 – 2006
• Project Status: Completed (Fiscal Year 2006)
• Budget Amount: ¥3,300,000 (Direct Cost: ¥3,300,000); Fiscal Year 2006: ¥800,000 (Direct Cost: ¥800,000); Fiscal Year 2005: ¥1,300,000 (Direct Cost: ¥1,300,000); Fiscal Year 2004: ¥1,200,000 (Direct Cost: ¥1,200,000)
• Keywords: 相関ノイズ / 最適化問題 / 連想記憶モデル / アトラクタ間の遷移 / サンプル依存性 / CDMA / アトラクタの遷移 / 速想記憶モデル / 状熊遷移 / ニューラルネットワーク

Research Abstract

最適化問題では、ローカルミニマムに捕らわれて最適解が得られない場合が多い。この主の問題はNP困難であり、最適解を求める一般的な解法はない。そこで、準最適な解を効率よく求めることが必要である。本研究の目的は、ニューラルネットワークで導入された相関ノイズを最適化問題へ適用し、より良い解が得られるかどうかを評価することである。最適解や準最適解は系のアトラクタとして存在するので、相関ノイズによりアトラクタ間の遷移が効率的に起れば、より良い解に到達する可能性がある。今年度は、主に次のテーマについて検討した。
昨年度に引き続き、最適化問題の一例である巡回セールスマン問題に、相関ノイズを導入し、最適解の出現頻度を求めた。最大30都市の場合まで評価を行ったが、従来手法であるシミュレーテッドアニーリングと同様に、規模が大きくなるにしたがって、最適解を得ることが難しくなった。そこで、最適解に近い準最適解の出現頻度を評価した。その結果、同じ計算時間内では、本手法の方がより良い解の出現頻度が高くなる傾向が見られた。すなわち、相関ノイズの方が独立ノイズ等に比べ、効率的に良い解を求めることができることがわかった。
次に、相関ノイズの数理的なメカニズムを探るために、連想記憶モデルを用い、アトラクタ間の遷移について調べた。我々の相関ノイズの研究により、相関ノイズは熱ゆらぎ(独立ノイズ)と異り、アトラクタ間の遷移を起こすことが可能であることがわかった。また、どのような条件の場合に、状態遷移が起こり得るかが明らかになりつつある。メカニズムを明らかにできれば、最適化問題においても、さらに良い解を見つけることが可能になると考えられる。
以上のように、相関ノイズによる状態遷移のメカニズムに一定の成果が得られ、また、最適化問題においても良い結果が得られた。

Research Products

• [Journal Article] 共通入力による連想記憶モデルの分岐を含む系列の想起 (2007)
  • Author(s): 片平健太郎
  • Journal Title: 電子情報通信学会信学技報(NC研究会) 106, 501 Pages: 11-16
• [Journal Article] Retrieval process along branching sequences in a recurrent neural network model with common external input (2007)
  • Author(s): Kentaro Katahira
  • Journal Title: Computational and Systems Neuroscience (COSYNE) Pages: 214-214
• [Journal Article] 相関ノイズによるアトラクタ間の遷移における非単調素子の効果 (2007)
  • Author(s): 川村正樹
  • Journal Title: 日本物理学会2007年春季大会 62 Pages: 298-298
• [Journal Article] 相関ノイズによる連想記憶モデルの分岐を含む系列の想起 (2007)
  • Author(s): 片平健太郎
  • Journal Title: 日本物理学会2007年春季大会 62 Pages: 319-319
• [Journal Article] 非単調アナ□グ値連想記憶モデルにおける分岐とアトラクタ共存 (2006)
  • Author(s): 橋□健一
  • Journal Title: 電子情報通信学会論文誌 J89-D, 9 Pages: 2123-2133
• [Journal Article] 非単調連想記憶モデルにおける計算機シミュレーションからの分岐図構成 (2006)
  • Author(s): 石川成子
  • Journal Title: 電子情報通信学会論文誌 J89-A, 10 Pages: 765-773
• [Journal Article] Stochastic transitions of attractors in associative memory models with correlated noise (2006)
  • Author(s): Masaki Kawamura
  • Journal Title: Journal of the Physical Society of Japan 75, 12 Pages: 124603-124603
  • NAID: 110003232637
• [Journal Article] 振動子ネットワークにおける共通入力によるアトラクタ間の遷移 (2006)
  • Author(s): 松尾大道
  • Journal Title: 日本神経回路学会第16回全国大会 Pages: 206-207
• [Journal Article] 非単調系列想起モデルの確率密度表現とクロストークノイズの正規性 (2006)
  • Author(s): 荒木 聡
  • Journal Title: 電子情報通信学会 技術報告(ニューロコンピューティング研究会) 105・659 Pages: 131-136
• [Journal Article] CDMAの復調ダイナミクスとビット誤り率の関係 (2006)
  • Author(s): 武富 弘哲
  • Journal Title: 電子情報通信学会 技術報告(ニューロコンピューティング研究会) 105・659 Pages: 73-78
• [Journal Article] 非単調CDMAのSCSNAによる解析 (2006)
  • Author(s): 川村 正樹
  • Journal Title: 日本物理学会 第61回年次大会 講演予稿集 61・1 Pages: 335-335
• [Journal Article] Theory of Recurrent Neural Network with Common Synaptic Inputs (2005)
  • Author(s): Masaki Kawamura
  • Journal Title: Journal of the Physical Society of Japan 74・11 Pages: 2961-2965
  • NAID: 110002325531
• [Journal Article] 自己想起型連想記憶モデルにおける分岐図の構成 (2005)
  • Author(s): 石川 成子
  • Journal Title: 第18回 回路とシステム軽井沢ワークショップ Pages: 355-360
• [Journal Article] 連想記憶モデルにおける計算機シミュレーションからの分岐図構成 (2005)
  • Author(s): 石川 成子
  • Journal Title: 日本神経回路学会 第15回全国大会 講演論文集 Pages: 172-173
• [Journal Article] 系列想起型連想記憶モデルにおける内部状態の確率密度関数 (2005)
  • Author(s): 荒木 聡
  • Journal Title: 日本神経回路学会 第15回全国大会 講演論文集 Pages: 174-175
• [Journal Article] 相関ノイズを持つ連想記憶モデルにおけるアトラクタの確率遷移 (2004)
  • Author(s): 川村正樹
  • Journal Title: 電子情報通信学会 技術研究報告(ニューロコンピューティング研究会) 104,140 Pages: 35-40
  • NAID: 110003232637
• [Journal Article] 階層パターンを記憶した連想記憶モデルの相関ノイズによる状態遷移 (2004)
  • Author(s): 川村正樹
  • Journal Title: 日本物理学会 2004年秋季大会 59,2 Pages: 210-210
• [Journal Article] ニューラルネットワークにおける相関ノイズによる状態遷移 (2004)
  • Author(s): 川村正樹
  • Journal Title: 日本神経回路学会 第14回全国大会 講演論文集 Pages: 106-107
• [Journal Article] 非単調アナログ系列想起型連想記憶モデルのアトラクタ共存 (2004)
  • Author(s): 橋口健一
  • Journal Title: 日本神経回路学会 第14回全国大会 講演論文集 Pages: 120-121
• [Journal Article] 連想記憶モデルにおける分岐図構成法の検討 (2004)
  • Author(s): 石川成子
  • Journal Title: 電気・情報関連学会中国支部連合大会 Pages: 211-212
• [Journal Article] 非単調アナログ型連想記憶モデルにおける分岐とアトラクタ共存の解析 (2004)
  • Author(s): 橋口健一
  • Journal Title: 電子情報通信学会 技術研究報告(ニューロコンピューティング研究会) 104,473 Pages: 35-40