| Research Abstract |
本研究課題では,統計力学などの分野で提唱されている様々な確率的手法のアルゴリズム的な有効性を解析することを目的としている.本年度は,(1)これまでに提案した解析手法の詳細な研究,(2)その手法を応用したアルゴリズムの解析を行った.また,(3)信念伝播法を用いてグラフ分割問題を解くアルゴリズムを解析し,非常に単純で,しかも理論的にも,その性能を保証できるアルゴリズムを考案した.さらに,(4)確率的設定(PAC学習)における学習アルゴリズム設計手法に関する研究成果をまとめた.
(1)統計力学などの分野で提唱されている種々のアルゴリズムは,多くの場合,ランダムに与えられた入力データに対して平均的によい性能を持つ.これまで,本研究課題で行ってきた主な研究は,そのような「平均的なよさ」を解析するために,アルゴリズムの「平均的な実行」を追う手法を確立することであった.その手法として,(i)アルゴリズムの複雑な内部状態を単純なマルコフ過程で近似する方法,(ii)その単純なマルコフ過程の平均状態を計算する方法,を開発した.本年度は,(ii)の精度について,一般化Ehrenfest processと呼ばれる比較的単純なモデルで,厳密に解析した.
(2)上記の(i),(ii)の手法を,局所探索によりSAT問題群を解くアルゴリズムの解析に用い,局所探索法が成功する場合の理由,SAT問題群の中でも,局所探索法に対する相性に差があること,タブー探索の効果,などを準理論的に示すことができた.
(3)信念伝播法は,元々は人工知能の研究で開発されたアルゴリズムであるが,近年,統計力学で盛んに研究され,その計算法の応用,ならびに統計力学的な意味づけが調べられてきた.その信念伝播法に,計算機科学的な意味づけを与えたい,というのが本研究課題の動機であった.本年度は,Graph Bisection問題と呼ばれる代表的なグラフ分割問題を,信念伝播法により解くアルゴリズムを解析し,非常に単純を考案することができた.しかも,そのアルゴリズムに対しては,多少限定的ではあるが,計算機科学的な立場から,理論的にも性能を保証することができた.(この研究についての論文は現在投稿中)
(4)PAC学習と呼ばれる確率的な学習の枠組みにおいて,学習アルゴリズムを設計する代表的な手法の1つにブースティング技法というのがある.その設計手法を利用する際に重要となるサンプリング技術についての研究をまとめることができた.
|
