2013 Fiscal Year Research-status Report
| Project/Area Number |
25540075
|
|---|
| Research Category |
Grant-in-Aid for Challenging Exploratory Research
|
| Research Institution | Waseda University |
|---|
Principal Investigator |
石川 博 早稲田大学, 理工学術院, 教授 (60381901)
|
|---|
| Project Period (FY) |
2013-04-01 – 2015-03-31
|
| Keywords | コンピュータビジョン |
|---|
| Research Abstract |
多層モデルであるConvolutional Neural Networkにおいては、通常、平行移動で写り合うような神経素子は同じ値になるように同時に訓練する。CNNによる認識システムでは、これによって画像認識においては必須である平行移動による不変性を持つ特徴をデータから学習させることができる。本研究では、この平行移動にあたる、より一般の変換について同様の効果をめざし、構造の代数的表現、つまり計算と、そのデータ空間における意味（セマンティクス）を広い範囲で一様に定義することにより、生のデータの中にパターンが存在するかという質問に答えることができる理論の直接的な応用を目指した理論的研究を行った。CNNの学習性能を飛躍的に向上させたのはRestricted Boltzmann Machineを使ったことによるが、これは2値のマルコフ確率場である。このように多層モデルとマルコフ確率場は関連が深いが、特に最近、高階のマルコフ確率場の研究が活発になっている。この高階マルコフ確率場モデルについて、高階2値エネルギーを1階エネルギーに還元する新たなアルゴリズムを開発した。その結果として、既存手法より少ないメモリーでより高速な還元を可能とするアルゴリズムの開発に成功し、成果は国際会議IEEE CVPR2014に採択された。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
データの入っている空間の構造は、その空間を特徴付ける写像の組み合わせによって表現する。例えば画像平面のようなユークリッド空間であれば、2 点間の距離を与える写像、2 点間のベクトルを与える写像などである。この例からすぐに解ることは、それらの写像の像はまた別の空間に入っているということである。つまり、距離写像なら実数の空間、ベクトルを与える写像ならば、ベクトル空間である。するとそれらの空間を特徴付ける写像も組み合わせ、より多くの構造が存在することがわかる。例えばユークリッド空間に存在しない、ベクトルを実数倍するという写像がベクトル空間には存在する。また、上記の写像は二つとも、実際はユークリッド空間上の写像というよりは、ユークリッド空間２つの直積上の写像である。このような複数の空間、それらの直積、それらの空間を特徴付ける写像を計算機上に表現し、特定の構造を仮定しないように、また写像として与えられる任意の構造を平等に扱えるようにするアーキテクチャの設計・実装を進めた。また、多層モデル関連が深いマルコフ確率場の高階モデルについて、高階2値エネルギーを1階エネルギーに還元する新たなアルゴリズムを開発した。
|
| Strategy for Future Research Activity |
予定通り、与えられたデータをある確率分布からのサンプルと仮定し、そのデータの属する空間に自然な写像の組み合わせで得られる写像でその分布を送り、送り先のエントロピーが減少する場合を探すアルゴリズムを開発、実装する。与えられたデータのエントロピーを特異的に減少させる写像を見つけるために、各空間で典型的（ランダム）な分布も同じ写像で送って比較する。そのために異なる空間におけるエントロピーの推定方法や次元が変わった場合のエントロピーの比較について検討する。こうして比較的単純な写像の組み合わせで与えられたデータの大きな部分が説明できれば、これはそのデータに特徴的な構造をとらえたモデルを学習したと考えることが出来る。すなわちモデルは基礎的な写像の組み合わせと、それに与える小数のデータで表現される。当初トイモデルで試しつつこのアルゴリズムを改良、実装し、その後、画像などのより大規模な高次元データ中のパターン発見、その圧縮、ノイズ除去等への応用をめざし、より実証的段階に入る。また一方で、多層モデルと高階モデルの関連をより一層解析し、多層ニューラルネットワークの学習性能および一般化性能向上のために、本年度開発した高階エネルギー還元アルゴリズムを応用することをめざす。
|
| Expenditure Plans for the Next FY Research Funding |
研究成果発表の日程が予定と多少前後したため、旅費を次年度使用する。
予定道理使用する。
|
