2007 Fiscal Year Annual Research Report
| Project/Area Number |
18500179
|
|---|
| Research Institution | Tokai University |
|---|
Principal Investigator |
上村 龍太郎 Tokai University, 総合情報センター, 教授 (80176643)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
内田 理 東海大学, 情報理工学部, 講師 (50329306)
竹内 晴彦 産業技術総合研究所, 人間福祉医工学研究部門, 主任研究員 (00357401)
|
|---|
| Keywords | ニューラルネットワーク / 競合学習 / 相互情報量 / 特徴抽出 / 情報量損失 / 情報量最大化 / 自由エネルギー / 学習 |
|---|
| Research Abstract |
学習は情報量最大化で実現することはこれまでの研究で実証してきた。しかし、情報量最大化にいくつかの問題点があることもわかってきた。すなわち、特徴抽出のための方法の不在、さらに計算の複雑さと入力パターンへの忠実性の問題である。
特徴抽出のための方法の不在というのは、情報量最大化は主に競合現象を実現させるためだけに用いられており、競合を実現するために必要な要素、特徴は何であるかについてこれまで研究は行われて来なかった。そこで、ネットワークの要素を取り外し、この時の情報量の損失(informationloss)を計測することによって、特徴抽出のプロセスを理解できるための研究をおこなった。特に自己組織化マップにこの方法を応用すれば、従来の方法よりわかりやすく特徴を抽出できることがわかった。
情報量最大化によって競合学習は実現できるとしても、情報量最大化をおこなうためにかなりの計算時間が必要となってくる。これは、情報量の計算が複雑であるからである。これらの問題を解決するために、簡単な方法で情報量を最大化するために自由エネルギーを導入した。自由エネルギーの導入によって、複雑な相互情報量の計算を行う必要がなくなり、より単純な分配関数を計算すればよいことになった。かならずしも、相互情報量最大化と自由エネルギー最小化は同じものではないが、多くの実験によって、この自由エネルギーを最小化することによって情報量最大化をおこなうことができるということが実証できた。
|
Research Products
(12 results)
