Project/Area Number |
10164236
|
Research Category |
Grant-in-Aid for Scientific Research on Priority Areas (A)
|
Allocation Type | Single-year Grants |
Research Institution | Kyushu Institute of Technology |
Principal Investigator |
安井 湘三 九州工業大学, 情報工学部, 教授 (50132741)
|
Co-Investigator(Kenkyū-buntansha) |
古川 徹生 九州工業大学, 情報工学部, 助手 (50219101)
|
Project Period (FY) |
1998
|
Project Status |
Completed (Fiscal Year 1998)
|
Budget Amount *help |
¥1,500,000 (Direct Cost: ¥1,500,000)
Fiscal Year 1998: ¥1,500,000 (Direct Cost: ¥1,500,000)
|
Keywords | 多出力系 / ニーラルネットワーク / 内部表現 / 構造学習 / 隠れ素子 / 刈り込み / アナロジー / 類推 |
Research Abstract |
人工ニューラルネット(NN)の内部構造について、不要な経路を自律除去しつつ最小最適構造に刈り込む研究が盛んである。我々は、発生生物学的な妥当性も内在する「集束抑制と発散促進(CSDF)」と呼ぶ構造淘汰原理を発表し、これをBP型NNに組み入れた。そして、並列論理、分類、文字認識、auto-encoderなどの例題で良好な成績を得た。昨年度に引き続き本年度もCSDFを応用して「NNによるアナロジー類推」というテーマに取り組んだ。 3項記述(A、R、B)は、AはBに対してRという関係をもつと読むことにする。すなわち、太陽、原子核→X、地球、電子→Y、太陽系、原子→Zという具合に対応要素の抽象化写像を行うと、(Z、より大きい、(X、Y))、・・・、(Y、周りを回転する、X)という抽象化モデルを得る。本研究のアーキテクチャでは、例えば、要素「地球」と関係「回転する」を入力として与え、学習により正解「太陽」を出力させようとするものである。逆伝播学習則とCSDF構造最適化アルゴリズムの働きで抽象化写像と抽象化モデルが自動的に育成される。また、出力層に向けては脱抽象化写像、すなわち、X→太陽、原子核、Y→地球、電子、Z→太陽系、原子、が抽象化写像行列の転置行列として自動生成される。さらに、(地球、回転する、太陽)などの個別記述がどのカテゴリーに属するのかはNN内に自律的に発現するクラス分けモジュールが決定し、出力候補である[太陽]と[原子核]の中から前者が選び出される。アナロジー類推タスクは、本例の場合、まず12個の関係記述のうち1部を除いた残りを学習させた。学習終了の時点でNNを固定し、教えなかったケースについて類推のテストを行い良好な成績を得た。他に、「電流、水流、熱流」、家系図(A家族とB家族)、位置関係(東西南北)に関する類推問題についても成績は概ね良好であった。さらに、本年度で特に重点的に取り組んだ課題は、(1)複数組アナロジーの同時学習、(2)新規データに対する追加アナロジー学習、であった。(1)については、期待通り、対応する複数の抽象化内部モデルが分離生成された。(2)の意味は、過去の学習で蓄積された既得の複数組アナロジーの中より現データにフィットする抽象化内部表現モジュール(個別アナロジー記憶)を自律的に選別・抽出するという試みで、これについても期待通りの結果を得た。すなわち、既成の抽象化モジュールはアトラクターとして働くことが確認された。
|