多出力階層系の中間素子共用化と内部表現の整合構造形成:計算論と生理実験による研究

1998 Fiscal Year Annual Research Report

• Project/Area Number: 10164236
• Research Institution: Kyushu Institute of Technology
• Principal Investigator: 安井 湘三 九州工業大学, 情報工学部, 教授 (50132741)
• Co-Investigator(Kenkyū-buntansha): 古川 徹生 九州工業大学, 情報工学部, 助手 (50219101)
• Keywords: 多出力系 / ニーラルネットワーク / 内部表現 / 構造学習 / 隠れ素子 / 刈り込み / アナロジー / 類推

Research Abstract

人工ニューラルネット(NN)の内部構造について、不要な経路を自律除去しつつ最小最適構造に刈り込む研究が盛んである。我々は、発生生物学的な妥当性も内在する「集束抑制と発散促進(CSDF)」と呼ぶ構造淘汰原理を発表し、これをBP型NNに組み入れた。そして、並列論理、分類、文字認識、auto-encoderなどの例題で良好な成績を得た。昨年度に引き続き本年度もCSDFを応用して「NNによるアナロジー類推」というテーマに取り組んだ。
3項記述(A、R、B)は、AはBに対してRという関係をもつと読むことにする。すなわち、太陽、原子核→X、地球、電子→Y、太陽系、原子→Zという具合に対応要素の抽象化写像を行うと、(Z、より大きい、(X、Y))、・・・、(Y、周りを回転する、X)という抽象化モデルを得る。本研究のアーキテクチャでは、例えば、要素「地球」と関係「回転する」を入力として与え、学習により正解「太陽」を出力させようとするものである。逆伝播学習則とCSDF構造最適化アルゴリズムの働きで抽象化写像と抽象化モデルが自動的に育成される。また、出力層に向けては脱抽象化写像、すなわち、X→太陽、原子核、Y→地球、電子、Z→太陽系、原子、が抽象化写像行列の転置行列として自動生成される。さらに、(地球、回転する、太陽)などの個別記述がどのカテゴリーに属するのかはNN内に自律的に発現するクラス分けモジュールが決定し、出力候補である[太陽]と[原子核]の中から前者が選び出される。アナロジー類推タスクは、本例の場合、まず12個の関係記述のうち1部を除いた残りを学習させた。学習終了の時点でNNを固定し、教えなかったケースについて類推のテストを行い良好な成績を得た。他に、「電流、水流、熱流」、家系図(A家族とB家族)、位置関係(東西南北)に関する類推問題についても成績は概ね良好であった。さらに、本年度で特に重点的に取り組んだ課題は、(1)複数組アナロジーの同時学習、(2)新規データに対する追加アナロジー学習、であった。(1)については、期待通り、対応する複数の抽象化内部モデルが分離生成された。(2)の意味は、過去の学習で蓄積された既得の複数組アナロジーの中より現データにフィットする抽象化内部表現モジュール(個別アナロジー記憶)を自律的に選別・抽出するという試みで、これについても期待通りの結果を得た。すなわち、既成の抽象化モジュールはアトラクターとして働くことが確認された。

Research Products

• [Publications] 古川徹生: "網膜Transient型アマクリン細胞の時空間的な光応答特性" 電子情報通信学会技術研究報告. Vol.97. 1-6 (1998)
• [Publications] 中満竹千代: "網膜神経ネットワークにおける一酸化窒素の機能:順応調節信号としての役割" 電子情報通信学会技術研究報告. Vol.97. 7-12 (1998)
• [Publications] 田原潤彌: "動画像特性から見た網膜アマクリン細胞:非線形応答生成のメカニズムを探る" 電子情報通信学会技術研究報告. Vol.97. 85-89 (1998)
• [Publications] 渡辺俊陽: "アナロジー学習意味ネットワーク:抽象化、内部表現生成、類推" 電子情報通信学会技術研究報告. Vol.98. 55-62 (1998)
• [Publications] 藤村英明: "アナロジー学習意味ネットワーク:抽象化内部表現の保持と追加学習" 電子情報通信学会技術研究報告. Vol.98. 63-70 (1998)
• [Publications] Yasui,S: "Connectionist abstraction for machine learning by analogy" Proc.Of5^<th> Int'l Conf.On Neural Information Processing. Vol.3. 1453-1458 (1998)
• [Publications] Djamgoz,M.B.A.: "Modulation of chromatic difference in receptive field size of H1 horizontal cells in carp retina: Dopamine-and APB-sensitive mechanisms" Neuroscience Research. Vol.30. 13-24 (1998)
• [Publications] Hayashida,Y.: "Ca^<2+> regulation by the Na^<2+>-Ca^<2+> exchanger in retinal horizontal cells depolarized by L-glutamate" Neuroscience Research. (in press).
• [Publications] Miyazaki,K.: "Simultaneous voltammetric measurement of nitric ion,dopamine,serotonin with ascorbic acid on the GRC electrode" Electrochim.Acta.(in press).
• [Publications] Yasui,S.: "Connectionist analogy processor (CAP)" Proc.Of 4^<th> Conf.On Neural Networks and Their Applications. (in press).