多出力階層系の中間素子共用化と内部表現の整合構造形成:計算論と生理実験による研究

1997 年度 実績報告書

• 研究課題/領域番号: 09268226
• 研究機関: 九州工業大学
• 研究代表者: 安井 湘三 九州工業大学, 情報工学部, 教授 (50132741)
• 研究分担者: 古川 徹生 九州工業大学, 情報工学部, 助手 (50219101)
• キーワード: 多出力系 / ニューラルネットワーク / 内部表現 / 構造学習 / 隠れ素子 / 網膜 / アナロジー / 類推

研究概要

人工ニューラルネット(NN)の内部構造について、不要な経路を自律除去しつつ最小最適構造に刈り込む研究が盛んである。我々は、発生生物学的な妥当性も内在する「集束抑制と発散促進(CSDF:Convergence Suppression and Divergence Facilitation)」と呼ぶ構造淘汰原理を発表し、これをBP型NNに組み入れた。そして、並列論理、分類、文字認識、auto-encoderなどの例題で良好な成績を得た。本年度はCSDFを応用して「NNによるアナロジー類推」という新テーマに取り組んだ。スペースの関係で本年度の報告はこのテーマに関したことに絞る。
状況1(太陽系、より大きい、(太陽、地球))、(太陽、に含まれる、太陽系)、(太陽、より大きい、地球)、(太陽、を引き付ける、地球)、(地球、に含まれる、太陽)、(地球、周りを回転する、太陽)
状況2(原子、より大きい、(原子核、電子))、(原子核、に含まれる、原子)、(原子核、より大きい、電子)、(原子核、を引き付ける、電子)、(電子、に含まれる、原子)、(電子、周りを回転する、原子核)
抽象化モデル(NN内部表現モデル)(Z、より大きい、(X,Y))、(X、に含まれる、Z)、(X、より大きい、Y)、(X、を引き付ける、Y)、(Y、に含まれる、Z)、(Y、周りを回転する、X)
3項記述(A、R、B)は要素Aは要素Bに対してRという関係をもつと読む。状況1と状況2は互いにアナログといえる。すなわち、太陽、原子核→X、地球、電子→Y、太陽系、原子→Zという具合に対応要素の抽象化写像を行うと、(Z、より大きい、(X、Y))、...、(Y、周りを回転する、X)という抽象化モデルを得る。本研究のアーキテクチャでは、例えば、要素「地球」と関係「回転する」を入力として与え、教師有り学習により正解「太陽]を出力させようとするものである。逆伝播学習則とCSDF構造最適化アルゴリズムの働きで抽象化写像と抽象化モデルが自動的に育成される。また、出力層に向けては脱抽象化写像、すなわち、X→太陽、原子核、Y→地球、電子、Z→太陽系、原子、が抽象化写像行列の転置行列として自動生成される。さらに、(地球、回転する、太陽)などの個別記述がどのカテゴリー(状況1、あるいは、状況2)に属するのかはNN内に自律的に発現するクラス分けモジュールが自動的に決定し、出力候補である〔太陽]と[原子核]の中から前者が選び出される。アナロジー類推のタスクは、本例の場合、まず12個の関係記述のうち1部を除いた残りを経路の刈り込みを伴う教師付き学習させた。学習終了の時点でNNを固定し、教えなかったケースについて類推させた。他に家系図や地理的な位置関係に関する類推問題についてもテストした。類推の成績はいづれも概ね良好であった。

研究成果

• [文献書誌] Yasui,S.: "Convergence suppression and divergence facilitation: Minimum and joint use of hidden units by multiple output" Neural Networks. Vol.10. 353-367 (1997)
• [文献書誌] Furukawa,T.: "Nitric oxide 2-amino-4-phosphonobuturic acid and light/dark adaptation modulate short-wavelength-sensitive synaptic transmission to retinal horizontal cells" Neuroscience Research. Vol.27. 65-74 (1997)
• [文献書誌] 宮本雅浩: "網膜アマクリン細胞(ON-OFF transient型):光刺激の時空間変化に対する応答特性" 電子情報通信学会技術研究報告. Vol.96. 43-48 (1997)
• [文献書誌] Yasui,S.: "Connectionist analogical inference in relational isomorphism paradigm" Progress in Connectionist-Based Information Systems(The 4th International Conference on Neural Information Processing and Intelligent Information Systems). Vol.1. 526-530 (1997)
• [文献書誌] 古川徹生: "視覚画像中の運動検出学習により発現する線形時空間フィルタの機能と構造" 電子情報通信学会論文誌. Vol.J80-D-II. 2671-2683 (1997)
• [文献書誌] 古川徹生: "網膜Transient型アマクリン細胞の時空間的な光応答特性" 電子情報通信学会技術研究報告. Vol.97. 1-6 (1998)
• [文献書誌] 中満竹千代: "網膜神経ネットワークにおける一酸化窒素の機能:順応調節信号としての役割" 電子情報通信学会技術研究報告. Vol.97. 7-12 (1998)
• [文献書誌] 田原潤彌: "動画像特性から見た網膜アマクリン細胞:非線形応答生成のメカニズムを探る" 電子情報通信学会技術研究報告. Vol.97. 85-89 (1998)
• [文献書誌] Djamgoz,M.B.A.: "Modulation of chromatic difference in receptive field size of H1 horizontal cells in carp retina:Dopamine-and APB-sensitive mechanisms" Neuroscience Research. (in press).