コバリアンス学習を用いた多義語の概念構造のモデル化

• Project/Area Number: 05267235
• Research Category: Grant-in-Aid for Scientific Research on Priority Areas
• Allocation Type: Single-year Grants
• Research Institution: Kyushu Institute of Technology
• Principal Investigator: 石川 眞澄 九州工業大学, 情報工学部, 教授 (60222973)
• Co-Investigator(Kenkyū-buntansha): 章 宏 九州工業大学, 情報工学部, 助手 (30235709)
• Project Period (FY): 1993
• Project Status: Completed (Fiscal Year 1993)
• Budget Amount: ¥1,400,000 (Direct Cost: ¥1,400,000); Fiscal Year 1993: ¥1,400,000 (Direct Cost: ¥1,400,000)
• Keywords: ニューラルネットワーク / コバリアンス学習 / 相関学習 / 概念形成 / 多義語 / 同義語

Research Abstract

本研究は微小特徴群と概念の関係、特に多義語や同義語の概念構造をコバリアンス学習により求めることを目的とする。一般に概念形成は、短時間で記憶することを重視するものと、規則性抽出を重視するものとに分けられ、今年度は前者を対象とする。なお、ここではコバリアンス学習と相関学習をほとんど同義に用いている。
微小特徴ベクトルは直交していないため、入力層に微小特徴を出力層に単語を用いて相関学習を行うと相互干渉項のため無関係な出力素子にも出力を生じる。しかし連続値線形出力素子を用いて相関学習を行い、その際後述のように各概念の出現頻度を考慮して最大値検出を行えば、相互干渉があっても差し支えない。実際には概念は外界からランダムな順序で与えられ、頻度の多寡もある。また多義語や同義語の存在も無視できない。
これらをうまく扱うためには以下の3つの機能が必要である。第一は既学習概念か否かを判定できることである。当該単語の出力が1(興奮)の場合が既学習に相当する。第二は多義語か否かの判定ができることである。多義語は異なる属性値ベクトルが同じ単語に対応し、当該単語の出力が正で1よりも小さい場合であり,新しい出力素子を追加生成する。第三は同義語であるか否かの判定ができることである。同義語は同じ属性値ベクトルが異なる単語に対応し、他の出力素子の出力が1の場合である。
ここでは107微小特徴、7個の概念からなる構造をモデル化した。これには多義語が4組、同義語が3組含まれている。本方法により、多義語、同義語も含め、概念構造のモデル化が相関学習により行える。頻度情報の取扱い、多義語,同義語における微妙な意味の差のモデル化、プライミング効果の表現などが今後に残された課題である。

Research Products

• [Publications] 角丸陽一,石川眞澄: "ニューラルネットワークの学習に基づく概念形成" 電子情報通信学会技術研究報告. (1994)