2015 Fiscal Year Annual Research Report
膨大な知識を有するニューラルネットワーク型自然言語処理システムに関する研究
| Project/Area Number |
24500281
|
|---|
| Research Institution | Keio University |
|---|
Principal Investigator |
萩原 将文 慶應義塾大学, 理工学部, 教授 (80198655)
|
|---|
| Project Period (FY) |
2012-04-01 – 2016-03-31
|
| Keywords | ニューラルネットワーク / 知識処理 |
|---|
| Outline of Annual Research Achievements |
本研究は膨大な知識を有し、優れた思考機能を持つニューラルネットワーク型の自然言語処理システムの構築である。
従来の自然言語を扱うニューラルネットワークにおいては, 以下の3 つの問題点があった。まず第一に、 同義語を判定する機構が存在しない点である。そのため、同義語が別々のニューロンとして表現されてしまう。第二に、辞書層が日本語語彙体系であるため学習文に存在しない単語間の連想が困難であるという点である。そして第三に、ネットワーク上には興奮性ニューロンしか存在しないという点である。これにより、質問応答への応用の際に質問文と関係が低いニューロンの膜電位が高くなることが起こり得る。
そこで本研究では、 連想層と抑制層を導入した自然言語を扱うニューラルネットワークの提案を行った。提案ネットワークには以下の特長がある。まず第一に、同義語辞書,N グラム類似度を用いた情報の正規化である。これにより、同義語を1 つのニューロンで表現することが可能となる。第二に、単語共起頻度データベースを元にした連想層の導入である。 この層が加わることにより、学習文に存在しない単語間の連想が可能になる。そして第三に、抑制性ニューロンを有する抑制層の導入である。抑制性ニューロンは他のニューロンの膜電位を抑える働きを持つ。これにより質問応答への応用の際、質問文と関係が低いニューロンの膜電位を抑えることが可能になる。評価実験では、提案ニューラルネットワークを用いた質問応答の精度の評価を行った。その結果、MRR(mean reciprocal rank)値0.58 がとなった。これは従来の自然言語処理ニューラルネットワークを用いた場合の精度よりも高い値であり、また人工知能に基づく従来の日本語質問応答システムにも大きく接近する結果となった。
|
