2017 Fiscal Year Annual Research Report
実用的な日本語格解析のための確率的日本語主辞駆動句構造文法に関する研究
| Project/Area Number |
25280084
|
|---|
| Research Institution | Ehime University |
|---|
Principal Investigator |
二宮 崇 愛媛大学, 理工学研究科(工学系), 教授 (20444094)
|
|---|
| Project Period (FY) |
2013-04-01 – 2019-03-31
|
| Keywords | 自然言語処理 / 構文解析 / HPSG / 言語学 / 人工知能 |
|---|
| Outline of Annual Research Achievements |
平成29年度は、深層学習の研究として、エンコーダーデコーダーモデルのエンコーダー部に構文解析技術を導入する研究・開発を行った。研究計画当初は従来の確率モデルを用いて日本語格解析のための構文解析を行う予定であったが、従来の確率モデルでは十分な精度が得られないことが判明したため、深層学習の技術を基にした確率モデルを実装するように研究計画を変更した。平成29年度は、エンコーダーデコーダーモデルにおいて構文解析技術を導入することで、深層学習と構文解析に関する技術と知見を得ることを目標とした。
エンコーダーデコーダーモデルは、主に機械翻訳やキャプション生成で用いられている深層学習の技術の一つであり、エンコーダーおよびデコーダーはLSTM等のユニットを用いた再帰型ニューラルネットワークにより構成されている。本研究で提案する手法は、構文解析技術であるCKYアルゴリズムの計算順序に従った計算を行う畳み込みネットワークを構成し、各単語に対するLSTMの出力をこのネットワークが受け取ることで、句構造を表す内部状態を計算する。従来手法であるLSTMの内部状態に対するアテンションに加え、句構造を表す2次元テーブルに格納された内部状態にアテンションを適用することで、句と訳語とのアライメントを実現しており、アテンションを通して、句構造を表す畳み込みニューラルネットワークの学習が行われる。実験により、機械翻訳の翻訳精度指標であるBLEUが0.66ポイント向上すること、および、可視化により、句に対するアライメントが実現されることを示した。この研究・開発を通して、深層学習および深層学習ツールであるChainerに関する十分な技術と知見を得ることができた。
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
研究計画当初に予定していた従来の確率モデルでは十分な精度が得られないことが判明した。深層学習技術を基にした確率モデルを構文解析器に導入し、精度を改善する必要があるが、想定以上に時間を要している。また、平成29年度は、大学において情報工学科教育用計算機導入の業務および工学部改組のための業務を行ったが、これらの業務の多忙により、深層学習技術の導入に充てる時間が十分に得られなかった。
|
| Strategy for Future Research Activity |
平成30年度は、これまでに開発した日本語HPSGツリーバンクおよび日本語HPSG文法の精緻化と修正を行い、深層学習と決定性構文解析を導入することで実用的な日本語格解析システムを実現する。日本語HPSGツリーバンクと日本語HPSG文法については、自然言語処理ツールのNLTKを用いて開発済みであり、平成29年度に深層学習ツールのChainerを用いて開発したエンコーダーの技術を用いることで、深層学習による決定性構文解析を実現する。
|
| Causes of Carryover |
平成29年度に、研究計画当初に予定していた従来の確率モデルでは十分な精度が得られないことが判明したため、深層学習を基にした確率モデルを構文解析器に導入するように計画を変更した。そのため、研究計画に遅延が生じ、研究成果の発表を平成30年度に行うことにした。
|
Research Products
(16 results)
-
-
-
-
-
-
-
-
-
-
-
-
[Presentation] 画像処理と深層学習による微小害虫の検出2017
Author(s)
中浦 大貴, 渡邊 大貴, 増成 紳介, 矢野 良典, 河野 靖, 木下 浩二, 二宮 崇, 田村 晃裕, 高橋 寛, 王 森レイ, 樋上 喜信, 藤田 欣裕, 二宮 宏
Organizer
平成29年度 電気関係学会四国支部連合大会
-
[Presentation] 深層学習による柑橘類果実の個数推定2017
Author(s)
野口 敬輔, 小川 達也, 安保 良佑, 高原 圭太, 河野 靖, 木下 浩二, 二宮 崇, 田村 晃裕, 高橋 寛, 王 森レイ, 樋上 善信, 藤田 欣裕, 二宮 宏
Organizer
平成29年度 電気関係学会四国支部連合大会
-
-
-
