• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2017 Fiscal Year Annual Research Report

論理推論・機械学習・物理計算の融合によって「行間を読む」談話解析モデル

Research Project

Project/Area Number 15H01702
Research InstitutionTohoku University

Principal Investigator

乾 健太郎  東北大学, 情報科学研究科, 教授 (60272689)

Co-Investigator(Kenkyū-buntansha) 岡崎 直観  東京工業大学, 情報理工学院, 教授 (50601118)
井之上 直也  東北大学, 情報科学研究科, 助教 (80778605)
Project Period (FY) 2015-04-01 – 2019-03-31
Keywords自然言語処理 / 人工知能 / 推論 / 知識 / 談話解析
Outline of Annual Research Achievements

下記の3つの課題についてそれぞれ研究を進めた。
課題(1) 仮説推論と分散表現の融合 仮説推論をWeighted Max-SAT問題として解く手法を検討し、実際に命題論理上のEtcetera Abductionの規模耐性を大幅に改善できることを示した(Inoue et al. 2017)。また、論理を構成する離散的な記号の意味を連続量の分散表現(ベクトル)で表現する枠組みの検討に着手し、因果関係のような知識を連続空間に埋め込み論理的な推論を実現する枠組みの研究を進めた(Sasaki et al. 2017, Takahashi et al. 2018)。
課題(2) 談話解析モデルの構築と評価 談話解析のベースとなる文内述語項構造解析について、2015年度に行った詳細な誤り分析に基づき、現解析モデルの素性の見直しやニューラルネットによる非線形化を行った結果、NAISTテキストコーパスに対して最高精度を達成した(Matsubayashi and Inui 2017)。また、Wikipediaを知識源とする知識ベース構築とそれを用いた意味談話解析に関する研究を展開し、Wikipediaの記述をさらに包括的に活用するための足がかりを作った(Zhou et al. 2017, Suzuki et al. 2018, Hanawa et al. 2017)。さらに、こうした知見を文章に対する質問応答タスクに適用し、談話の各断片から得られる情報のある種の接合を分散表現で扱えることを示した(Kobayashi et al. 2017)。
課題(3) 非言語モーダル情報処理との融合 言語と実世界の対応付け(グラウンディング)問題の一つの例題として、与えられた画像中の特定の物体を指示する言語表現を解析し、どの物体が指示されているかを特定する対画像参照表現解析課題に着手し、基本的な予備実験を行った。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

3つの課題についてそれぞれ概ね当初計画に沿った成果を出せており、対外発表も順調である。

Strategy for Future Research Activity

課題(1) 仮説推論と分散表現の融合 従来の一階述語論理上の仮説推論は、知識表現および意味表現を離散的な記号で表現することを前提していた。しかし、知識や意味を記号で表現する従来の枠組みでは、自然言語に存在する極めて多くの同義表現を推論時に考慮する手段が貧弱であり、柔軟な推論の実現が難しいという課題があった。これに対し本研究では、論理を構成する離散的な記号の意味を連続量のベクトルで表現する枠組みを新たに構築し、その上に仮説推論を実現する方式を検討してきた。最終年度の今年度は、その成果に基づいてこれまでに開発した構成的意味分散表現モデルを仮説推論に組み込み、記号間の柔軟な意味的照合によってテキスト推論を実現する方式を実際に構築し、その有効性を検証する。
課題(2) 学習可能な仮説推論に基づく談話解析モデルの構築と評価 談話コーパスの注釈付けと分析、知識表現の洗練と知識の公理化、談話解析モデルの実装と評価の3つの部分課題に並行して取り組み、相互に成果を取り込みながら全体としてスパイラルに枠組みを洗練していく。開発・評価には、論述文の談話解析に特化した論述構造解析と呼ばれる新しい課題に取り組み、分散表現・仮説推論・学習を融合した上記の枠組みで実現するシステムを開発する。
課題(3) 非言語モーダル情報処理との融合 言語と実世界の対応付け(グラウンディング)問題の一つの例題として、与えられた画像中の特定の物体を他の物体と言語によって区別して指示する言語表現を解析し、どの物体が指示されているかを特定する対画像参照表現解析課題に取り組む。

  • Research Products

    (21 results)

All 2018 2017 Other

All Int'l Joint Research (2 results) Journal Article (18 results) (of which Int'l Joint Research: 3 results,  Peer Reviewed: 15 results,  Open Access: 18 results) Presentation (1 results) (of which Int'l Joint Research: 1 results,  Invited: 1 results)

  • [Int'l Joint Research] Johns Hopkins University(米国)

    • Country Name
      U.S.A.
    • Counterpart Institution
      Johns Hopkins University
  • [Int'l Joint Research] University College London(United Kingdom)

    • Country Name
      United Kingdom
    • Counterpart Institution
      University College London
  • [Journal Article] A Joint Neural Model for Fine-Grained Named Entity Classification of Wikipedia Articles2018

    • Author(s)
      Masatoshi Suzuki, Koji Matsuda, Satoshi Sekine, Naoaki Okazaki and Kentaro Inui
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: Vol. E101-D, No.1 Pages: 73-81

    • DOI

      10.1587/transinf.2017SWP0005

    • Peer Reviewed / Open Access
  • [Journal Article] Cross-lingual Learning-to-Rank with Shared Representations2018

    • Author(s)
      Shota Sasaki, Shuo Sun, Shigehiko Schamoni, Kevin Duh and Kentaro Inui
    • Journal Title

      Proceedings of the 16th Annual Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (NAACL-HLT 2018)

      Volume: - Pages: 6 pages

    • Open Access / Int'l Joint Research
  • [Journal Article] A Melody-conditioned Lyrics Language Model2018

    • Author(s)
      Kento Watanabe, Yuichiroh Matsubayashi, Satoru Fukayama, Masataka Goto, Kentaro Inui and Tomoyasu Nakano
    • Journal Title

      Proceedings of the 16th Annual Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (NAACL-HLT 2018)

      Volume: - Pages: 11 pages

    • Peer Reviewed / Open Access
  • [Journal Article] Modeling Storylines in Lyrics2017

    • Author(s)
      Kento Watanabe, Yuichiroh Matsubayashi, Kentaro Inui, Satoru Fukayama, Tomoyasu Nakano, and Masataka Goto
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: Vol.E101-D, No.4 Pages: 13 pages

    • Peer Reviewed / Open Access
  • [Journal Article] Supervised Approaches for Japanese Wikification2017

    • Author(s)
      Shuangshuang Zhou, Naoaki Okazaki, Koji Matsuda, Ran Tian and Kentaro Inui
    • Journal Title

      Journal of Information Processing

      Volume: Vol. 25 Pages: 341-350

    • DOI

      10.2197/ipsjjip.25.341

    • Peer Reviewed / Open Access
  • [Journal Article] Interpretable and Compositional Relation Learning by Joint Training with an Autoencoder2017

    • Author(s)
      Ryo Takahashi, Ran Tian and Kentaro Inui
    • Journal Title

      Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics (ACL 2018)

      Volume: - Pages: 11 pages

    • Open Access
  • [Journal Article] Learning Style-sensitive Word Vectors from Stylistically Consistent Utterances2017

    • Author(s)
      Reina Akama, Kento Watanabe, Sho Yokoi, Sosuke Kobayashi and Kentaro Inui
    • Journal Title

      Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics (ACL 2018)

      Volume: - Pages: 6 pages

    • Peer Reviewed / Open Access
  • [Journal Article] A Neural Language Model for Dynamically Representing the Meanings of Unknown Words and Entities in a Discourse2017

    • Author(s)
      Sosuke Kobayashi, Naoaki Okazaki, and Kentaro Inui
    • Journal Title

      Proceedings of the 8th International Joint Conference on Natural Language Processing (IJCNLP)

      Volume: - Pages: 473-483

    • Peer Reviewed / Open Access
  • [Journal Article] Generating Stylistically Consistent Dialog Responses with Transfer Learning2017

    • Author(s)
      Reina Akama, Kazuaki Inada, Naoya Inoue, Sosuke Kobayashi and Kentaro Inui
    • Journal Title

      Proceedings of the 8th International Joint Conference on Natural Language Processing (IJCNLP)

      Volume: - Pages: 408-412

    • Peer Reviewed / Open Access
  • [Journal Article] Revisiting Design Issues of Local Models for Japanese Predicate-Argument Structure Analysis2017

    • Author(s)
      Yuichiroh Matsubayashi and Kentaro Inui
    • Journal Title

      Proceedings of the 8th International Joint Conference on Natural Language Processing (IJCNLP)

      Volume: - Pages: 128-133

    • Peer Reviewed / Open Access
  • [Journal Article] A Crowdsourcing Approach for Annotating Causal Relation Instances in Wikipedia2017

    • Author(s)
      Kazuaki Hanawa, Akira Sasaki, Naoaki Okazaki, and Kentaro Inui
    • Journal Title

      Proceedings of the 31st Pacific Asia Conference on Language, Information and Computation (PACLIC)

      Volume: - Pages: 10 pages

    • Peer Reviewed / Open Access
  • [Journal Article] Handling Multiword Expressions in Causality Estimation2017

    • Author(s)
      Shota Sasaki, Sho Takase, Naoya Inoue, Naoaki Okazaki, and Kentaro Inui
    • Journal Title

      Proceedings of the 12th International Conference on Computational Semantics (IWCS)

      Volume: - Pages: 6 pages

    • Peer Reviewed / Open Access
  • [Journal Article] Be More Eloquent, Professor ELIZA: Comparison of Utterance Generation Methods for Artificial Second Language Tutor2017

    • Author(s)
      Taku Nakamura, Rafal Rzepka, Kenji Araki, and Kentaro Inui
    • Journal Title

      Proceedings of Linguistic and Cognitive Approaches to Dialog Agents (LaCATODA 2017)

      Volume: - Pages: 34-41

    • Peer Reviewed / Open Access
  • [Journal Article] Monitoring Geographical Entities with Temporal Awareness in Tweets2017

    • Author(s)
      Koji Matsuda, Mizuki Sango, Naoaki Okazaki and Kentaro Inui
    • Journal Title

      Proceedings of 18th International Conference on Computational Linguistics and Intelligent Text Processing (CICLING)

      Volume: - Pages: 12 pages

    • Open Access
  • [Journal Article] Designing a Task for Recognizing Argumentation Logic in Argumentative Texts2017

    • Author(s)
      Paul Reisert, Naoya Inoue, Naoaki Okazaki and Kentaro Inui
    • Journal Title

      Proceedings of 18th International Conference on Computational Linguistics and Intelligent Text Processing (CICLING)

      Volume: - Pages: 12 pages

    • Peer Reviewed / Open Access
  • [Journal Article] Identifying and Ranking Relevant Claims for Decision Support2017

    • Author(s)
      Paul Reisert, Naoya Inoue, Naoaki Okazaki and Kentaro Inui
    • Journal Title

      Proceedings of 18th International Conference on Computational Linguistics and Intelligent Text Processing (CICLING)

      Volume: - Pages: 12 pages

    • Peer Reviewed / Open Access
  • [Journal Article] A Scalable Weighted Max-SAT Implementation of Propositional Etcetera Abduction2017

    • Author(s)
      Naoya Inoue and Andrew Gordon
    • Journal Title

      Proceedings of the 30th International Florida Artificial Intelligence Research Society Conference (FLAIRS)

      Volume: - Pages: 62-67

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Neural Architectures for Fine-grained Entity Type Classification2017

    • Author(s)
      Sonse Shimaoka, Pontus Stenetorp, Kentaro Inui and Sebastian Riedel
    • Journal Title

      Proceedings of the 15th Conference of the European Chapter of the Association for Computational Linguistics (EACL)

      Volume: - Pages: 1271-1280

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Presentation] Modeling Commonsense Reasoning for Natural Language Understanding2017

    • Author(s)
      Kentaro Inui
    • Organizer
      International Conference for Top and Emerging Computer Scientists (IC-TECS)
    • Int'l Joint Research / Invited

URL: 

Published: 2018-12-17   Modified: 2022-08-22  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi