• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Interpretation Support of Classification Rules by Text-based Deep Learning

Research Project

Project/Area Number 19K12124
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 61030:Intelligent informatics-related
Research InstitutionThe University of Shiga Prefecture

Principal Investigator

Sunayama Wataru  滋賀県立大学, 工学部, 教授 (40314398)

Co-Investigator(Kenkyū-buntansha) 河原 吉伸  九州大学, マス・フォア・インダストリ研究所, 教授 (00514796)
西原 陽子  立命館大学, 情報理工学部, 教授 (70512101)
Project Period (FY) 2019-04-01 – 2022-03-31
Project Status Completed (Fiscal Year 2021)
Budget Amount *help
¥4,420,000 (Direct Cost: ¥3,400,000、Indirect Cost: ¥1,020,000)
Fiscal Year 2021: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2020: ¥1,560,000 (Direct Cost: ¥1,200,000、Indirect Cost: ¥360,000)
Fiscal Year 2019: ¥1,950,000 (Direct Cost: ¥1,500,000、Indirect Cost: ¥450,000)
Keywords深層学習 / DNN / RNN / 学習結果の解釈 / 知識抽出 / パターン抽出 / 解釈支援 / データサイエンス / テキストマイニング / テキスト分類 / 深層学習における分類基準の解釈 / 解釈性 / 知識共有
Outline of Research at the Start

本研究では、「深層学習で学習された分類基準は何か?」との問いに答えられる、学習された分類パターンの意味を、人間が解釈できる環境を構築する。この意味づけが可能になれば、学習された分類パターンの意味を人間が知識として活用することができ、深層学習を含むシステムの効果的な運用方法を検討できる。

また、分類パターンの意味づけ支援として、入力テキストに、「どのような単語の組合せ、あるいは単語の出現順序が含まれていれば、どの分類先に分類されるか」の分類パターン候補を提示する仕組みを検討する。その上で、分類パターン候補の吟味、ならびに適用ドメインにおける分類パターンの意味解釈を支援するインタフェースを構築する。

Outline of Final Research Achievements

In this study, we aimed to construct an environment in which humans can interpret the meaning of learned classification patterns in text-based deep learning. That is, we constructed an interface that facilitates human interpretation of learning results from deep learning networks, DNNs (Deep Neural Networks) and RNNs (Recurrent Neural Networks) with recursive structures. The interface visualizes the learned networks and displays them with word labels.
In an evaluation experiment, we asked subjects unfamiliar with deep learning to interpret the classification patterns of the learned text set displayed on the interface, and verified the validity of the interpretation.

Academic Significance and Societal Importance of the Research Achievements

ブラックボックス問題と言われている深層学習の学習結果を解釈するための手がかりを提示するシステムを構築したこと.ならびに,単純な全結合のDNNだけでなく,再帰構造を含むRNNにより,時系列データの学習にも対応している点で学術的意義がある.
また,深層学習で学習された知識が取り出せるようになることで,抽出した知識を人間が活用することや,コンピュータが対応できている点とできていない点を理解した上で,結果の根拠を利用できることは,結果を利用する際の納得感が異なると考えられる.また,抽出した知識を類似する他の分野に転用するなどの応用が可能となるため,社会的意義がある.

Report

(4 results)
  • 2021 Annual Research Report   Final Research Report ( PDF )
  • 2020 Research-status Report
  • 2019 Research-status Report
  • Research Products

    (16 results)

All 2022 2021 2020 2019

All Journal Article (4 results) (of which Peer Reviewed: 4 results,  Open Access: 3 results) Presentation (12 results) (of which Int'l Joint Research: 4 results)

  • [Journal Article] Interpretation Support System for Classification Patterns Using HMM in Deep Learning with Texts2022

    • Author(s)
      安藤雅行・河原吉伸・砂山渡・畑中裕司
    • Journal Title

      Journal of Japan Society for Fuzzy Theory and Intelligent Informatics

      Volume: 34 Issue: 1 Pages: 501-510

    • DOI

      10.3156/jsoft.34.1_501

    • NAID

      130008159897

    • ISSN
      1347-7986, 1881-7203
    • Year and Date
      2022-02-15
    • Related Report
      2021 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Question Generation for Reading Comprehension Test Complying with Types of Question, Journal of Information Science and Engineering2022

    • Author(s)
      Junjie Shan, Yoko Nishihara, Akira Maeda, and Ryosuke Yamanishi
    • Journal Title

      Journal of Information Science and Engineering

      Volume: 38

    • Related Report
      2021 Annual Research Report
    • Peer Reviewed
  • [Journal Article] A Generation Method for the Discussion Process Model during Research Progress Using Transitions of Dialog Acts2021

    • Author(s)
      Yoko Nishihara, Seiya Tsuji, Wataru Sunayama, Ryosuke Yamanishi, and Shiho Imashiro
    • Journal Title

      International Journal On Advances in Systems and Measurements

      Volume: 14 Pages: 17-26

    • Related Report
      2021 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Interpretation Support System for Classification Patterns in Deep Learning with Texts2019

    • Author(s)
      安藤雅行,河原吉伸,砂山渡,畑中裕司
    • Journal Title

      Journal of Japan Society for Fuzzy Theory and Intelligent Informatics

      Volume: 31 Issue: 4 Pages: 779-787

    • DOI

      10.3156/jsoft.31.4_779

    • NAID

      130007690228

    • ISSN
      1347-7986, 1881-7203
    • Year and Date
      2019-08-15
    • Related Report
      2019 Research-status Report
    • Peer Reviewed / Open Access
  • [Presentation] Interpretation Support System for Classification Patterns Using HMM in Deep Learning with Texts2021

    • Author(s)
      Masayuki Ando, Yoshinobu Kawahara, Wataru Sunayama, and Yuji Hatanaka
    • Organizer
      the 14th International Conference on Advances in Computer-Human Interactions (ACHI 2021)
    • Related Report
      2021 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 深層学習ネットワークへのHMM適用による分類パターン解釈支援2021

    • Author(s)
      安藤雅行・河原吉伸・砂山渡・畑中裕司
    • Organizer
      第27回人工知能学会インタラクティブ情報アクセスと可視化マイニング研究会
    • Related Report
      2021 Annual Research Report
  • [Presentation] HMMを利用した深層学習ネットワークからの分類パターンの解釈支援システム2021

    • Author(s)
      安藤雅行・砂山渡・畑中裕司
    • Organizer
      第35回人工知能学会全国大会
    • Related Report
      2021 Annual Research Report
  • [Presentation] Do the Number of Creators and Their Conversations Affect Re-Evaluation of a Familiar Place in Making a Tourist Map?2021

    • Author(s)
      Yoko Nishihara, Xinran Lin, and Ryosuke Yamanishi
    • Organizer
      the 14th International Conference on Advances in Computer-Human Interactions (ACHI 2021)
    • Related Report
      2021 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Knowledge-Based Regularization in Generative Modeling2020

    • Author(s)
      N. Takeishi, and Y. Kawahara
    • Organizer
      the 29th Int'l Joint Conf. on Artificial Intelligence and the 17th Pacific Rim Int'l Conf. on Artificial Intelligence (IJCAI-PRICAI'20)
    • Related Report
      2020 Research-status Report
    • Int'l Joint Research
  • [Presentation] Extraction of Question-related Sentences for Reading Comprehension Tests via Attention Mechanism2020

    • Author(s)
      Junjie Shan, Yoko Nishihara, Akira Maeda, and Ryosuke Yamanishi
    • Organizer
      the 2020 International Conference on Technologies and Applications of Artificial Intelligence
    • Related Report
      2020 Research-status Report
    • Int'l Joint Research
  • [Presentation] HMMを利用した深層学習ネットワークからの分類パターンの抽出と解釈2020

    • Author(s)
      安藤雅行・河原吉伸・砂山渡・畑中裕司
    • Organizer
      第34回人工知能学会全国大会
    • Related Report
      2020 Research-status Report
  • [Presentation] 単語の組み合わせによるテキスト集合のラベルの自動生成2020

    • Author(s)
      若園紫乃・砂山渡
    • Organizer
      第26回人工知能学会インタラクティブ情報アクセスと可視化マイニング研究会
    • Related Report
      2020 Research-status Report
  • [Presentation] 深層学習を用いたTwitterユーザからの趣味情報の抽出2020

    • Author(s)
      若宮悠希,砂山渡,畑中裕司,小郷原一智
    • Organizer
      第24回人工知能学会インタラクティブ情報アクセスと可視化マイニング研究会
    • Related Report
      2019 Research-status Report
  • [Presentation] HMMを利用した深層学習ネットワークからの分類パターンの抽出と可視化2019

    • Author(s)
      安藤雅行,河原吉伸,砂山渡,畑中裕司
    • Organizer
      第23回人工知能学会インタラクティブ情報アクセスと可視化マイニング研究会
    • Related Report
      2019 Research-status Report
  • [Presentation] 深層学習における学習ネットワークからの分類パターンの抽出2019

    • Author(s)
      安藤雅行,河原吉伸,砂山渡,畑中裕司
    • Organizer
      第33回人工知能学会全国大会
    • Related Report
      2019 Research-status Report
  • [Presentation] Question Generation for Reading Comprehension of Language Learning Test2019

    • Author(s)
      Junjie Shan, Yoko Nishihara, Ryosuke Yamanishi, and Akira Maeda
    • Organizer
      2019 International Conference on Technologies and Applications of Artificial Intelligence
    • Related Report
      2019 Research-status Report

URL: 

Published: 2019-04-18   Modified: 2023-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi