• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Automatic detection of toxic expressions considering coined/hidden words and contexts for preventing cyber bullying among children

Research Project

Project/Area Number 17K13254
Research Category

Grant-in-Aid for Young Scientists (B)

Allocation TypeMulti-year Fund
Research Field Childhood science (childhood environment science)
Research InstitutionRitsumeikan University

Principal Investigator

Nishihara Yoko  立命館大学, 情報理工学部, 准教授 (70512101)

Project Period (FY) 2017-04-01 – 2021-03-31
Project Status Completed (Fiscal Year 2020)
Budget Amount *help
¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000)
Fiscal Year 2019: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2018: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2017: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Keywordsネットいじめの防止 / ネットいじめ / 不適切表現 / 言い換えの獲得 / 時系列深層学習 / 文脈の学習 / 情報工学
Outline of Final Research Achievements

In order to prevent cyber bullying among children, this study investigated a method to automatically detect toxic expressions used in text messages and bulletin boards on the Web. I assumed that there are two types of toxic expressions: direct and indirect expressions. Direct expressions are those that anyone can see as toxic, such as "stupid" or "idiot. Indirect expressions are those that can be toxic depending on the context, such as hidden words and coined words. I proposed a dictionary-based method for detecting direct expressions. As a method to detect indirect expressions, I proposed a method to represent the context and detect indirect harmful expressions by using time-series deep learning. Using the obtained automatic detection method, I also proposed a method to encourage children to take down messages containing toxic expressions.

Academic Significance and Societal Importance of the Research Achievements

不適切な表現の判定は情報フィルタリングの分野で研究が進められてきた。既存研究にも直接的な不適切表現をフィルタリングする手法は提案されているが、隠語や造語を用いることでフィルタリングを回避することは可能であった。本研究では文脈によって不適切な表現となりうる隠語や造語の判定手法を実現した点に意義がある。
不適切な表現が含まれるかどうかを判定することはできるが、結局のところ投稿をするしないはユーザの判断に任されており、不適切な表現の判定だけではネットいじめの防止は難しい。本研究では不適切な表現が含まれる時に取り下げを促す手法を提案し、有用性を確認した点に意義がある。

Report

(5 results)
  • 2020 Annual Research Report   Final Research Report ( PDF )
  • 2019 Research-status Report
  • 2018 Research-status Report
  • 2017 Research-status Report
  • Research Products

    (5 results)

All 2021 2019 2018 2017

All Journal Article (1 results) (of which Peer Reviewed: 1 results) Presentation (4 results) (of which Int'l Joint Research: 1 results)

  • [Journal Article] セルフトークメッセージの呈示による悪口投稿取り下げの効果分析2021

    • Author(s)
      西原陽子,藤堂悠杜,山西良典
    • Journal Title

      電子情報通信学会論文誌A

      Volume: 104 Pages: 19-26

    • Related Report
      2020 Annual Research Report
    • Peer Reviewed
  • [Presentation] SNS上の悪口を含む投稿に対する取り下げを促すフィードバック文の自動生成方法の検討2019

    • Author(s)
      藤堂 悠杜, 山西 良典, 西原 陽子
    • Organizer
      第23回インタラクティブ情報アクセスと可視化マイニング研究会
    • Related Report
      2019 Research-status Report
  • [Presentation] Extraction of Paraphrases using Time Series Deep Learning Method2019

    • Author(s)
      Ryuichi Omi, Yoko Nishihara, and Ryosuke Yamanishi
    • Organizer
      International MultiConference of Engineers and Computer Scientists 2019
    • Related Report
      2018 Research-status Report
    • Int'l Joint Research
  • [Presentation] 時系列深層学習を用いた言い換え表現の獲得2018

    • Author(s)
      近江 龍一,西原 陽子,山西 良典
    • Organizer
      ARG 第13回Webインテリジェンスとインタラクション研究会
    • Related Report
      2018 Research-status Report
  • [Presentation] ドメインにより意味が変化する単語に着目した不適切な表現のフィルタリング2017

    • Author(s)
      近江龍一、西原陽子、山西良典
    • Organizer
      JSAI2017
    • Related Report
      2017 Research-status Report

URL: 

Published: 2017-04-28   Modified: 2022-01-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi