• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

子どものネットいじめを防止するための造語・隠語と文脈に対応した有害表現の自動判定

研究課題

研究課題/領域番号 17K13254
研究種目

若手研究(B)

配分区分基金
研究分野 子ども学(子ども環境学)
研究機関立命館大学

研究代表者

西原 陽子  立命館大学, 情報理工学部, 准教授 (70512101)

研究期間 (年度) 2017-04-01 – 2021-03-31
研究課題ステータス 完了 (2020年度)
配分額 *注記
2,600千円 (直接経費: 2,000千円、間接経費: 600千円)
2019年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2018年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2017年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
キーワードネットいじめの防止 / ネットいじめ / 不適切表現 / 言い換えの獲得 / 時系列深層学習 / 文脈の学習 / 情報工学
研究成果の概要

本研究では子どものネットいじめを防止するために、テキストメッセージなどで使われる不適切な表現を自動的に判定する手法を研究した。不適切な表現は直接的な表現と間接的な表現の2種類があるとした。直接的な表現とは、「アホ」「バカ」といった誰が見ても不適切と分かる表現を指す。間接的な表現とは、隠語や造語など文脈によっては不適切となる表現を指す。直接的な表現を判定する手法として辞書ベースの手法を提案した。間接的な表現を判定する手法として、時系列深層学習により文脈を表現し、間接的な不適切表現を判定する手法を提案した。子どもに不適切表現を含むメッセージの投稿の取り下げを促す手法も提案した。

研究成果の学術的意義や社会的意義

不適切な表現の判定は情報フィルタリングの分野で研究が進められてきた。既存研究にも直接的な不適切表現をフィルタリングする手法は提案されているが、隠語や造語を用いることでフィルタリングを回避することは可能であった。本研究では文脈によって不適切な表現となりうる隠語や造語の判定手法を実現した点に意義がある。
不適切な表現が含まれるかどうかを判定することはできるが、結局のところ投稿をするしないはユーザの判断に任されており、不適切な表現の判定だけではネットいじめの防止は難しい。本研究では不適切な表現が含まれる時に取り下げを促す手法を提案し、有用性を確認した点に意義がある。

報告書

(5件)
  • 2020 実績報告書   研究成果報告書 ( PDF )
  • 2019 実施状況報告書
  • 2018 実施状況報告書
  • 2017 実施状況報告書
  • 研究成果

    (5件)

すべて 2021 2019 2018 2017

すべて 雑誌論文 (1件) (うち査読あり 1件) 学会発表 (4件) (うち国際学会 1件)

  • [雑誌論文] セルフトークメッセージの呈示による悪口投稿取り下げの効果分析2021

    • 著者名/発表者名
      西原陽子,藤堂悠杜,山西良典
    • 雑誌名

      電子情報通信学会論文誌A

      巻: 104 ページ: 19-26

    • 関連する報告書
      2020 実績報告書
    • 査読あり
  • [学会発表] SNS上の悪口を含む投稿に対する取り下げを促すフィードバック文の自動生成方法の検討2019

    • 著者名/発表者名
      藤堂 悠杜, 山西 良典, 西原 陽子
    • 学会等名
      第23回インタラクティブ情報アクセスと可視化マイニング研究会
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] Extraction of Paraphrases using Time Series Deep Learning Method2019

    • 著者名/発表者名
      Ryuichi Omi, Yoko Nishihara, and Ryosuke Yamanishi
    • 学会等名
      International MultiConference of Engineers and Computer Scientists 2019
    • 関連する報告書
      2018 実施状況報告書
    • 国際学会
  • [学会発表] 時系列深層学習を用いた言い換え表現の獲得2018

    • 著者名/発表者名
      近江 龍一,西原 陽子,山西 良典
    • 学会等名
      ARG 第13回Webインテリジェンスとインタラクション研究会
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] ドメインにより意味が変化する単語に着目した不適切な表現のフィルタリング2017

    • 著者名/発表者名
      近江龍一、西原陽子、山西良典
    • 学会等名
      JSAI2017
    • 関連する報告書
      2017 実施状況報告書

URL: 

公開日: 2017-04-28   更新日: 2022-01-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi