2020 年度研究成果報告書

子どものネットいじめを防止するための造語・隠語と文脈に対応した有害表現の自動判定

研究課題

PDF

研究課題/領域番号	17K13254
研究種目	若手研究(B)
配分区分	基金
研究分野	子ども学(子ども環境学)
研究機関	立命館大学
研究代表者	西原陽子立命館大学, 情報理工学部, 准教授 (70512101)
研究期間 (年度)	2017-04-01 – 2021-03-31
キーワード	ネットいじめの防止
研究成果の概要	本研究では子どものネットいじめを防止するために、テキストメッセージなどで使われる不適切な表現を自動的に判定する手法を研究した。不適切な表現は直接的な表現と間接的な表現の2種類があるとした。直接的な表現とは、「アホ」「バカ」といった誰が見ても不適切と分かる表現を指す。間接的な表現とは、隠語や造語など文脈によっては不適切となる表現を指す。直接的な表現を判定する手法として辞書ベースの手法を提案した。間接的な表現を判定する手法として、時系列深層学習により文脈を表現し、間接的な不適切表現を判定する手法を提案した。子どもに不適切表現を含むメッセージの投稿の取り下げを促す手法も提案した。
自由記述の分野	子ども学
研究成果の学術的意義や社会的意義	不適切な表現の判定は情報フィルタリングの分野で研究が進められてきた。既存研究にも直接的な不適切表現をフィルタリングする手法は提案されているが、隠語や造語を用いることでフィルタリングを回避することは可能であった。本研究では文脈によって不適切な表現となりうる隠語や造語の判定手法を実現した点に意義がある。不適切な表現が含まれるかどうかを判定することはできるが、結局のところ投稿をするしないはユーザの判断に任されており、不適切な表現の判定だけではネットいじめの防止は難しい。本研究では不適切な表現が含まれる時に取り下げを促す手法を提案し、有用性を確認した点に意義がある。