2020 Fiscal Year Annual Research Report
Automatic detection of toxic expressions considering coined/hidden words and contexts for preventing cyber bullying among children
| Project/Area Number |
17K13254
|
|---|
| Research Institution | Ritsumeikan University |
|---|
Principal Investigator |
西原 陽子 立命館大学, 情報理工学部, 准教授 (70512101)
|
|---|
| Project Period (FY) |
2017-04-01 – 2021-03-31
|
| Keywords | ネットいじめ |
|---|
| Outline of Annual Research Achievements |
本年度はネットいじめに関わる投稿が特定された時に、それの投稿取り消しを促すメッセージを示すことの効果を検証する実験を行い、その成果をまとめた。具体的にはネットいじめがメッセンジャー型のアプリでのテキストメッセージや画像の送信により行われるとし、直接的な悪口が含まれるメッセージが投稿された場合と、間接的な悪口が含まれるメッセージが投稿された場合とに分け、それぞれの取り下げを促すメッセージとして最も効果的なものを大規模なアンケート調査を行うことで明らかにした。
本研究ではネットいじめに関わる投稿が検出された時に、それを単にフィルタリングするだけでは投稿を抑止することにはつながらず、返って投稿者の心を刺激し、なんとかネットいじめの投稿をしようとする方向へ導く可能性があると考えている。そこで、機械的に取り消すのではなく、投稿者自身の判断で取り下げをしてもらうためのメッセージを示すことを考えた。メッセージとしては心の中での独り言を促すセルフトーク型のメッセージを新しく提案した。このセルフトーク型のメッセージと禁止型のメッセージを比較し、どちらの方が効果が高いかを検証した。
アンケート調査の結果、禁止型よりもセルフトーク型メッセージの方が効果が高いことが明らかになった。また直接的な悪口が含まれる場合にはセルフトーク型のメッセージの効果が大きいが、間接的な悪口が含まれる場合には効果が下がることも明らかになった。これは間接的な悪口の場合は機械が誤判定を行っていると考えられることが多く、そのためにセルフトーク型のメッセージの信憑性も低くなったためと考えている。
本研究の実施により直接的な悪口、間接的な悪口が含まれるメッセージの判定が一定程度可能となった。そして、悪口の取り下げを促すメッセージの特性も明らかになった。
|
Research Products
(1 results)
