青少年の被害防止に向けたメディア系SNSでの有害情報の抽出とAIによる評価

• 研究課題/領域番号: 24K05894
• 研究種目: 基盤研究(C)
• 配分区分: 基金
• 応募区分: 一般
• 審査区分: 小区分09030:子ども学および保育学関連
• 研究機関: 仁愛大学
• 研究代表者: 安彦 智史 仁愛大学, 人間学部, 准教授 (90560475)
• 研究分担者: 池辺 正典 文教大学, 情報学部, 教授 (10453440) ; 藤本 雄紀 大阪産業大学, デザイン工学部, 講師 (40711015) ; 櫻井 淳 文教大学, 情報学部, 講師 (70711018)
• 研究期間 (年度): 2024-04-01 – 2028-03-31
• 研究課題ステータス: 交付 (2024年度)
• 配分額: 4,550千円 (直接経費: 3,500千円、間接経費: 1,050千円); 2027年度: 650千円 (直接経費: 500千円、間接経費: 150千円); 2026年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円); 2025年度: 780千円 (直接経費: 600千円、間接経費: 180千円); 2024年度: 1,950千円 (直接経費: 1,500千円、間接経費: 450千円)
• キーワード: 子ども学 / AI / SNS / 機械学習 / 違法・有害情報

研究開始時の研究の概要

青少年のネットトラブルは深刻化の一途を辿っており、重大な社会問題となっている。特に令和4年度は特殊詐欺における「受け子」の総検挙数のうちの5人に1人が20歳未満で、その多くが闇バイト募集としてSNSから情報を得ている。
本研究ではメディア系SNSを対象にAIを用いた有害性評価を目的とする。抽出手法では、「画像」や「動画」に含まれる音声や文字に対してAIを活用した光学文字認識技術と音声認識技術を用いて情報抽出を試みる。そして評価では、インターネットホットラインセンターのガイドラインと比較しつつ、サイバー防犯パトロールにおいて利用可能な水準での有害判定の実現を目指していく。