青少年の被害防止に向けたメディア系SNSでの有害情報の抽出とAIによる評価

• Project/Area Number: 24K05894
• Research Category: Grant-in-Aid for Scientific Research (C)
• Allocation Type: Multi-year Fund
• Section: 一般
• Review Section: Basic Section 09030:Childhood and nursery/pre-school education-related
• Research Institution: Jin-ai University
• Principal Investigator: 安彦 智史 仁愛大学, 人間学部, 准教授 (90560475)
• Co-Investigator(Kenkyū-buntansha): 池辺 正典 文教大学, 情報学部, 教授 (10453440) ; 藤本 雄紀 大阪産業大学, デザイン工学部, 講師 (40711015) ; 櫻井 淳 文教大学, 情報学部, 講師 (70711018)
• Project Period (FY): 2024-04-01 – 2028-03-31
• Project Status: Granted (Fiscal Year 2024)
• Budget Amount: ¥4,550,000 (Direct Cost: ¥3,500,000、Indirect Cost: ¥1,050,000); Fiscal Year 2027: ¥650,000 (Direct Cost: ¥500,000、Indirect Cost: ¥150,000); Fiscal Year 2026: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000); Fiscal Year 2025: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000); Fiscal Year 2024: ¥1,950,000 (Direct Cost: ¥1,500,000、Indirect Cost: ¥450,000)
• Keywords: 子ども学 / AI / SNS / 機械学習 / 違法・有害情報

Outline of Research at the Start

青少年のネットトラブルは深刻化の一途を辿っており、重大な社会問題となっている。特に令和4年度は特殊詐欺における「受け子」の総検挙数のうちの5人に1人が20歳未満で、その多くが闇バイト募集としてSNSから情報を得ている。
本研究ではメディア系SNSを対象にAIを用いた有害性評価を目的とする。抽出手法では、「画像」や「動画」に含まれる音声や文字に対してAIを活用した光学文字認識技術と音声認識技術を用いて情報抽出を試みる。そして評価では、インターネットホットラインセンターのガイドラインと比較しつつ、サイバー防犯パトロールにおいて利用可能な水準での有害判定の実現を目指していく。