| 研究課題/領域番号 |
24K05894
|
|---|
| 研究種目 |
基盤研究(C)
|
| 配分区分 | 基金 |
|---|
| 応募区分 | 一般 |
|---|
| 審査区分 |
小区分09030:子ども学および保育学関連
|
|---|
| 研究機関 | 仁愛大学 |
|---|
研究代表者 |
安彦 智史 仁愛大学, 人間学部, 准教授 (90560475)
|
|---|
| 研究分担者 |
池辺 正典 文教大学, 情報学部, 教授 (10453440)
藤本 雄紀 大阪産業大学, デザイン工学部, 講師 (40711015)
櫻井 淳 文教大学, 情報学部, 准教授 (70711018)
|
|---|
| 研究期間 (年度) |
2024-04-01 – 2028-03-31
|
| 研究課題ステータス |
交付 (2024年度)
|
| 配分額 *注記 |
4,550千円 (直接経費: 3,500千円、間接経費: 1,050千円)
2027年度: 650千円 (直接経費: 500千円、間接経費: 150千円)
2026年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2025年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2024年度: 1,950千円 (直接経費: 1,500千円、間接経費: 450千円)
|
|---|
| キーワード | 子ども学 / AI / SNS / 機械学習 / 違法・有害情報 |
|---|
| 研究開始時の研究の概要 |
青少年のネットトラブルは深刻化の一途を辿っており、重大な社会問題となっている。特に令和4年度は特殊詐欺における「受け子」の総検挙数のうちの5人に1人が20歳未満で、その多くが闇バイト募集としてSNSから情報を得ている。
本研究ではメディア系SNSを対象にAIを用いた有害性評価を目的とする。抽出手法では、「画像」や「動画」に含まれる音声や文字に対してAIを活用した光学文字認識技術と音声認識技術を用いて情報抽出を試みる。そして評価では、インターネットホットラインセンターのガイドラインと比較しつつ、サイバー防犯パトロールにおいて利用可能な水準での有害判定の実現を目指していく。
|
| 研究実績の概要 |
本研究ではメディア系SNSを対象に「重要犯罪密接関連情報」を抽出し、AIを用いた有害性評価を目的とする。
本研究申請段階では、明確になっていなかったＩＨＣの重要犯罪密接関連情報の取り扱いに関して、2023年9月にＩＨＣは「ホットライン運用ガイドライン」を改定し、ＩＨＣの取扱情報の範囲に、著しく高額な報酬の支払を示唆して行う犯罪の実行者を直接的かつ明示的に誘引等（募集）する情報（「犯罪実行者募集情報」と呼称）が追加された。これにともない、本研究においても当初の予定通りメディア系SNSを対象に「重要犯罪密接関連情報」を抽出に向けて研究を進めている。
2024年度の研究では、InstagramやXなどのSNSにおいて、有害投稿を自動的に検出・判定することを目的とし、情報抽出およびクローリングの仕組みの構築に取り組んだ。特に、画像や動画などのラスタデータに対してはGoogle Visionを用いたAI-OCRを活用し、画像内の文字情報を抽出、データベースに蓄積した上で自動判定を行うシステムのプロトタイプを開発した。また、このシステムはX（旧Twitter）とInstagramの両方で運用可能なように設計しており、複数のSNSプラットフォームに対応できる基盤整備を進めている。音声に関しては、県警との連携の中で、有害投稿として実際に問題となる事例が極めて少ないという現状が確認され、2024年度内での対応は見送る判断を下した。全体として、当初の研究計画に沿って順調に進捗していると評価できる。
2025年度以降の研究では、このシステムの社会実装と、その有効性・実用性の検証に取り組む。
|
| 現在までの達成度 |
現在までの達成度
2: おおむね順調に進展している
理由
2024年度の研究では、InstagramやXにおける有害投稿の自動判定を目的として、情報抽出およびクローリングの仕組みの構築に取り組んだ。特に、画像や動画などのラスタデータに対してはGoogle Visionを活用したAI-OCRにより文字情報を抽出し、それをデータベースに蓄積、判定可能なクローリングシステムのプロトタイプを構築した。また、これをX（旧Twitter）とInstagramの両プラットフォームで動作するように調整し、複数SNSへの対応を実現した。音声データに関しては、県警察との協議の中で有害音声投稿の事例が少ないことが判明したため、優先順位を下げ、今後の課題として残している。全体として、研究は計画通り順調に進捗しており、今後は、AI判定の精度向上と、構築したシステムの実社会での応用、及びその適用効果の検証に取り組む予定である。
|
| 今後の研究の推進方策 |
今後の研究では、構築した情報抽出・判定システムを実社会に応用し、その有効性と実用性を検証することを中心に進める。とくにAIによる有害判定の精度向上を図るとともに、実運用を見据えた環境下での動作確認と評価を重ねていく予定である。また、近年は規制の効率化により、SNS上における重要犯罪密接関連情報の傾向や表現が変化しており、これに対応する柔軟な判定基準の見直しが求められている。そこで、県警との連携を強化し、現場の知見を反映させながら判定モデルを継続的にファインチューニングできる仕組みの整備を目指す。さらに、蓄積されつつある過去データと現在のデータを比較し、判定に用いる学習データの特性の変化を分析することで、より高精度かつ汎用性の高いアルゴリズムの選定を進めていく。これにより、社会的有用性の高い研究成果を創出することを目指す。
|
