• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

人間の思考特性につけこみ統計データを悪く解説するAI

研究課題

研究課題/領域番号 21K19795
研究種目

挑戦的研究(萌芽)

配分区分基金
審査区分 中区分61:人間情報学およびその関連分野
研究機関九州大学

研究代表者

鈴木 英之進  九州大学, システム情報科学研究院, 教授 (10251638)

研究期間 (年度) 2021-07-09 – 2025-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
6,370千円 (直接経費: 4,900千円、間接経費: 1,470千円)
2022年度: 2,340千円 (直接経費: 1,800千円、間接経費: 540千円)
2021年度: 4,030千円 (直接経費: 3,100千円、間接経費: 930千円)
キーワードテキスト分類・変換・生成 / 単語埋め込み / 思考特性の悪用 / AIと倫理 / テキスト分類 / 解説判定 / 解説変換 / 解説生成 / 深層学習
研究開始時の研究の概要

世間の過大な期待に反し,現在のAIは常識が必要な幅広い問題に対処する能力が低いです.この研究では,無害な解説と悪い解説を見分ける,無害な解説を悪い解説に変える,悪い解説を再現するAIプログラムを作ってテストすることで,人間を説得することについて情報科学と情報工学の両面から探求します.このような研究は,前例がほとんどないです.この挑戦によりパラダイムシフトの芽生えを掴むことを目指します.
使用する予定の技術は,ディープラーニング,機械学習,データマイニングです.健康長寿,国際政治経済,パンデミック等の分野が対象です.もちろん,炎上などを避け,研究開発する技術が悪用されないよう,十二分に注意します.

研究実績の概要

2年目までに考案・開発した統計データに基づく悪い解説を判定・変換・生成する問題と対応するAIシステム群を検討・改良するとともに,大規模言語モデルの活用探究や画像生成における偏見調査なども行った.統計データに基づく悪い解説を判定する改良システムに関する論文と,画像生成における偏見調査を含む論文は各々国際会議に採択され,成功裏に発表を行った.
初年度末にAIES 2022国際会議で発表した統計データに基づく悪い解説を判定するAIシステムは多くの関心を呼んだが,「対象Xが他の多くの対象に比較して性質Yを有す」という種類での正答率が低かった.2年目にこの問題に対処する改良版のAIシステムを考案・実装・検証し,投稿論文にまとめてPACIS 2023国際会議に投稿した.この手法は,フレーズ間の関係を属性付きグラフとして表し,新しく考案したエントロピーを活用するアプローチにより,判定の正確性を大幅に向上することに成功した.ただし国際会議への投稿結果は条件付採択であり,3年目である本年度にさらに改良をすることとなった.努力の甲斐あり,修正版は採択され,成功裏に発表を行った.
2022年に発表されたChatGPT 4.0は,AI研究者に限らず広い層に衝撃を与え,2023年には社会に最も大きな影響を及ぼしたAIシステムとして認知されるに至った.本課題の本質はテキストの意味処理であり,昨年度判明した自然言語処理に関する種々の難問が障害となっているため,ChatGPT 4.0のような大規模言語モデルは重要な要素技術になり得る.本年度は,そのような可能性に加え,ハルシネーションやRAGなどについても探究した.この方向性は,大規模データで事前訓練されたモデルにテキストを含む情報を入力し結果を得るという点において,われわれが数年間取り組んできた画像生成に関連する.この研究における偏見に着目し,調査を行った.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

当初計画した通り,人間の思考特性につけこみ統計データを悪く解説するAIについて,判定,生成,変換問題を定義してそれらを解決するAIシステムを考案・実装・構築し,長寿健康用生活習慣,国際経済常識,大規模感染症騒動の領域においてその有効性を実証する実験を終え,国際会議での論文発表を2件行ったため.

今後の研究の推進方策

自然言語処理に関する種々の難問を大規模言語モデルなどにより解決・軽減する試みに取り組み,開発済みのAIシステムをさらに改良してそれらの有効性を実験で示す.

報告書

(3件)
  • 2023 実施状況報告書
  • 2022 実施状況報告書
  • 2021 実施状況報告書
  • 研究成果

    (9件)

すべて 2024 2023 2022 その他

すべて 雑誌論文 (3件) (うち査読あり 3件、 オープンアクセス 3件) 学会発表 (3件) (うち国際学会 3件) 備考 (3件)

  • [雑誌論文] Image Generation from Hyper Scene Graphs with Trinomial Hyperedges Using Object Attention2024

    • 著者名/発表者名
      Ryosuke Miyake, Tetsu Matsukawa, Einoshin Suzuki
    • 雑誌名

      Proc. Nineteenth International Joint Conference on Computer Vision, Imaging and Computer Graphics Theory and Applications (VISIGRAPP 2024)

      巻: 2 ページ: 266-279

    • DOI

      10.5220/0012472500003660

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Judging Credible and Unethical Statistical Data Explanations via Phrase Similarity Graph2023

    • 著者名/発表者名
      Kang Zhang, Einoshin Suzuki
    • 雑誌名

      Proc. 2023 Pacific Asia Conference on Information Systems (PACIS 2023)

      巻: N/A

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Judging Instinct Exploitation in Statistical Data Explanations Based on Word Embedding2022

    • 著者名/発表者名
      Kang Zhang, Hiroaki Shinden, Tatsuki Mutsuro, Einoshin Suzuki
    • 雑誌名

      Proc. Fifth AAAI/ACM Conference on AI, Ethics, and Society (AIES 2022)

      巻: - ページ: 867-879

    • DOI

      10.1145/3514094.3534171

    • 関連する報告書
      2022 実施状況報告書
    • 査読あり / オープンアクセス
  • [学会発表] Image Generation from Hyper Scene Graphs with Trinomial Hyperedges Using Object Attention2024

    • 著者名/発表者名
      Ryosuke Miyake
    • 学会等名
      Nineteenth International Conference on Computer Vision Theory and Applications (VISAPP 2024)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Judging Credible and Unethical Statistical Data Explanations via Phrase Similarity Graph2023

    • 著者名/発表者名
      Kang Zhang
    • 学会等名
      2023 Pacific Asia Conference on Information Systems (PACIS 2023)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Judging Instinct Exploitation in Statistical Data Explanations Based on Word Embedding2022

    • 著者名/発表者名
      Einoshin Suzuki
    • 学会等名
      Fifth AAAI/ACM Conference on AI, Ethics, and Society (AIES 2022)
    • 関連する報告書
      2022 実施状況報告書
    • 国際学会
  • [備考] 人間の思考特性につけこみ統計データを悪く解説するAI

    • URL

      http://www.i.kyushu-u.ac.jp/~suzuki/kaken2122-j.html

    • 関連する報告書
      2023 実施状況報告書 2022 実施状況報告書 2021 実施状況報告書
  • [備考] AI that explains statistical data in evil way

    • URL

      http://www.i.kyushu-u.ac.jp/~suzuki/kaken2122.html

    • 関連する報告書
      2023 実施状況報告書
  • [備考] AI program that explains statistical data

    • URL

      http://www.i.kyushu-u.ac.jp/~suzuki/kaken2122.html

    • 関連する報告書
      2022 実施状況報告書 2021 実施状況報告書

URL: 

公開日: 2021-07-13   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi