AI program that explains statistical data in an evil way by exploiting thinking traits of humans
| Project/Area Number |
21K19795
|
|---|
| Research Category |
Grant-in-Aid for Challenging Research (Exploratory)
|
| Allocation Type | Multi-year Fund |
|---|
| Review Section |
Medium-sized Section 61:Human informatics and related fields
|
|---|
| Research Institution | Kyushu University |
|---|
Principal Investigator |
鈴木 英之進 九州大学, システム情報科学研究院, 教授 (10251638)
|
|---|
| Project Period (FY) |
2021-07-09 – 2025-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥6,370,000 (Direct Cost: ¥4,900,000、Indirect Cost: ¥1,470,000)
Fiscal Year 2022: ¥2,340,000 (Direct Cost: ¥1,800,000、Indirect Cost: ¥540,000)
Fiscal Year 2021: ¥4,030,000 (Direct Cost: ¥3,100,000、Indirect Cost: ¥930,000)
|
|---|
| Keywords | テキスト分類・変換・生成 / 単語埋め込み / 思考特性の悪用 / AIと倫理 / テキスト分類 / 解説判定 / 解説変換 / 解説生成 / 深層学習 |
|---|
| Outline of Research at the Start |
世間の過大な期待に反し，現在のAIは常識が必要な幅広い問題に対処する能力が低いです．この研究では，無害な解説と悪い解説を見分ける，無害な解説を悪い解説に変える，悪い解説を再現するAIプログラムを作ってテストすることで，人間を説得することについて情報科学と情報工学の両面から探求します．このような研究は，前例がほとんどないです．この挑戦によりパラダイムシフトの芽生えを掴むことを目指します．
使用する予定の技術は，ディープラーニング，機械学習，データマイニングです．健康長寿，国際政治経済，パンデミック等の分野が対象です．もちろん，炎上などを避け，研究開発する技術が悪用されないよう，十二分に注意します．
|
| Outline of Annual Research Achievements |
2年目までに考案・開発した統計データに基づく悪い解説を判定・変換・生成する問題と対応するAIシステム群を検討・改良するとともに，大規模言語モデルの活用探究や画像生成における偏見調査なども行った．統計データに基づく悪い解説を判定する改良システムに関する論文と，画像生成における偏見調査を含む論文は各々国際会議に採択され，成功裏に発表を行った．
初年度末にAIES 2022国際会議で発表した統計データに基づく悪い解説を判定するAIシステムは多くの関心を呼んだが，「対象Xが他の多くの対象に比較して性質Yを有す」という種類での正答率が低かった．2年目にこの問題に対処する改良版のAIシステムを考案・実装・検証し，投稿論文にまとめてPACIS 2023国際会議に投稿した．この手法は，フレーズ間の関係を属性付きグラフとして表し，新しく考案したエントロピーを活用するアプローチにより，判定の正確性を大幅に向上することに成功した．ただし国際会議への投稿結果は条件付採択であり，3年目である本年度にさらに改良をすることとなった．努力の甲斐あり，修正版は採択され，成功裏に発表を行った．
2022年に発表されたChatGPT 4.0は，AI研究者に限らず広い層に衝撃を与え，2023年には社会に最も大きな影響を及ぼしたAIシステムとして認知されるに至った．本課題の本質はテキストの意味処理であり，昨年度判明した自然言語処理に関する種々の難問が障害となっているため，ChatGPT 4.0のような大規模言語モデルは重要な要素技術になり得る．本年度は，そのような可能性に加え，ハルシネーションやRAGなどについても探究した．この方向性は，大規模データで事前訓練されたモデルにテキストを含む情報を入力し結果を得るという点において，われわれが数年間取り組んできた画像生成に関連する．この研究における偏見に着目し，調査を行った．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
当初計画した通り，人間の思考特性につけこみ統計データを悪く解説するAIについて，判定，生成，変換問題を定義してそれらを解決するAIシステムを考案・実装・構築し，長寿健康用生活習慣，国際経済常識，大規模感染症騒動の領域においてその有効性を実証する実験を終え，国際会議での論文発表を2件行ったため．
|
| Strategy for Future Research Activity |
自然言語処理に関する種々の難問を大規模言語モデルなどにより解決・軽減する試みに取り組み，開発済みのAIシステムをさらに改良してそれらの有効性を実験で示す．
|
Report
(3 results)
Research Products
(9 results)
