2023 Fiscal Year Research-status Report
AI program that explains statistical data in an evil way by exploiting thinking traits of humans
| Project/Area Number |
21K19795
|
|---|
| Research Institution | Kyushu University |
|---|
Principal Investigator |
鈴木 英之進 九州大学, システム情報科学研究院, 教授 (10251638)
|
|---|
| Project Period (FY) |
2021-07-09 – 2025-03-31
|
| Keywords | テキスト分類・変換・生成 / 単語埋め込み / 思考特性の悪用 / AIと倫理 |
|---|
| Outline of Annual Research Achievements |
2年目までに考案・開発した統計データに基づく悪い解説を判定・変換・生成する問題と対応するAIシステム群を検討・改良するとともに，大規模言語モデルの活用探究や画像生成における偏見調査なども行った．統計データに基づく悪い解説を判定する改良システムに関する論文と，画像生成における偏見調査を含む論文は各々国際会議に採択され，成功裏に発表を行った．
初年度末にAIES 2022国際会議で発表した統計データに基づく悪い解説を判定するAIシステムは多くの関心を呼んだが，「対象Xが他の多くの対象に比較して性質Yを有す」という種類での正答率が低かった．2年目にこの問題に対処する改良版のAIシステムを考案・実装・検証し，投稿論文にまとめてPACIS 2023国際会議に投稿した．この手法は，フレーズ間の関係を属性付きグラフとして表し，新しく考案したエントロピーを活用するアプローチにより，判定の正確性を大幅に向上することに成功した．ただし国際会議への投稿結果は条件付採択であり，3年目である本年度にさらに改良をすることとなった．努力の甲斐あり，修正版は採択され，成功裏に発表を行った．
2022年に発表されたChatGPT 4.0は，AI研究者に限らず広い層に衝撃を与え，2023年には社会に最も大きな影響を及ぼしたAIシステムとして認知されるに至った．本課題の本質はテキストの意味処理であり，昨年度判明した自然言語処理に関する種々の難問が障害となっているため，ChatGPT 4.0のような大規模言語モデルは重要な要素技術になり得る．本年度は，そのような可能性に加え，ハルシネーションやRAGなどについても探究した．この方向性は，大規模データで事前訓練されたモデルにテキストを含む情報を入力し結果を得るという点において，われわれが数年間取り組んできた画像生成に関連する．この研究における偏見に着目し，調査を行った．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
当初計画した通り，人間の思考特性につけこみ統計データを悪く解説するAIについて，判定，生成，変換問題を定義してそれらを解決するAIシステムを考案・実装・構築し，長寿健康用生活習慣，国際経済常識，大規模感染症騒動の領域においてその有効性を実証する実験を終え，国際会議での論文発表を2件行ったため．
|
| Strategy for Future Research Activity |
自然言語処理に関する種々の難問を大規模言語モデルなどにより解決・軽減する試みに取り組み，開発済みのAIシステムをさらに改良してそれらの有効性を実験で示す．
|
| Causes of Carryover |
新型コロナウィルス感染症の拡大による研究計画変更等に伴い，補助事業期間を再度延長することを決定し，申請して承認を得た．残額は令和６年度に上記の推進のために使用する．
|
