| 研究課題/領域番号 |
21K17813
|
|---|
| 研究種目 |
若手研究
|
| 配分区分 | 基金 |
|---|
| 審査区分 |
小区分61030:知能情報学関連
|
|---|
| 研究機関 | 北陸先端科学技術大学院大学 (2022)
関西学院大学 (2021) |
|---|
研究代表者 |
野村 尚新 北陸先端科学技術大学院大学, 先端科学技術研究科, 特別研究員 (40868379)
|
|---|
| 研究期間 (年度) |
2021-04-01 – 2023-03-31
|
| 研究課題ステータス |
中途終了 (2022年度)
|
| 配分額 *注記 |
4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円)
2025年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2024年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2023年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2022年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
2021年度: 1,560千円 (直接経費: 1,200千円、間接経費: 360千円)
|
|---|
| キーワード | 動的認識論理 / 様相論理 / 認識論理 / 不完全情報ゲーム / 人工知能 / 誤情報探知 / 定理自動証明 |
|---|
| 研究開始時の研究の概要 |
動的認識論理は情報取得による認識の変化を扱う論理であるが、これの発展体系として嘘や誤情報といった不確かな情報を扱う体系が考案されている(以下、lieDEL)。本研究は、lieDELの証明論研究を理論的基礎としてこれの定理自動証明器を実装し、この証明器を用いて嘘や誤情報の探知の自動化の可能性を探求する。そして、この結果を嘘といった真偽不明な情報の扱いが重要になる不完全情報ゲームのAIに活用しlieDELの実用性を実験的に検証する。
|
| 研究実績の概要 |
本研究は、認識の変化を形式的に扱う論理である動的認識論理を用いて、これの発展体系として嘘や誤情報といった不確かな情報を形式的に扱うことを目的としている。
昨年度は、OpenAI社のChatGPT（GPT-3, GPT-4）を筆頭に大規模言語モデルがあらゆる場面で話題を席巻した。それに伴いChatGPTの応答に見られるhallucinationとよばれる現象、偽情報をあたかも本当のことのようにアウトプットする現象（深層学習モデルに人間の意図に相当するものを持ち合わせていないが、端的に言えば虚情報）が多くの人に知られた。同様に、Deepfakeなどの映像や画像における生成系AIのめざましい発展と、それらが偽情報の作成に悪用され始めたことでインターネット上における嘘情報を見抜く必要性が広く認知された年であったと言える。
また、ChatGPT（GPT-3、GPT-4）の驚異的な性能が本研究の研究手法にも影響を与えると考えている。たとえば、従来困難だった自然言語から論理式への変換作業を、GPT-3を適切な教師データでファインチューニングすることで容易にすることが可能である。そのため、昨年度は、この変換作業を通じて、SNSやブログなど特定の文脈で暗躍するチャットボットの嘘情報に対して、本研究の嘘探知の仕組みを適用できる可能性を検討した。
GPTのファインチューニングを適切に活用することで、自然言語の論理式への変換や様相論理のモデル設計など、これまでの熟練者しかできなかった作業を容易化することができる。それに伴い、形式論理学の研究が実社会で応用される可能性が格段に高まったと言える。今後も生成AIを効果的に活用し、認識論理学の研究への応用可能性を見定めていきたい。
|
