2024 Fiscal Year Annual Research Report
Robust AI by Integration of Knowledge Representation and Machine Learning
| Project/Area Number |
21H04905
|
|---|
| Research Institution | National Institute of Informatics |
|---|
Principal Investigator |
井上 克巳 国立情報学研究所, 情報学プリンシプル研究系, 教授 (10252321)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
坂間 千秋 和歌山大学, システム工学部, 教授 (20273873)
Phua Yin・Jun 東京科学大学, 情報理工学院, 助教 (20963747)
Nicolas Schwind 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (60646397)
小島 諒介 京都大学, 医学研究科, 講師 (70807651)
|
|---|
| Project Period (FY) |
2021-04-05 – 2025-03-31
|
| Keywords | 知識表現 / 推論 / 機械学習 / 論理プログラミング / ロバストAI / ニューロシンボリックAI |
|---|
| Outline of Annual Research Achievements |
本研究では、機械学習(ML)と知識表現・推論(KR)の両技術を有機的に統合することで、説明可能でありロバスト性も有するようなAI技術基盤の確立を目指し、(A)KR技術の導入によるML技術の説明可能性・更新容易性の向上、(B)ML技術に支えられたロバストなKR技術の開発、(C)MLとKRの統合による画期的なAI応用、という3つの研究目標を設定し研究を進めてきた。研究最終年の2024年度はこれらの3研究を統合し、KRとMLを統合したプラットフォームを提示することを目標とし、以下のような進捗があった。
・統合技術では、記号推論における不変性や対称性を用いて、より大規模な論理プログラムの学習が可能な深層学習モデルを提案した。また画像生成モデルを用いて未知なデータを生成し、継続学習をする画像認識モデルのロバスト性を向上させる技術を提案した。さらに、安定性に関する制約を付加した時系列深層モデルの開発を進め、画像処理における人流解析に制約モデルを導入した場合や、ブラックボックス最適化に制約を加えた場合など、派生的手法への応用も進めた。ニューロシンボリック学習では、深層学習等で画像等の正解ラベルではなく、画像を認識した後で推論を用いて得られる解をラベルとする問題に対し、ベクトル空間における微分可能な論理プログラム学習が有効であることを実証した。
・新たな応用では、議論をモデル化する際に、受け入れ可能な主張と論駁をメタ論理的に表現する新しい枠組を導入し、第３者的立場の視点や議論参加者の信念変化や自己欺瞞的な心理状態を表現可能とした。また、異なるMLモデルから学習する際の挙動を解釈するために、知識発展に対するモデルを開発することで学習の振る舞いを効率的に表現するための手法を開発した。またネットワーク内における通信において、各エージェントがどのように信念を更新すべきかについて新たな考察を加えた。
|
| Research Progress Status |
令和6年度が最終年度であるため、記入しない。
|
| Strategy for Future Research Activity |
令和6年度が最終年度であるため、記入しない。
|
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
[Journal Article] Abductive Reasoning in a Paraconsistent Framework2024
Author(s)
Bienvenu Meghyn, Inoue Katsumi, Kozhemiachenko Daniil
-
Journal Title
Proceedings of the 21st International Conference on Knowledge Representation and Reasoning (KR-2024; Hanoi, Vietnam, November 2-8, 2024)
Volume: -
Pages: 134～144
DOI
Peer Reviewed / Open Access / Int'l Joint Research
-
-
-
-
[Journal Article] Linearly Structured World Representations in Maze-Solving Transformers2024
Author(s)
Michael Ivanitskiy, Alexander Spies, Tilman Rauker, Guillaume Corlouer, Christopher Mathwin, Lucia Quirke, Can Rager, Rusheb Shah, Dan Valentine, Cecilia Diniz Behn, Katsumi Inoue, Samy Wu Fung
-
Journal Title
Proceedings of UniReps: the First Workshop on Unifying Representations in Neural Models). Proceedings of Machine Learning Research
Volume: 243
Pages: 133-143
Peer Reviewed / Open Access / Int'l Joint Research
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
