高精度な予測と解釈のしやすさを両立する自己説明型機械学習の研究
Project/Area Number |
22K17953
|
Research Category |
Grant-in-Aid for Early-Career Scientists
|
Allocation Type | Multi-year Fund |
Review Section |
Basic Section 61030:Intelligent informatics-related
|
Research Institution | Chiba Institute of Technology |
Principal Investigator |
吉川 友也 千葉工業大学, 人工知能・ソフトウェア技術研究センター, 主任研究員 (30772040)
|
Project Period (FY) |
2022-04-01 – 2025-03-31
|
Project Status |
Granted (Fiscal Year 2022)
|
Budget Amount *help |
¥4,550,000 (Direct Cost: ¥3,500,000、Indirect Cost: ¥1,050,000)
Fiscal Year 2024: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2023: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2022: ¥2,210,000 (Direct Cost: ¥1,700,000、Indirect Cost: ¥510,000)
|
Keywords | 説明可能AI / XAI / 機械学習 / 深層学習 / 解釈性 |
Outline of Research at the Start |
人工知能(AI)のコア技術であるニューラルネット等の機械学習法は、時として人間が想定しない分類・予測をすることがあるため、社会からはAIの透明性の確保が求められている。 しかし、機械学習法は複雑な構造を持つため、どのように分類・予測を行っているのかを人間が理解することは困難である。 AIの振る舞いの透明性を確保するため、本研究では、高い分類・予測精度とともに、予測結果の根拠を信頼できる形で分かりやすく説明することができる「自己説明型機械学習法」を開発する。 本研究では特に、ニューラルネットとガウス過程に基づく手法を研究する。 また、構築した自己説明型機械学習法を拡張し、画像・動画認識へ応用していく。
|
Outline of Annual Research Achievements |
本研究の目的は、従来の機械学習法が持つ高い精度は維持しつつ、既存の説明手法における問題点を解決するために、高い分類・予測精度とともに、予測結果の根拠を信頼できる形で分かりやすく説明することができる「自己説明型機械学習法」を開発することである。 ここで「説明」とは、機械学習の予測結果に対する特徴の寄与をユーザに示すことである。 本研究における自己説明型機械学習法は、(1)高速な推論、(2)予測と説明の一致性、(3)説明の一貫性、(4)説明の不確実性の提示、(5)高い予測精度、(6)説明の簡素性の6つの性質を満たすことを目指す。
以前から自己説明型機械学習法による予測結果を解釈可能なニューラルネットワークの研究を進めており、2022年度はこの研究成果を論文としてまとめ、国際論文誌に掲載された。この手法は、上記の性質(1),(2),(5)を達成するものである。また、この手法を発展させ、ニューラルネットワークによる予測を簡素なルールを生成して行う研究を行い、研究会で発表した。この手法は、上記の性質(1),(2),(4),(5),(6)を満たすものである。
|
Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
以前から行っていた自己説明型機械学習法の研究を国際論文誌として掲載でき、また、それを発展させた手法の開発も研究会発表ができる程度に進められたため。
|
Strategy for Future Research Activity |
現在行っているニューラルネットワークによる予測を簡素なルールを生成して行う研究を国際会議で発表できるように更に進めていく。
|
Report
(1 results)
Research Products
(2 results)