Project/Area Number |
20K19860
|
Research Category |
Grant-in-Aid for Early-Career Scientists
|
Allocation Type | Multi-year Fund |
Review Section |
Basic Section 61030:Intelligent informatics-related
|
Research Institution | Osaka University |
Principal Investigator |
原 聡 大阪大学, 産業科学研究所, 准教授 (40780721)
|
Project Period (FY) |
2020-04-01 – 2024-03-31
|
Project Status |
Granted (Fiscal Year 2022)
|
Budget Amount *help |
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2022: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2021: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2020: ¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000)
|
Keywords | 機械学習 / 深層学習 / 説明可能AI / 人工知能 |
Outline of Research at the Start |
実用に供するレベルの精度の高い機械学習モデルを作ることは必ずしも容易ではなく、開発者の熟練度によって出来上がるモデルの精度には大きな開きがある。本研究では説明可能AI(Explainable AI; XAI)の技術を基盤に、開発者により良いモデルの構築方法について適切にアドバイスする仕組み「説明駆動モデル開発」の研究に取り組む。本研究では特に「説明駆動モデル開発」の基盤技術として、XAIの技術を機械学習モデルの開発へと拡張することで、(i)良い学習方法、および(ii)悪いモデルの修理方法、を推定して開発者へとフィードバックする仕組みの確立を目指す。
|
Outline of Annual Research Achievements |
2022年度の研究は「研究課題2. 悪いモデルの修理」について重点的に研究に取り組んだ。 前年度の研究において「不公平なモデルの修理」という実用において重要な問題例を見つけることができた。2022年度はこの研究を進め、「不公平なモデルの修理」のための方法論の開発を行った。また、新たな「不公平なモデルの修理」の問題として、「モデルの不確実性の修理」の問題にも着目し研究を行った。モデルの不確実性(予測の不確実性)はユーザがモデルの予測をもとに意思決定を行う際に重要な指標であり、モデルが適切な不確実性を出力できるようにモデルを修理する方法論について研究を行った。 前年度に引き続き学生をアルバイトとして雇用し、関連研究の調査やプログラミング等で研究を補助してもらった。これにより研究を大きく進めて当初計画の「精度改善のためのモデル修理」から「実用上重要な各種指標改善のためのモデル修理」へと研究の幅を広げることができた。
|
Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
「研究課題2. 悪いモデルの修理」では「精度改善のためのモデル修理」を当初の目的としていた。 しかし、研究を進める過程で精度以外にも「公平性」や「不確実性」など機械学習の実用において重要な様々な指標をも「悪いモデルの修理」の対象に含めるべきとの結論に至った。 そこで、研究の対象を広げて「不公平なモデルの修理」「モデルの不確実性の修理」の研究へと取り組み始めた。 これらは当初計画を超えた研究の展開である
|
Strategy for Future Research Activity |
2023年度へと研究計画の一部を繰り越した。2023年度は2022年度の研究成果を学会で発表するとともに、本プロジェクトの成果を誰でも利用できるオープンソースとして公開する。
|
Report
(3 results)
Research Products
(7 results)