研究課題/領域番号 |
20K19860
|
研究種目 |
若手研究
|
配分区分 | 基金 |
審査区分 |
小区分61030:知能情報学関連
|
研究機関 | 大阪大学 |
研究代表者 |
原 聡 大阪大学, 産業科学研究所, 准教授 (40780721)
|
研究期間 (年度) |
2020-04-01 – 2024-03-31
|
研究課題ステータス |
交付 (2022年度)
|
配分額 *注記 |
4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
2022年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2021年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
2020年度: 1,690千円 (直接経費: 1,300千円、間接経費: 390千円)
|
キーワード | 機械学習 / 深層学習 / 説明可能AI / 人工知能 |
研究開始時の研究の概要 |
実用に供するレベルの精度の高い機械学習モデルを作ることは必ずしも容易ではなく、開発者の熟練度によって出来上がるモデルの精度には大きな開きがある。本研究では説明可能AI(Explainable AI; XAI)の技術を基盤に、開発者により良いモデルの構築方法について適切にアドバイスする仕組み「説明駆動モデル開発」の研究に取り組む。本研究では特に「説明駆動モデル開発」の基盤技術として、XAIの技術を機械学習モデルの開発へと拡張することで、(i)良い学習方法、および(ii)悪いモデルの修理方法、を推定して開発者へとフィードバックする仕組みの確立を目指す。
|
研究実績の概要 |
2022年度の研究は「研究課題2. 悪いモデルの修理」について重点的に研究に取り組んだ。 前年度の研究において「不公平なモデルの修理」という実用において重要な問題例を見つけることができた。2022年度はこの研究を進め、「不公平なモデルの修理」のための方法論の開発を行った。また、新たな「不公平なモデルの修理」の問題として、「モデルの不確実性の修理」の問題にも着目し研究を行った。モデルの不確実性(予測の不確実性)はユーザがモデルの予測をもとに意思決定を行う際に重要な指標であり、モデルが適切な不確実性を出力できるようにモデルを修理する方法論について研究を行った。 前年度に引き続き学生をアルバイトとして雇用し、関連研究の調査やプログラミング等で研究を補助してもらった。これにより研究を大きく進めて当初計画の「精度改善のためのモデル修理」から「実用上重要な各種指標改善のためのモデル修理」へと研究の幅を広げることができた。
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
1: 当初の計画以上に進展している
理由
「研究課題2. 悪いモデルの修理」では「精度改善のためのモデル修理」を当初の目的としていた。 しかし、研究を進める過程で精度以外にも「公平性」や「不確実性」など機械学習の実用において重要な様々な指標をも「悪いモデルの修理」の対象に含めるべきとの結論に至った。 そこで、研究の対象を広げて「不公平なモデルの修理」「モデルの不確実性の修理」の研究へと取り組み始めた。 これらは当初計画を超えた研究の展開である
|
今後の研究の推進方策 |
2023年度へと研究計画の一部を繰り越した。2023年度は2022年度の研究成果を学会で発表するとともに、本プロジェクトの成果を誰でも利用できるオープンソースとして公開する。
|