2019 Fiscal Year Research-status Report
深層学習モデルの判断根拠提示のための統一的方法の開発
| Project/Area Number |
18K18106
|
|---|
| Research Institution | Osaka University |
|---|
Principal Investigator |
原 聡 大阪大学, 産業科学研究所, 助教 (40780721)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | 機械学習 / 深層学習 / 説明可能AI |
|---|
| Outline of Annual Research Achievements |
令和1年度は、「統一的な判断根拠提示法」の確立に向けて「類似データ・重要データの提示」について重点的に取り組んだ。特に、新しい指標案の検討、計算アルゴリズムの構築、そしてその有効性の検証に取り組んだ。
【新しい指標案の検討】従来の指標は「学習された大域最適なモデルへ各学習データが与える影響の大きさ」でもって各学習データの重要度を定義していた。しかし、本研究で対象としている深層学習モデルでは大域最適性が保証されず、従来の指標は適切ではなくなってしまう。そこで、大域最適性がない場合においても適切に定義可能な新しい指標を構築した。具体的には、逐次的なモデルの学習アルゴリズムを対象に、任意のステップにおける「各学習データの与える影響の大きさ」を定義することで、大域最適性を不要とした。
【計算アルゴリズムの構築】新しい指標を計算するための方法として、逐次的な学習に対して「各学習データの与える影響の大きさ」をステップをまたいで伝搬させるアルゴリズムを構築した。これにより、指標の値を効率的に計算することが可能となった。
【有効性の検証】数値実験を行い、新しい指標の有効性を検証した。特に、新しい指標をもとに“有害”な学習データを特定することに成功した。これにより、データについて十分な専門知識をもたない開発者にも学習データから不適切なデータを取り除いて学習されたモデルの精度向上が可能となった。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
「類似データ・重要データの提示」の研究において大きな進展があった。また、これらの成果をまとめて論文として国際会議にて発表した。以上のことから、本研究はおおむね順調に進展していると考える。
|
| Strategy for Future Research Activity |
令和2年度へと研究計画の一部を繰り越した。
令和2年度は国際会議へ採択された令和1年度の研究成果を国際会議で発表するとともに、本プロジェクトの成果を誰でも利用できるオープンソースとして公開する。
|
| Causes of Carryover |
令和1年度の研究成果を令和2年度に開催される国際会議で発表するための参加費・出張旅費に予算をあてる予定である。
|
