深層学習モデルの判断根拠提示のための統一的方法の開発

2020 年度 研究成果報告書

• 研究課題/領域番号: 18K18106
• 研究種目: 若手研究
• 配分区分: 基金
• 審査区分: 小区分61030:知能情報学関連
• 研究機関: 大阪大学
• 研究代表者: 原 聡 大阪大学, 産業科学研究所, 准教授 (40780721)
• 研究期間 (年度): 2018-04-01 – 2021-03-31
• キーワード: 機械学習 / 深層学習 / 説明可能AI

研究成果の概要

深層学習モデルは一般にとても複雑な構造をしており、モデルの判断根拠をユーザが窺い知ることは困難である。そのため、深層学習モデルの判断根拠を説明するための「説明法」の研究が必要となる。本研究では「統一的な判断根拠提示法」の確立に向けて「入出力間の影響度の計算」及び「類似データ・重要データの提示」の研究に取り組んだ。本研究ではこれら個別の説明法をさらに発展させるとともに、これら両者の側面を併せ持った説明法を開発した。

自由記述の分野

機械学習

研究成果の学術的意義や社会的意義

深層学習モデルは高い予測・認識精度を誇る一方で、一般にとても複雑な構造をしており、モデルの判断根拠をユーザが窺い知ることは困難である。このため、深層学習モデルは一般に”ブラックボックス”とされる。”ブラックボックス”性のために深層学習モデルをそのまま人間の重要な意思決定の補助（e.g ローン審査や医療診断など）に用いることは困難である。本研究で開発した説明法はこのような深層学習モデルの”ブラックボックス”性を緩和することができる。これにより、ユーザは高精度な深層学習モデルを、その判断根拠を窺いながら意思決定補助に用いることができるようになる。