2018 Fiscal Year Research-status Report
深層学習モデルの判断根拠提示のための統一的方法の開発
| Project/Area Number |
18K18106
|
|---|
| Research Institution | Osaka University |
|---|
Principal Investigator |
原 聡 大阪大学, 産業科学研究所, 助教 (40780721)
|
|---|
| Project Period (FY) |
2018-04-01 – 2020-03-31
|
| Keywords | 機械学習 / 深層学習 / 説明可能AI |
|---|
| Outline of Annual Research Achievements |
30年度は、「統一的な判断根拠提示法」の確立に向けて「入出力間の影響度の計算」について重点的に取り組んだ。特に、新しい指標案の検討、計算アルゴリズムの構築、そしてその有効性の検証に取り組んだ。
【新しい指標案の検討】従来の指標は「入力の微小変化が出力に与える影響の大きさ」でもって入力中の重要な要素と定義していた。新しい指標では「入力の大きな変化が出力に与える影響の小ささ」でもって入力中の"重要でない"要素と定義する。これら二つは単純な線形モデルにおいては等しい定義となるが、深層学習モデルのような複雑なモデルにおいては異なる定義となる。新しい指標は、この意味で従来の指標に対する補完的な指標となっている。
【計算アルゴリズムの構築】新しい指標を計算するための方法として、問題を入力の可変区間を最大化する最適化問題として定式化して、最適化問題を解くためのアルゴリズムを構築した。アルゴリズムの構築に際しては、大規模なモデルでも扱えるように計算効率性に留意した。結果的に、線形計画法に基づく方法、そして確率勾配降下法に基づく方法の二種類を構築することができた。
【有効性の検証】数値実験を行い、新しい指標の有効性を検証した。特に、新しい指標を用いることで、高い精度で"重要でない"入力要素を推定できた。また、この過程で従来の手法の問題や優劣についても確認した。特に興味深い知見として、一部の手法が適切な判断根拠を提示しない可能性があることがわかった。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
「入出力間の影響度の計算」の研究において大きな進展があった。また、これらの成果の一部をまとめて論文として国際ワークショップにて発表した。また、次年度に向けて「類似データの提示」の研究にも着手し基礎検討を行っている。以上のことから、本研究はおおむね順調に進展していると考える。
|
| Strategy for Future Research Activity |
今後は「類似データの提示」について、新しい指標案の検討、計算アルゴリズムの構築、そしてその有効性の検証に取り組む予定である。また、本年度に得られた「入出力間の影響度の計算」と統合することで、「統一的な判断根拠提示法」の確立を目指す。
|
| Causes of Carryover |
研究当初は大規模な計算が可能なGPUワークステーションの購入を検討していた。しかし、クラウドサービスを必要に応じて利用することでより安価に研究の遂行が可能なことがわかった。そのため、ワークステーション購入に見積もっていた分とクラウドサービス利用分との間に差額が生じた。
本年度の取り組みを通じて、大規模な計算には一時的にクラウドサービスを利用した方が効率的なことがわかった。他方、手元で行える小さな計算には安価なワークステーションがあった方がより便利だとの結論にいたった。次年度使用額はワークステーションの購入にあてることで、より一層研究の効果を高められるように環境を整える予定である。
|
Research Products
(3 results)
