• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

要求と実装のトレーサビリティー追求による深層学習システムの高品質化

研究課題

研究課題/領域番号 23K21657
補助金の研究課題番号 21H03420 (2021-2023)
研究種目

基盤研究(B)

配分区分基金 (2024)
補助金 (2021-2023)
応募区分一般
審査区分 小区分60050:ソフトウェア関連
研究機関国立情報学研究所

研究代表者

石川 冬樹  国立情報学研究所, アーキテクチャ科学研究系, 准教授 (50455193)

研究分担者 前澤 悠太  株式会社Udzuki(研究部), 研究部, 部長 (90759771)
Zhang Xiaoyi  国立情報学研究所, アーキテクチャ科学研究系, 特任研究員 (70883528)
研究期間 (年度) 2021-04-01 – 2025-03-31
研究課題ステータス 交付 (2024年度)
配分額 *注記
16,900千円 (直接経費: 13,000千円、間接経費: 3,900千円)
2024年度: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2023年度: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2022年度: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2021年度: 4,030千円 (直接経費: 3,100千円、間接経費: 930千円)
キーワード深層学習 / 欠陥局所化 / プログラム自動修正 / デバッグ / Fault Localization
研究開始時の研究の概要

自動運転など品質が非常に重要となる領域も含め深層学習の産業応用が追求されているが,Deep Neural Network(以後DNN)の複雑さ・ブラックボックス性から,品質の保証や向上が難しい.本研究では,DNNにおいて要求の一部分と実装の一部分を対応づけるトレーサビリティーを実現する技術に取り組む.焦点として,DNNの内部挙動のパターンや多様性をとらえる指標を用いることで,それらがどう要求充足の程度,すなわち品質に関連するかを追求し,この関連性を用いたテスト技術やデバッグ技術を確立する.これにより,対象システム固有の要求に応じて意義ある品質の評価や改善を効果的・効率的に行えるようにする.

研究実績の概要

機械学習,特に深層学習の技術進歩を受け,自動運転など品質が非常に重要となる領域も含め様々な産業応用が追求されている.一方で,深層学習で用いるDeep Neural Network(以後DNN)は,その複雑さ・ブラックボックス性から,品質の保証や向上の困難さが指摘されている.本研究では,DNNにおいて要求の一部分と実装の一部分を対応づけるトレーサビリティーを実現する技術に取り組む.本研究の焦点として,DNNの内部挙動のパターンや多様性をとらえる指標を用いることで,それらがどう要求充足の程度,すなわち品質に関連するかを追求する.その上でこの関連性を用いたテスト技術やデバッグ技術を確立する.これにより,対象システム固有の要求に応じて意義ある品質の評価や改善を効果的・効率的に行うことができるようにする.
本年度(2023年度)においては,産業界の要望を踏まえたベンチマークでの評価を通し,これまでに構築した,DNNの振る舞いに関する分析・修正手法を深化させた.自動車業界の企業やAIベンダーの企業において,プロジェクト固有のニーズや,ステークホルダーが重視する点をヒアリングし,それらを踏まえた実証的な評価を行うとともに,そのフィードバックを手法の実装に反映する検討を行った.

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

産業界との議論、旗艦国際会議での論文発表などを順調に行うことができた。

今後の研究の推進方策

これまでの成果について得られたフィードバックを反映しつつ、最終的な成果が広く利用可能になるように整備する。

報告書

(3件)
  • 2023 実績報告書
  • 2022 実績報告書
  • 2021 実績報告書
  • 研究成果

    (9件)

すべて 2023 2021 その他

すべて 国際共同研究 (3件) 学会発表 (6件) (うち国際学会 6件)

  • [国際共同研究] Polytechnic University of Milan(イタリア)

    • 関連する報告書
      2023 実績報告書
  • [国際共同研究] Univ. of Science and Technology Beijing(中国)

    • 関連する報告書
      2023 実績報告書
  • [国際共同研究] Technical University of Munich(ドイツ)

    • 関連する報告書
      2023 実績報告書
  • [学会発表] Adaptive Search-based Repair of Deep Neural Networks2023

    • 著者名/発表者名
      Davide Li Calsi, Matias Duran, Thomas Laurent, Xiao-Yi Zhang, Paolo Arcaini, Fuyuki Ishikawa
    • 学会等名
      The Genetic and Evolutionary Computation Conference (GECCO 2023)
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Distributed Repair of Deep Neural Networks2023

    • 著者名/発表者名
      Davide Li Calsi, Matias Duran, Xiao-Yi Zhang, Paolo Arcaini, Fuyuki Ishikawa
    • 学会等名
      The 16th IEEE International Conference on Software Testing, Verification and Validation (ICST 2023)
    • 関連する報告書
      2023 実績報告書 2022 実績報告書
    • 国際学会
  • [学会発表] An Experience Report on Regression-Free Repair of Deep Neural Network Model2023

    • 著者名/発表者名
      Takao Nakagawa, Susumu Tokumoto, Shogo Tokui, Fuyuki Ishikawa
    • 学会等名
      The 30th IEEE International Conference on Software Analysis, Evolution and Reengineering (SANER 2023 Industry Track)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] NeuRecover: Regression-Controlled Repair of Deep Neural Networks with Training History2021

    • 著者名/発表者名
      Shogo Tokui, Susumu Tokumoto, Akihito Yoshii, Fuyuki Ishikawa, Takao Nakagawa, Kazuki Munakata and Shinji Kikuchi
    • 学会等名
      The 29th IEEE International Conference on Software Analysis, Evolution and Reengineering (SANER 2022)
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] What to Blame? On the Granularity of Fault Localization for Deep Neural Networks2021

    • 著者名/発表者名
      Matias Duran, Xiao-Yi Zhang, Paolo Arcaini, Fuyuki Ishikawa
    • 学会等名
      The 32nd International Symposium on Software Reliability Engineering (ISSRE 2021 Practical Experience Reports)
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Model-based Data-Complexity Estimator for Deep Learning Systems2021

    • 著者名/発表者名
      Yuta Ojima, Shingo Horiuchi, Fuyuki Ishikawa
    • 学会等名
      The 3rd IEEE International Conference on Artificial Intelligence Testing (IEEE AI Tests 2021)
    • 関連する報告書
      2021 実績報告書
    • 国際学会

URL: 

公開日: 2021-04-28   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi