• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

深層学習システムの自動テスト技術の確立

研究課題

研究課題/領域番号 19H04086
研究種目

基盤研究(B)

配分区分補助金
応募区分一般
審査区分 小区分60050:ソフトウェア関連
研究機関九州大学

研究代表者

趙 建軍  九州大学, システム情報科学研究院, 教授 (20299580)

研究分担者 鵜林 尚靖  九州大学, システム情報科学研究院, 教授 (80372762)
亀井 靖高  九州大学, システム情報科学研究院, 准教授 (10610222)
馮 尭楷  九州大学, システム情報科学研究院, 助教 (60363389)
馬 雷  九州大学, システム情報科学研究院, 准教授 (70842061)
研究期間 (年度) 2019-04-01 – 2022-03-31
研究課題ステータス 完了 (2022年度)
配分額 *注記
17,160千円 (直接経費: 13,200千円、間接経費: 3,960千円)
2021年度: 4,940千円 (直接経費: 3,800千円、間接経費: 1,140千円)
2020年度: 5,070千円 (直接経費: 3,900千円、間接経費: 1,170千円)
2019年度: 7,150千円 (直接経費: 5,500千円、間接経費: 1,650千円)
キーワードソフトウエアテスト / 深層学習システム / 安全性と信頼性 / ソフトウェアテスト / 信頼性と安全性 / プログラムデバッグ
研究開始時の研究の概要

深層学習は画像処理、音声認識などの応用面で華々しい成功をおさめ、自動運転車や知能ロボットなど、社会基盤に関わる重要な分野での成果が益々期待されている。それと同時に、深層学習システムにおける障害が発生する場合、社会と自然に巨大な災害をもたらす可能性があるため、その信頼性に対する要求が益々高くなっている。本研究では、深層学習システムに対する自動テスト技術を確立することを目的としている。本研究の進展により、深層学習システムに対する系統的な自動テスト技術とそのテスト支援環境が整い、信頼性の高い深層学習システムを構築することが期待できる。

研究成果の概要

本研究では、深層学習システムにおける系統的な自動テスト技術を確立することを目的としている。具体的な研究成果は以下の通りである:(1) 深層学習システムの総合的なテストカバレッジ基準を設計・開発した。(2) 深層学習システムにおける不具合の自動テスト生成フレームワークを構築した。(3) 深層学習システムにおける不具合の自動修正と性能向上技術を開発した。(4) 提案した手法の有効性を実用的な深層学習システムへの適用によって検証した。

本研究の進展により、深層学習システムにおける系統的な自動テスト技術とそのテスト支援環境が整備され、信頼性の高い深層学習システムの構築が期待される。

研究成果の学術的意義や社会的意義

【学術意義】本研究では、深層学習システムのテストカバレッジ基準設計、不具合の自動テスト生成フレームワーク構築、不具合の自動修正と性能向上技術の開発を行った。提案手法は実用的なシステムへの適用によって検証され、深層学習システムの評価と検証手段の整備に貢献した。

【社会意義】本研究の進展により、深層学習システムにおける系統的な自動テスト技術と支援環境が整備され、信頼性の高いシステム構築が期待される。これにより、深層学習技術は医療、交通、金融など多様な領域において高品質かつ安全なシステムとして社会にポジティブな影響を与えることが期待される。

報告書

(4件)
  • 2022 研究成果報告書 ( PDF )
  • 2021 実績報告書
  • 2020 実績報告書
  • 2019 実績報告書
  • 研究成果

    (33件)

すべて 2023 2021 2020 2019 その他

すべて 国際共同研究 (8件) 雑誌論文 (2件) (うち国際共著 2件、 査読あり 2件、 オープンアクセス 2件) 学会発表 (21件) (うち国際学会 21件、 招待講演 1件) 学会・シンポジウム開催 (2件)

  • [国際共同研究] University of Alberta(カナダ)

    • 関連する報告書
      2021 実績報告書
  • [国際共同研究] Tianjin University/Zhejiang Sci-Tech University(中国)

    • 関連する報告書
      2021 実績報告書
  • [国際共同研究] Alibaba (USA)(米国)

    • 関連する報告書
      2021 実績報告書
  • [国際共同研究] Nanyang Technological University(シンガポール)

    • 関連する報告書
      2021 実績報告書
  • [国際共同研究] Nanyang Technological University/A*Star(シンガポール)

    • 関連する報告書
      2020 実績報告書
  • [国際共同研究] Tianjin University/Univ. of Science and Technology of China/Shanghai Jiao Tong University(中国)

    • 関連する報告書
      2020 実績報告書
  • [国際共同研究] Nanyang Technological University(シンガポール)

    • 関連する報告書
      2019 実績報告書
  • [国際共同研究] Shanghai Jiao Tong University/Tianjin University(中国)

    • 関連する報告書
      2019 実績報告書
  • [雑誌論文] FalsifAI: Falsification of AI-Enabled Hybrid Control Systems Guided by Time-Aware Coverage Criteria2023

    • 著者名/発表者名
      Zhang Zhenya、Lyu Deyun、Arcaini Paolo、Ma Lei、Hasuo Ichiro、Zhao Jianjun
    • 雑誌名

      IEEE Transactions on Software Engineering

      巻: 49 号: 4 ページ: 1842-1859

    • DOI

      10.1109/tse.2022.3194640

    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] DeepRepair: Style-Guided Repairing for Deep Neural Networks in the Real-World Operational Environment2021

    • 著者名/発表者名
      Yu Bing、Qi Hua、Qing Guo、Juefei-Xu Felix、Xie Xiaofei、Ma Lei、Zhao Jianjun
    • 雑誌名

      IEEE Transactions on Reliability

      巻: - 号: 4 ページ: 1-16

    • DOI

      10.1109/tr.2021.3096332

    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] Learning to adversarially blur visual object tracking2021

    • 著者名/発表者名
      Qing Guo, Ziyi Cheng, Felix Juefei-Xu, Lei Ma, Xiaofei Xie, Yang Liu, Jianjun Zhao
    • 学会等名
      Proceedings of the IEEE/CVF International Conference on Computer Vision
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Efficientderain: Learning pixel-wise dilation filtering for high-efficiency single-image deraining2021

    • 著者名/発表者名
      Qing Guo, Jingyang Sun, Felix Juefei-Xu, Lei Ma, Xiaofei Xie, Wei Feng, Yang Liu, Jianjun Zhao
    • 学会等名
      Proceedings of the AAAI Conference on Artificial Intelligence (AAAI 2021)
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] On the effectiveness of signal rescaling in hybrid system falsification2021

    • 著者名/発表者名
      Zhenya Zhang, Deyun Lyu, Paolo Arcaini, Lei Ma, Ichiro Hasuo, Jianjun Zhao
    • 学会等名
      NASA Formal Methods: 13th International Symposium, NFM 2021
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Deepmix: Online auto data augmentation for robust visual object tracking2021

    • 著者名/発表者名
      Ziyi Cheng, Xuhong Ren, Felix Juefei-Xu, Wanli Xue, Qing Guo, Lei Ma, Jianjun Zhao
    • 学会等名
      2021 IEEE International Conference on Multimedia and Expo (ICME)
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] Effective hybrid system falsification using monte carlo tree search guided by QB-robustness2021

    • 著者名/発表者名
      Zhenya Zhang, Deyun Lyu, Paolo Arcaini, Lei Ma, Ichiro Hasuo, Jianjun Zhao
    • 学会等名
      Computer Aided Verification: 33rd International Conference, CAV 2021
    • 関連する報告書
      2021 実績報告書
    • 国際学会
  • [学会発表] EfficientDeRain: Learning Pixel-wise Dilation Filtering for High-Efficiency Single-Image Deraining2021

    • 著者名/発表者名
      Qing Guo, Jingyang Sun, Felix Juefei-Xu, Lei Ma, Xiaofei Xie, Wei Feng, Yang Liu, and Jianjun Zhao
    • 学会等名
      The 35th AAAI Conference on Artificial Intelligence (AAAI 2021)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Parallelizing Flow-Sensitive Demand-Driven Points-to Analysis2020

    • 著者名/発表者名
      Haibo Yu, Qiang Sun, Kejun Xiao, Yuting Chen, Tsunenori Mine, Jianjun Zhao
    • 学会等名
      2020 IEEE 20th International Conference on Software Quality, Reliability and Security Companion (QRS-C)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Marble: Model-Based Robustness Analysis of Stateful Deep Learning Systems2020

    • 著者名/発表者名
      Xiaoning Du, Yi Li, Xiaofei Xie, Lei Ma, Yang Liu, Jianjun Zhao
    • 学会等名
      The 35th IEEE/ACM International Conference on Automated Software Engineering (ASE 2020)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Cats Are Not Fish: Deep Learning Testing Calls for Out-Of-Distribution Awareness2020

    • 著者名/発表者名
      David Berend, Xiaofei Xie, Lei Ma, Lingjun Zhou, Yang Liu, Chi Xu, and Jianjun Zhao
    • 学会等名
      The 35th IEEE/ACM International Conference on Automated Software Engineering (ASE 2020)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Few-Shot Guided Mix for DNN Repairing2020

    • 著者名/発表者名
      Xuhong Ren, Bing Yu, Hua Qi, Felix Juefei-Xu, Zhuo Li, Wanli Xue, Lei Ma, and Jianjun Zhao
    • 学会等名
      Proc. 36th IEEE International Conference on Software Maintenance and Evolution (ICSME 2020)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] DeepRhythm: Exposing DeepFakes with Attentional Visual Heartbeat Rhythms2020

    • 著者名/発表者名
      Hua Qi, Qing Guo, Felix Juefei-Xu, Xiaofei Xie, Lei Ma, Wei Feng, Yang Liu, and Jianjun Zhao
    • 学会等名
      The 28th ACM International Conference on Multimedia (ACM MM 2020)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Towards Characterizing Adversarial Defects of Deep Learning Software from the Lens of Uncertainty2020

    • 著者名/発表者名
      Xiyue Zhang, Xiaofei Xie, Lei Ma, Xiaoning Du, Qiang Hu, Yang Liu, Jianjun Zhao, and Meng Sun
    • 学会等名
      The 42nd International Conference on Software Engineering (ICSE 2020)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] How are Deep Learning Models Similar? An Empirical Study on Clone Analysis of Deep Learning Software2020

    • 著者名/発表者名
      Xiongfei Wu, Liangyu Qin, Bing Yu, Xiaofei Xie, Lei Ma, Yinxing Xue, Yang Liu, and Jianjun Zhao
    • 学会等名
      The 28th International Conference on Program Comprehension (ICPC 2020)
    • 関連する報告書
      2020 実績報告書
    • 国際学会
  • [学会発表] Secure Deep Learning Engineering: A Road towards Quality Assurance of Intelligent Systems2019

    • 著者名/発表者名
      Yang Liu, Lei Ma, and Jianjun Zhao
    • 学会等名
      Proc. 21st International Conference on Formal Engineering Methods (ICFEM 2019)
    • 関連する報告書
      2019 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] DeepMutation++: a Mutation Testing Framework for Deep Learning Systems2019

    • 著者名/発表者名
      Qiang Hu, Lei Ma, Xiaofei Xie, Bing Yu, Yang Liu, and Jianjun Zhao
    • 学会等名
      Proc. 34th IEEE/ACM Conference on Automated Software Engineering (ASE 2019)
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] A Quantitative Analysis Framework for Recurrent Neural Network2019

    • 著者名/発表者名
      Xiaoning Du, Xiaofei Xie, Yi Li, Lei Ma, Yang Liu, and Jianjun Zhao
    • 学会等名
      Proc. 34th IEEE/ACM Conference on Automated Software Engineering (ASE 2019)
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] DeepHunter: A Coverage-Guided Fuzzer for Deep Neural Networks2019

    • 著者名/発表者名
      Xiaofei Xie, Hongxu Chen, Yi Li, Lei Ma, Yang Liu, and Jianjun Zhao
    • 学会等名
      Proc. 34th IEEE/ACM Conference on Automated Software Engineering (ASE 2019)
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] An Empirical Study towards Characterizing Deep Learning Development and Deployment across Different Frameworks and Platforms2019

    • 著者名/発表者名
      Qianyu Guo, Sen Chen, Xiaofei Xie, Lei Ma, Qiang Hu, Hongtao Liu, Yang Liu, Jianjun Zhao, Xiaohong Li
    • 学会等名
      Proc. 34th IEEE/ACM Conference on Automated Software Engineering (ASE 2019)
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] DeepStellar: Model-Based Quantitative Analysis of Stateful Deep Learning Systems2019

    • 著者名/発表者名
      Xiaoning Du, Xiaofei Xie, Yi Li, Lei Ma, Yang Liu and Jianjun Zhao
    • 学会等名
      Proc. 27th ACM Joint European Software Engineering Conference and Symposium on the Foundations of Software Engineering (ESEC/FSE 2019)
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] DeepHunter:A Coverage-Guided Fuzz Testing Framework for Deep Neural Networks2019

    • 著者名/発表者名
      Xiaofei Xie, Lei Ma, Felix Juefei-Xu, Minhui Xue, Hongxu Chen, Yang Liu, Jianjun Zhao, Bo Li, Jianxiong Yin, and Simon See
    • 学会等名
      Proc. 28th ACM SIGSOFT International Symposium on Software Testing and Analysis (ISSTA 2019)
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] DeepVisual: A Visual Programming Tool for Deep Learning Systems2019

    • 著者名/発表者名
      Chao Xie, Hua Qi, Lei Ma, and Jianjun Zhao
    • 学会等名
      Proc. 27th IEEE/ACM International Conference on Program Comprehension (ICPC 2019)
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会・シンポジウム開催] The 11th Asia-Pacific Symposium on Internetware (Intertware 2019)2019

    • 関連する報告書
      2019 実績報告書
  • [学会・シンポジウム開催] The 8th Asian-Pacific Workshop on Advanced Software Engineering (AWASE 2019)2019

    • 関連する報告書
      2019 実績報告書

URL: 

公開日: 2019-04-18   更新日: 2024-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi