• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実績報告書

ステートフル深層学習システムに対する総合的解析と修復技術の確立

研究課題

研究課題/領域番号 20H04168
研究機関九州大学

研究代表者

馬 雷  九州大学, システム情報科学研究院, 准教授 (70842061)

研究分担者 佐藤 周行  東京大学, 情報基盤センター, 准教授 (20225999)
趙 建軍  九州大学, システム情報科学研究院, 教授 (20299580)
石川 冬樹  国立情報学研究所, アーキテクチャ科学研究系, 准教授 (50455193)
鵜林 尚靖  九州大学, システム情報科学研究院, 教授 (80372762)
研究期間 (年度) 2020-04-01 – 2023-03-31
キーワードソフトウェア工学 / 知能ソフトウェア解析 / 深層学習 / 機械学習工学 / 回帰型ニューラルネットワーク解析 / 機械学習品質保証
研究実績の概要

深層学習(DL)は画像処理、音声認識、自然言語処理、及び囲碁などの応用面で華々しい成功をおさめ、自動運転車やロボットなど、社会基盤に関わる重要な分野での成果が益々期待されている。それと同時に、DLシステムにおける障害が発生する場合、社会に巨大な災害をもたらす可能性があるため、その信頼性と安全性に対する要求が益々高くなっている。本研究では、ステートフル深層学習システム(RNN)に対する系統的解析と修正技術の確立を目的としている。

今年度は昨年度の研究に基づいて、主要的な抽象モデルの抽出方法と解析とテスト生成フレームワークの構築と開発した。具体的には:1)RNNから抽象モデルの抽出方法とツールを完成し、提出された手法を実験で評価した。2) RNN自動解析とテスト生成フレームワークの開発した。3)RNNの修正技術を探索研究を行った。 4)それぞれの提出された技術が大規模で実験され、有効性を検証した。5)今年度それぞれの研究結果がまとめて国際会議と雑誌を投稿した。

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

当初提案されたの研究計画に向けて、順調に進んでいる。

今後の研究の推進方策

今後の研究実施計画では、2020~2021年度の研究に基づいて、主要的な目標はRNNテスト、分析と修正技術を提案と開発を完成し、同一フレームワークを開発と統合する。更に提案された技術とフレームワークは大規模の評価を行って、関連重要分野での実用性と適用性を検証する 。
具体的には: 1)カバレッジに基づくテストフレームワークの開発を統合と完成し、提出された手法を実験する。2)RNNのOnlineによる分析と修正技術を開発する。3)RNNのOfflineによる分析と修正技術を開発する。4)提出されたテスト、分析と修正技術が総合フレームワークで統合する。5) さらなる、各技術の実用性と適用性重要的な関連分野で大規模の検証と実験を行う、例えば:自然言語処理、音声認識など。6)それぞれ提出され技術と研究成果を執筆し、国際会議と雑誌論文を投稿する。

  • 研究成果

    (20件)

すべて 2022 2021 その他

すべて 国際共同研究 (4件) 雑誌論文 (3件) (うち国際共著 2件、 査読あり 3件、 オープンアクセス 1件) 学会発表 (13件) (うち国際学会 13件)

  • [国際共同研究] Nanyang Technological University(シンガポール)

    • 国名
      シンガポール
    • 外国機関名
      Nanyang Technological University
  • [国際共同研究] University of Calgary(カナダ)

    • 国名
      カナダ
    • 外国機関名
      University of Calgary
  • [国際共同研究] Peking University/Tianjin University(中国)

    • 国名
      中国
    • 外国機関名
      Peking University/Tianjin University
  • [国際共同研究] Iowa State University(米国)

    • 国名
      米国
    • 外国機関名
      Iowa State University
  • [雑誌論文] NPC: Neuron Path Coverage via Characterizing Decision Logic of Deep Neural Networks2022

    • 著者名/発表者名
      Xie Xiaofei、Li Tianlin、Wang Jian、Ma Lei、Guo Qing、Juefei-Xu Felix、Liu Yang
    • 雑誌名

      ACM Transactions on Software Engineering and Methodology

      巻: 31 ページ: 1~27

    • DOI

      10.1145/3490489

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Formalism-Driven Development: Concepts, Taxonomy, and Practice2022

    • 著者名/発表者名
      Ding Yepeng、Sato Hiroyuki
    • 雑誌名

      Applied Sciences

      巻: 12 ページ: 3415~3415

    • DOI

      10.3390/app12073415

    • 査読あり
  • [雑誌論文] DeepRepair: Style-Guided Repairing for Deep Neural Networks in the Real-World Operational Environment2021

    • 著者名/発表者名
      Yu Bing、Qi Hua、Qing Guo、Juefei-Xu Felix、Xie Xiaofei、Ma Lei、Zhao Jianjun
    • 雑誌名

      IEEE Transactions on Reliability

      巻: - ページ: 1~16

    • DOI

      10.1109/TR.2021.3096332

    • 査読あり / 国際共著
  • [学会発表] NeuRecover: Regression-Controlled Repair of Deep Neural Networks with Training History2022

    • 著者名/発表者名
      Shogo Tokui, Susumu Tokumoto, Akihito Yoshii, Fuyuki Ishikawa, Takao Nakagawa, Kazuki Munakata and Shinji Kikuchi
    • 学会等名
      The 29th IEEE International Conference on Software Analysis, Evolution and Reengineering (SANER 2022), March 2022
    • 国際学会
  • [学会発表] Formalism-Driven Development of Decentralized Systems2022

    • 著者名/発表者名
      Yepeng Ding, Hiroyuki Sato
    • 学会等名
      Proc. 26th Int'l Conf. Engineering of Complex Computer Systems, March, 2022
    • 国際学会
  • [学会発表] Learning to Adversarially Blur Visual Object Tracking2021

    • 著者名/発表者名
      Qing Guo, Ziyi Cheng, Felix Juefei-Xu, Lei Ma, Xiaofei Xie, Yang Liu, and Jianjun Zhao
    • 学会等名
      International Conference on Computer Vision, Montreal, Canada, 2021 (ICCV 2021, CORE Rank A*)
    • 国際学会
  • [学会発表] Automatic RNN Repair via Model-based Analysis2021

    • 著者名/発表者名
      Xiaofei Xie, Wenbo Guo, Lei Ma, Wei Le, Jian Wang, Lingjun Zhou, Yang Liu, Xinyu Xing
    • 学会等名
      The 38th International Conference on Machine Learning, 2021 (ICML 2021, CORE Rank A*)
    • 国際学会
  • [学会発表] Effective Hybrid System Falsification Using Monte Carlo Tree Search Guided by QB-Robustness2021

    • 著者名/発表者名
      Zhenya Zhang, Deyun Lyu, Paolo Arcaini, Lei Ma, Ichiro Hasuo and Jianjun Zhao
    • 学会等名
      The 33rd International Conference on Computer-Aided Verification, 2021 (CAV 2021, CORE Rank A*)
    • 国際学会
  • [学会発表] Automatic Web Testing using Curiosity-Driven Reinforcement Learning2021

    • 著者名/発表者名
      Yan Zheng, Yi Liu, Xiaofei Xie, Yepang Liu, Lei Ma, Jianye Hao, and Yang Liu
    • 学会等名
      The 43rd International Conference on Software Engineering (ICSE 2021, CORE Rank A*)
    • 国際学会
  • [学会発表] A Search-Based Testing Framework for Deep Neural Networks of Source Code Embedding2021

    • 著者名/発表者名
      Maryam V. Pour, Li Zhuo, Lei Ma and Hadi Hemmati
    • 学会等名
      IEEE International Conference on Software Testing, Verification and Validation (ICST 2021, CORE Rank A)
    • 国際学会
  • [学会発表] Decision-Guided Weighted Automata Extraction from Recurrent Neural Networks2021

    • 著者名/発表者名
      Xiyue Zhang, Xiaoning Du, Xiaofei Xie, Lei Ma, Yang Liu, Meng Sun
    • 学会等名
      Thirty-Fifth AAAI Conference on Artificial Intelligence (AAAI 2021, CORE Rank A*)
    • 国際学会
  • [学会発表] EfficientDeRain: Learning Pixel-wise Dilation Filtering for High-Efficiency Single-Image Deraining2021

    • 著者名/発表者名
      Qing Guo, Jingyang Sun, Felix Juefei-Xu, Lei Ma, Xiaofei Xie, Wei Feng, Yang Liu, and Jianjun Zhao
    • 学会等名
      Thirty-Fifth AAAI Conference on Artificial Intelligence (AAAI 2021, CORE Rank A*)
    • 国際学会
  • [学会発表] What to Blame? On the Granularity of Fault Localization for Deep Neural Networks2021

    • 著者名/発表者名
      Matias Duran, Xiao-Yi Zhang, Paolo Arcaini, Fuyuki Ishikawa
    • 学会等名
      The 32nd International Symposium on Software Reliability Engineering (ISSRE 2021 Practical Experience Reports), pp.264-275, October 2021
    • 国際学会
  • [学会発表] Model-based Data-Complexity Estimator for Deep Learning Systems2021

    • 著者名/発表者名
      Yuta Ojima, Shingo Horiuchi, Fuyuki Ishikawa
    • 学会等名
      The 3rd IEEE International Conference on Artificial Intelligence Testing (IEEE AI Tests 2021), pp.1-8, August 2021
    • 国際学会
  • [学会発表] Dynamic resource allocation among collocated applications via reinforcement learning2021

    • 著者名/発表者名
      Li Shaowen, Li Gen, SATO Hiroyuki
    • 学会等名
      Proc. IEEE 6th Int'l Conf. Cloud Computing and Big Data Analytics, A0014, Chengdu, April, 2021
    • 国際学会
  • [学会発表] In-air Signature Authentication Using Smartwatch Motion Sensors2021

    • 著者名/発表者名
      G. Li, L. Zhang and H. Sato
    • 学会等名
      2021 IEEE 45th Annual Computers, Software, and Applications Conference (COMPSAC), 2021
    • 国際学会

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi