• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2022 年度 実績報告書

ステートフル深層学習システムに対する総合的解析と修復技術の確立

研究課題

研究課題/領域番号 20H04168
研究機関九州大学

研究代表者

馬 雷  九州大学, システム情報科学研究院, 准教授 (70842061)

研究分担者 佐藤 周行  東京大学, 情報基盤センター, 准教授 (20225999)
趙 建軍  九州大学, システム情報科学研究院, 教授 (20299580)
石川 冬樹  国立情報学研究所, アーキテクチャ科学研究系, 准教授 (50455193)
鵜林 尚靖  九州大学, システム情報科学研究院, 教授 (80372762)
研究期間 (年度) 2020-04-01 – 2023-03-31
キーワードソフトウェア工学 / 知能ソフトウェア解析 / 深層学習 / 機械学習工学 / 回帰型ニューラルネットワーク解析 / 機械学習品質保証
研究実績の概要

今年度は最終年度として、昨年度の研究に基づいて、さらなる主要な開発、実験、及び評価を行いました。具体的には、以下の研究内容を行いました。(1)カバレッジに基づくテストフレームワークの実験と実用性の評価。(2)AIソフトウェアに対する分析方法と修正技術の評価(3)AIソフトウェアの解析誘導オフライン修正技術の開発完成及び評価。(4)提出された技術が実際のAIソフトウェアに対して実用性を評価。(5)今までのそれぞれの研究結果がまとめて国際会議と雑誌に投稿され、採択されました。
近年では、音声認識や自然言語処理などの産業応用に効果的な状態を保持するステートフルAIモデルである回帰型ニューラルネットワーク(RNN)が注目されており、産業分野でもよく使用されています。しかしながら、実際に広く応用されている RNN は、複雑な設計、状態の持続性、そしてブラックボックスの特性により、その解析、解釈やテストなどが非常に困難であることが多いです。品質保証や信頼性について、実際に応用する際には、大きな懸念やリスクが招く可能性があります。
この研究は3年間にわたって、ステートフル深層学習ソフトウェアに対する解析、理解、及び修正技術などを研究し、一連の技術方法などを提出し、有効性を評価しました。それぞれの技術については、国際会議や論文投稿などで発表されました。当初の計画内容が完成でき、最後の研究成果が当初の計画よりも優れていました。この課題に関する一連の研究成果により、信頼性の高いAIソフトウェアの構築に向けた基礎や土台が早期に築かれました。今後は、より深い関連研究が展開や応用されることが期待されます。

現在までの達成度 (段落)

令和4年度が最終年度であるため、記入しない。

今後の研究の推進方策

令和4年度が最終年度であるため、記入しない。

  • 研究成果

    (22件)

すべて 2023 2022 その他

すべて 国際共同研究 (5件) 雑誌論文 (8件) (うち国際共著 7件、 査読あり 8件) 学会発表 (9件) (うち国際学会 9件)

  • [国際共同研究] Nanyang Technological University(シンガポール)

    • 国名
      シンガポール
    • 外国機関名
      Nanyang Technological University
  • [国際共同研究] University of Luxembourg(ルクセンブルク)

    • 国名
      ルクセンブルク
    • 外国機関名
      University of Luxembourg
  • [国際共同研究] Purdue University(米国)

    • 国名
      米国
    • 外国機関名
      Purdue University
  • [国際共同研究] University of Alberta(カナダ)

    • 国名
      カナダ
    • 外国機関名
      University of Alberta
  • [国際共同研究] Tsinghua University(中国)

    • 国名
      中国
    • 外国機関名
      Tsinghua University
  • [雑誌論文] ArchRepair: Block-Level Architecture-Oriented Repairing for Deep Neural Networks2023

    • 著者名/発表者名
      Hua Qi, Zhijie Wang, Qing Guo, Jianlang Chen, Felix Juefei-Xu, Fuyuan Zhang, Lei Ma, Jianjun Zhao
    • 雑誌名

      ACM Transactions on Software Engineering and Methodology (TOSEM 2023, CORE Rank A*, Impact Factor 3.685)

      巻: n.a. ページ: n.a.

    • 査読あり / 国際共著
  • [雑誌論文] PatchCensor: Patch Robustness Certification for Transformers via Exhaustive Testing.2023

    • 著者名/発表者名
      Yuheng Huang, Lei Ma, Yuanchun Li
    • 雑誌名

      ACM Transactions on Software Engineering and Methodology (TOSEM 2023, CORE Rank A*, Impact Factor 3.685)

      巻: n.a. ページ: n.a.

    • DOI

      10.1145/3591870

    • 査読あり / 国際共著
  • [雑誌論文] NPC: Neuron Path Coverage via Characterizing Decision Logic of Deep Neural Networks.2023

    • 著者名/発表者名
      Xiaofei Xie, Tianlin Li, Jian Wang, Lei Ma, Qing Guo, Felix Juefei-Xu, Yang Liu.
    • 雑誌名

      ACM Transactions on Software Engineering and Methodology (TOSEM 2023, CORE Rank A*, impact factor 3.685)

      巻: 47 ページ: 1-27

    • DOI

      10.1145/3490489

    • 査読あり / 国際共著
  • [雑誌論文] PAFL: Probabilistic Automaton-based Fault Localization for Recurrent Neural Networks2023

    • 著者名/発表者名
      Yuta Ishimoto, Masanari Kondo, Naoyasu Ubayashi, Yasutaka Kamei
    • 雑誌名

      Information and Software Technology, Volume 155, Article number: 107117, 2023. (Impact factor 3.862).

      巻: 155 ページ: 107117

    • DOI

      10.1016/j.infsof.2022.107117

    • 査読あり
  • [雑誌論文] A Survey on Automated Driving System Testing: Landscapes and Trends.2023

    • 著者名/発表者名
      Shuncheng Tang, Zhenya Zhang, Yi Zhang, Jixiang Zhou, Yan Guo, Shuang Liu, Shengjian Guo, Yan-Fu Li, Lei Ma, Yinxing Xue, Yang Liu
    • 雑誌名

      ACM Transactions on Software Engineering and Methodology (TOSEM 2023, CORE Rank A*, impact factor 3.685)

      巻: n.a. ページ: n.a.

    • DOI

      10.1145/3579642

    • 査読あり / 国際共著
  • [雑誌論文] FalsifAI: Falsification of AI-Enabled Hybrid Control Systems Guided by Time-Aware Coverage Criteria2022

    • 著者名/発表者名
      Zhenya Zhang, Deyun Lyu, Paolo Arcaini, Lei Ma, Ichiro Hasuo, Jianjun Zhao
    • 雑誌名

      IEEE Transactions on Software Engineering (TSE 2022, CORE Rank A*, Impact Factor 9.322)

      巻: 49 ページ: 1842-1859

    • DOI

      10.1109/TSE.2022.3194640

    • 査読あり / 国際共著
  • [雑誌論文] DARTSRepair: Core-failure-set guided DARTS for network robustness to common corruptions.2022

    • 著者名/発表者名
      Xuhong Ren, Jianlang Chen, Felix Juefei-Xu, Wanli Xue, Qing Guo, Lei Ma, Jianjun Zhao, Shengyong Chen.
    • 雑誌名

      Pattern Recognition, Elsevier, 2022 (Impact Factor 8.544)

      巻: 131 ページ: 108864

    • DOI

      10.1016/j.patcog.2022.108864

    • 査読あり / 国際共著
  • [雑誌論文] On the usage and development of deep learning compilers: an empirical study on TVM2022

    • 著者名/発表者名
      Xiongfei Wu, Jinqiu Yang, Lei Ma, Yinxing Xue, and Jianjun Zhao
    • 雑誌名

      Empirical Software Engineering volume 27, 172, Sep. 2022 (EMSE 2022, Impact Factor 3.762)

      巻: 27 ページ: n.a.

    • DOI

      10.1007/s10664-022-10221

    • 査読あり / 国際共著
  • [学会発表] DeepSeer: Interactive RNN Explanation and Debugging via State Abstraction2023

    • 著者名/発表者名
      Zhijie Wang, Yuheng Huang, Da Song, Lei Ma, Tianyi Zhang
    • 学会等名
      The ACM CHI Conference on Human Factors in Computing Systems (CHI 2023, CORE Rank A*)
    • 国際学会
  • [学会発表] DeepLens: Interactive Out-of-Distribution Data Detection in NLP Models2023

    • 著者名/発表者名
      Da Song, Zhijie Wang, Yuheng Huang, Lei Ma, Tianyi Zhang
    • 学会等名
      The ACM CHI Conference on Human Factors in Computing Systems (CHI 2023, CORE Rank A*)
    • 国際学会
  • [学会発表] Aries: Efficient Testing of Deep Neural Networks via Labeling-Free Accuracy Estimation2023

    • 著者名/発表者名
      Qiang Hu, Yuejun Guo, Xiaofei Xie, Maxime Cordy, Lei Ma, Mike Papadakis, Yves Le Traon
    • 学会等名
      The 45th International Conference on Software Engineering (ICSE 2023, CORE Rank A*)
    • 国際学会
  • [学会発表] CodeS: Towards Code Model Generalization Under Distribution Shift2023

    • 著者名/発表者名
      Qiang Hu, Yuejun Guo, Xiaofei Xie, Maxime Cordy, Lei Ma, Mike Papadakis, Yves Le Traon
    • 学会等名
      The 45th International Conference on Software Engineering, NIER Track (ICSE 2023, CORE Rank A* )
    • 国際学会
  • [学会発表] DeepGemini: Verifying Dependency Fairness for Deep Neural Network2023

    • 著者名/発表者名
      Xuan Xie, Fuyuan Zhang, Xinwen Hu, Lei Ma
    • 学会等名
      The Thirty-Seventh AAAI Conference on Artificial Intelligence (AAAI 2023, CORE Rank A*)
    • 国際学会
  • [学会発表] Traceable In-Air Signature 3D Restoration Record Structure and In-Air Dominant Hand Biometric Based on Dynamic Time Warping Algorithm2023

    • 著者名/発表者名
      Yuheng Guo, Hiroyuki Sato
    • 学会等名
      The 6th International Conference on Artificial Intelligence and Big Data (ICAIBD 2023) , 2023.
    • 国際学会
  • [学会発表] An Initial Analysis of Repair and Side-effect Prediction for Neural Networks2023

    • 著者名/発表者名
      Yuta Ishimoto, Ken Matsui, Masanari Kondo, Naoyasu Ubayashi, Yasutaka Kamei
    • 学会等名
      The 2nd International Conference on AI Engineering - Software Engineering for AI (CAIN 2023)
    • 国際学会
  • [学会発表] 3D Segmenter: 3D Transformer based Semantic Segmentation via 2D Panoramic Distillation2023

    • 著者名/発表者名
      Zhennan Wu, Yang Li, Yifei Huang, Lin Gu, Tatsuya Harada, Hiroyuki Sato
    • 学会等名
      The 11th Int'l Conference on Learning Representations (ICLR Core rank A*), 2023.
    • 国際学会
  • [学会発表] When Cyber-Physical Systems Meet AI: A Benchmark, an Evaluation, and a Way Forward2022

    • 著者名/発表者名
      Jiayang Song, Deyun Lyu, Zhenya Zhang, Zhijie Wang, Tianyi Zhang, Lei Ma
    • 学会等名
      The 44th International Conference on Software Engineering, SEIP Track (ICSE 2022, CORE Rank A*)
    • 国際学会

URL: 

公開日: 2023-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi