• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

AIを活用したサイバーフィジカルシステムのテスト、解析、及び修復に関する研究

研究課題

研究課題/領域番号 23K28062
補助金の研究課題番号 23H03372 (2023)
研究種目

基盤研究(B)

配分区分基金 (2024)
補助金 (2023)
応募区分一般
審査区分 小区分60050:ソフトウェア関連
研究機関九州大学

研究代表者

趙 建軍  九州大学, システム情報科学研究院, 教授 (20299580)

研究分担者 鵜林 尚靖  早稲田大学, 理工学術院, 教授(任期付) (80372762)
蓮尾 一郎  国立情報学研究所, アーキテクチャ科学研究系, 教授 (60456762)
石川 冬樹  国立情報学研究所, アーキテクチャ科学研究系, 准教授 (50455193)
馬 雷  東京大学, 大学院情報理工学系研究科, 准教授 (70842061)
張 振亜  九州大学, システム情報科学研究院, 助教 (10971228)
研究期間 (年度) 2024-04-01 – 2026-03-31
研究課題ステータス 交付 (2024年度)
配分額 *注記
18,850千円 (直接経費: 14,500千円、間接経費: 4,350千円)
2025年度: 5,460千円 (直接経費: 4,200千円、間接経費: 1,260千円)
2024年度: 5,720千円 (直接経費: 4,400千円、間接経費: 1,320千円)
2023年度: 7,670千円 (直接経費: 5,900千円、間接経費: 1,770千円)
キーワードAI品質保証 / サイバーフィジカルシステム / テスト / 自動修正 / プログラム修正
研究開始時の研究の概要

近年、複雑な制御、工業製造などは自動化から知能化にアップグレードの急速的な変革を伴い、データ駆動型AIをコントローラとして用いるサイバーフィジカルシステム(AI-CPS)が、産業界で急速に発展と応用している。AI-CPS は、安全性を重視する多くの産業領域で採用されるため、その品質保証は非常に重要である。本研究では、AI-CPSに対する新しい体系的な品質保証技術を確立することを目的としている。本研究の進展により、AI-CPSにおける系統的な品質保証技術及びその支援環境が整い、より信頼性の高いAI-CPSの構築が期待できる。

研究実績の概要

本研究は、AIを活用したサイバーフィジカルシステム(AI-CPS)の品質保証手法を構築することを目的とする。2024年度は、テスト、デバッグ、修復の各技術の具体的実装と構築を行った。
まず、time-awareカバレッジ基準に基づき、AI-CPSに対するテストケース自動生成アルゴリズムを設計し、テストケース生成ツールの実装を開始した。カバレッジに基づく検証が可能となる基盤を整備した。ツールは、典型的なAI-CPS制御シナリオに対応可能な形式で実装されており、ベンチマークへの適用に向けた機能検証も一部実施した。
次に、抽象モデル(MDP)にセマンティクス情報を付与し、状態遷移における不具合原因の追跡が可能な因果関係推論アルゴリズムを設計した。これにより、入力信号とシステム異常の因果的関係を抽出できるデバッグ支援の枠組みを構築した。具体的には、セマンティクス付き状態系列とイベント系列を対応付け、因果関係を構造的に分析可能とした。
また、オフライン修復手法として、失敗時の信号データ拡張および再学習によるモデル修正手法の設計を行った。オンライン修復については、入力信号のリアルタイム補正に向けたアルゴリズムの検討を開始した。複数のモデル出力の比較による異常検出と入力補正の戦略についても検討を進めた。
さらに、以上の成果に基づき、次年度における各ツールの統合およびAI-CPSベンチマークを用いた評価実験に向けた準備作業(対象システムの選定、評価項目の整理)も進めた。

現在までの達成度
現在までの達成度

2: おおむね順調に進展している

理由

2024年度は、当初計画したRO1~RO3に基づき、AI-CPS向けのテスト生成、因果関係に基づくデバッグ、および修復技術に関する作業を進めた。time-awareカバレッジ基準に基づくテストケース生成アルゴリズムを設計し、実装を開始した。MDPモデルにセマンティクス情報を付与し、因果パス抽出手法を構築した。また、信号データ拡張と再学習によるオフライン修正、ならびにオンライン入力補正手法の検討を行った。以上の実施により、研究計画はおおむね順調に進展している。

今後の研究の推進方策

2025年度は、2023年度および2024年度に設計・構築した各種技術を統合し、AI-CPSベンチマークを用いた実証的評価を実施する。RO1では、実装済のテスト生成ツールをベンチマークに適用し、time-awareカバレッジに基づくテストの有効性を検証する。RO2では、因果パス抽出手法を用いて不具合原因の自動分析を行う。RO3では、オフラインおよびオンライン修正手法を実ベンチマークに適用し、修正の効果を検証する。RO4では、各技術を統合し、品質保証支援環境としての有効性を評価する。

報告書

(2件)
  • 2024 実施状況報告書
  • 2023 実績報告書
  • 研究成果

    (33件)

すべて 2025 2024 2023 その他

すべて 国際共同研究 (9件) 雑誌論文 (11件) (うち国際共著 11件、 査読あり 11件、 オープンアクセス 5件) 学会発表 (13件) (うち国際学会 13件)

  • [国際共同研究] Trinity College Dublin(アイルランド)

    • 関連する報告書
      2024 実施状況報告書
  • [国際共同研究] Luxembourg Institute of Sci and Tech/University of Luxembourg(ルクセンブルク)

    • 関連する報告書
      2024 実施状況報告書
  • [国際共同研究] The University of Sci. and Tec. Beijing(中国)

    • 関連する報告書
      2024 実施状況報告書
  • [国際共同研究] New York Univeristy(米国)

    • 関連する報告書
      2024 実施状況報告書
  • [国際共同研究] The University of Alberta(カナダ)

    • 関連する報告書
      2024 実施状況報告書
  • [国際共同研究]

    • 関連する報告書
      2024 実施状況報告書
  • [国際共同研究] 上海交通大学/中国科学技術大学(中国)

    • 関連する報告書
      2023 実績報告書
  • [国際共同研究] Singapore Management University(シンガポール)

    • 関連する報告書
      2023 実績報告書
  • [国際共同研究] ルクセンブルク大学(マダガスカル)

    • 関連する報告書
      2023 実績報告書
  • [雑誌論文] Boosting source code learning with text-oriented data augmentation: an empirical study2025

    • 著者名/発表者名
      Dong Zeming、Hu Qiang、Guo Yuejun、Zhang Zhenya、Cordy Maxime、Papadakis Mike、Le Traon Yves、Zhao Jianjun
    • 雑誌名

      Empirical Software Engineering

      巻: 30 号: 3 ページ: 1-1

    • DOI

      10.1007/s10664-025-10624-2

    • 関連する報告書
      2024 実施状況報告書
    • 査読あり / 国際共著
  • [雑誌論文] Automated Generation of Benchmarks for Falsification of STL Specifications2025

    • 著者名/発表者名
      Yan Yipei、Lyu Deyun、Zhang Zhenya、Arcaini Paolo、Zhao Jianjun
    • 雑誌名

      IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems

      巻: 0 号: 10 ページ: 1-1

    • DOI

      10.1109/tcad.2025.3550410

    • 関連する報告書
      2024 実施状況報告書
    • 査読あり / 国際共著
  • [雑誌論文] Look Before You Leap: An Exploratory Study of Uncertainty Analysis for Large Language Models2025

    • 著者名/発表者名
      Huang Yuheng、Song Jiayang、Wang Zhijie、Zhao Shengming、Chen Huaming、Juefei-Xu Felix、Ma Lei
    • 雑誌名

      IEEE Transactions on Software Engineering

      巻: 51 号: 2 ページ: 413-429

    • DOI

      10.1109/tse.2024.3519464

    • 関連する報告書
      2024 実施状況報告書
    • 査読あり / 国際共著
  • [雑誌論文] SpectAcle: Fault Localisation of AI-Enabled CPS by Exploiting Sequences of DNN Controller Inferences2024

    • 著者名/発表者名
      Lyu Deyun、Zhang Zhenya、Arcaini Paolo、Zhang Xiao-Yi、Ishikawa Fuyuki、Zhao Jianjun
    • 雑誌名

      ACM Transactions on Software Engineering and Methodology

      巻: - 号: 4 ページ: 1-35

    • DOI

      10.1145/3705307

    • 関連する報告書
      2024 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] On the effectiveness of hybrid pooling in mixup-based graph learning for language processing2024

    • 著者名/発表者名
      Dong Zeming、Hu Qiang、Zhang Zhenya、Guo Yuejun、Cordy Maxime、Papadakis Mike、Traon Yves Le、Zhao Jianjun
    • 雑誌名

      Journal of Systems and Software

      巻: 216 ページ: 112139-112139

    • DOI

      10.1016/j.jss.2024.112139

    • 関連する報告書
      2024 実施状況報告書
    • 査読あり / 国際共著
  • [雑誌論文] GenSafe: A Generalizable Safety Enhancer for Safe Reinforcement Learning Algorithms Based on Reduced Order Markov Decision Process Model2024

    • 著者名/発表者名
      Zhou Zhehua、Xie Xuan、Song Jiayang、Shu Zhan、Ma Lei
    • 雑誌名

      IEEE Transactions on Neural Networks and Learning Systems

      巻: 0 号: 6 ページ: 1-15

    • DOI

      10.1109/tnnls.2024.3496492

    • 関連する報告書
      2024 実施状況報告書
    • 査読あり / 国際共著
  • [雑誌論文] Benchmarking Object Detection Robustness against Real-World Corruptions2024

    • 著者名/発表者名
      Liu Jiawei、Wang Zhijie、Ma Lei、Fang Chunrong、Bai Tongtong、Zhang Xufan、Liu Jia、Chen Zhenyu
    • 雑誌名

      International Journal of Computer Vision

      巻: 132 号: 10 ページ: 4398-4416

    • DOI

      10.1007/s11263-024-02096-6

    • 関連する報告書
      2024 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] LUNA: A Model-Based Universal Analysis Framework for Large Language Models2024

    • 著者名/発表者名
      Song Da、Xie Xuan、Song Jiayang、Zhu Derui、Huang Yuheng、Juefei-Xu Felix、Ma Lei
    • 雑誌名

      IEEE Transactions on Software Engineering

      巻: 50 号: 7 ページ: 1921-1948

    • DOI

      10.1109/tse.2024.3411928

    • 関連する報告書
      2024 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] EfficientDeRain+: Learning Uncertainty-Aware Filtering via RainMix Augmentation for High-Efficiency Deraining2024

    • 著者名/発表者名
      Guo Qing、Qi Hua、Sun Jingyang、Juefei-Xu Felix、Ma Lei、Lin Di、Feng Wei、Wang Song
    • 雑誌名

      International Journal of Computer Vision

      巻: 133 号: 4 ページ: 2111-2135

    • DOI

      10.1007/s11263-024-02281-7

    • 関連する報告書
      2024 実施状況報告書
    • 査読あり / 国際共著
  • [雑誌論文] On the effectiveness of graph data augmentation for source code learning2024

    • 著者名/発表者名
      Dong Zeming、Hu Qiang、Zhang Zhenya、Zhao Jianjun
    • 雑誌名

      Knowledge-Based Systems

      巻: 285 ページ: 111328-111328

    • DOI

      10.1016/j.knosys.2023.111328

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] TAT: Targeted backdoor attacks against visual object tracking2023

    • 著者名/発表者名
      Cheng Ziyi、Wu Baoyuan、Zhang Zhenya、Zhao Jianjun
    • 雑誌名

      Pattern Recognition

      巻: 142 ページ: 109629-109629

    • DOI

      10.1016/j.patcog.2023.109629

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] Search-Based Repair of DNN Controllers of AI-Enabled Cyber-Physical Systems Guided by System-Level Specifications2024

    • 著者名/発表者名
      Lyu Deyun、Zhang Zhenya、Arcaini Paolo、Ishikawa Fuyuki、Laurent Thomas、Zhao Jianjun
    • 学会等名
      Proceedings of the Genetic and Evolutionary Computation Conference (GECCO 2024)
    • 関連する報告書
      2024 実施状況報告書
    • 国際学会
  • [学会発表] LeGEND: A Top-Down Approach to Scenario Generation of Autonomous Driving Systems Assisted by Large Language Models2024

    • 著者名/発表者名
      Tang Shuncheng、Zhang Zhenya、Zhou Jixiang、Lei Lei、Zhou Yuan、Xue Yinxing
    • 学会等名
      Proceedings of the 39th IEEE/ACM International Conference on Automated Software Engineering (ASE 2024)
    • 関連する報告書
      2024 実施状況報告書
    • 国際学会
  • [学会発表] MetaRepair: Learning to Repair Deep Neural Networks from Repairing Experiences2024

    • 著者名/発表者名
      Xing Yun、Guo Qing、Cao Xiaofeng、Tsang Ivor W.、Ma Lei
    • 学会等名
      Proceedings of the 32nd ACM International Conference on Multimedia (ACM MM 2024)
    • 関連する報告書
      2024 実施状況報告書
    • 国際学会
  • [学会発表] Optimization-Based Model Checking and?Trace Synthesis for Complex STL Specifications2024

    • 著者名/発表者名
      Sato Sota、An Jie、Zhang Zhenya、Hasuo Ichiro
    • 学会等名
      Gurfinkel, A., Ganesh, V. (eds) Computer Aided Verification. CAV 2024. Lecture Notes in Computer Science
    • 関連する報告書
      2024 実施状況報告書
    • 国際学会
  • [学会発表] CauMon: An Informative Online Monitor for Signal Temporal Logic2024

    • 著者名/発表者名
      Zhang Zhenya、An Jie、Arcaini Paolo、Hasuo Ichiro
    • 学会等名
      Platzer, A., Rozier, K.Y., Pradella, M., Rossi, M. (eds) Formal Methods. FM 2024, Lecture Note in Computer Science
    • 関連する報告書
      2024 実施状況報告書
    • 国際学会
  • [学会発表] Towards Building AI-CPS with NVIDIA Isaac Sim: An Industrial Benchmark and Case Study for Robotics Manipulation2024

    • 著者名/発表者名
      Zhehua Zhou, Jiayang Song, Xuan Xie, Zhan Shu, Lei Ma, Dikai Liu, Jianxiong Yin, Simon See
    • 学会等名
      Proceedings of the 46th international conference on software engineering: software engineering in practice (ICSE 2024)
    • 関連する報告書
      2024 実施状況報告書
    • 国際学会
  • [学会発表] MetaRepair: Learning to Repair Deep Neural Networks from Repairing Experiences2024

    • 著者名/発表者名
      Yun Xing, Qing Guo, Xiaofeng Cao, Ivor W Tsang, Lei Ma
    • 学会等名
      Proceedings of the 32nd ACM International Conference on Multimedia (ACM MM 2024)
    • 関連する報告書
      2024 実施状況報告書
    • 国際学会
  • [学会発表] ISR-LLM: Iterative Self-Refined Large Language Model for Long-Horizon Sequential Task Planning2024

    • 著者名/発表者名
      Zhehua Zhou, Jiayang Song, Kunpeng Yao, Zhan Shu, Lei Ma
    • 学会等名
      2024 IEEE International Conference on Robotics and Automation (ICRA 2024)
    • 関連する報告書
      2024 実施状況報告書
    • 国際学会
  • [学会発表] DeepRover: A Query-efficient Blackbox Attack for Deep Neural Networks2023

    • 著者名/発表者名
      Fuyuan Zhang, Xinwen Hu, Lei Ma, Jianjun Zhao
    • 学会等名
      The 31st ACM Joint Meeting on European Software Engineering Conference and Symposium on the Foundations of Software Engineering (ESEC/FSE 2023)
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Generative Model-Based Testing on Decision-Making Policies2023

    • 著者名/発表者名
      Zhuo Li, Xiongfei Wu, Derui Zhu, Mingfei Cheng, Siyuan Chen, Fuyuan Zhang, Xiaofei Xie, Lei Ma, Jianjun Zhao
    • 学会等名
      The 38th IEEE/ACM International Conference on Automated Software Engineering (ASE 2023)
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] GenCoG: A DSL-Based Approach to Generating Computation Graphs for TVM Testing2023

    • 著者名/発表者名
      Zihan Wang, Pengbo Nie, Xinyuan Miao, Yuting Chen, Chengcheng Wan, Lei Bu, and Jianjun Zhao
    • 学会等名
      The 32nd ACM SIGSOFT International Symposium on Software Testing and Analysis (ISSTA 2023)
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] EvoScenario: Integrating Road Structures into Critical Scenario Generation for Autonomous Driving System Testing2023

    • 著者名/発表者名
      Shuncheng Tang, Zhenya Zhang, Jixiang Zhou, Yuan Zhou, Yan-Fu Li and Yinxing Xue
    • 学会等名
      The 34rd International Symposium on Software Reliability Engineering (ISSRE 2023)
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Online Causation Monitoring of Signal Temporal Logic2023

    • 著者名/発表者名
      Zhenya Zhang, Jie An, Paolo Arcaini, Ichiro Hasuo
    • 学会等名
      The 35th International Conference on Computer-Aided Verification (CAV 2023)
    • 関連する報告書
      2023 実績報告書
    • 国際学会

URL: 

公開日: 2023-04-18   更新日: 2025-12-26  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi