• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

自動運転システムに対する敵対的入力の理解と対策技術の開発

研究課題

研究課題/領域番号 22H00519
研究種目

基盤研究(A)

配分区分補助金
応募区分一般
審査区分 中区分60:情報科学、情報工学およびその関連分野
研究機関早稲田大学

研究代表者

森 達哉  早稲田大学, 理工学術院, 教授 (60708551)

研究分担者 菅原 健  電気通信大学, 大学院情報理工学研究科, 准教授 (60785236)
澤田 賢治  電気通信大学, i-パワードエネルギー・システム研究センター, 准教授 (80550946)
佐久間 淳  東京工業大学, 情報理工学院, 教授 (90376963)
研究期間 (年度) 2022-04-01 – 2025-03-31
研究課題ステータス 交付 (2024年度)
配分額 *注記
42,380千円 (直接経費: 32,600千円、間接経費: 9,780千円)
2024年度: 13,910千円 (直接経費: 10,700千円、間接経費: 3,210千円)
2023年度: 13,910千円 (直接経費: 10,700千円、間接経費: 3,210千円)
2022年度: 14,560千円 (直接経費: 11,200千円、間接経費: 3,360千円)
キーワードセキュリティ / 自動運転 / AI / センサ / 制御 / 機械学習 / センサー / 自動運転車 / 敵対的入力
研究開始時の研究の概要

自動運転システムに対する敵対的入力が及ぼす影響を、センサ、ハードウェア、AI、そしてそれらを組み合わせたシステム全体で評価を行う。最初は個別のモジュールごとの評価を進めた後、それらを統合した評価をシミュレーション上で行う。最後にセンサ、カメラ、自動運転システムを搭載した実機を用い、シミュレーション評価で得られた知見の再現、ならびにシミュレーションと物理実験の差異を明らかにする。最終的に得られた知見に基づいた、有効な防御方式を開発する。

研究実績の概要

以下に研究実績の概要を報告する。
●【環境整備】
森班では、自動運転セキュリティの評価基盤として、OSS自動運転フレームワークである  autoware.universe を実装した実車(TOYOTA COMS)と、PIX Moving社のPIXKITを用いた実験環境を早稲田大学本庄キャンパスに構築した。自動運転システムに対する、リアリスティックな攻撃の検証や防御技術の開発を行う環境が整った。

●【攻撃評価】
森班では、(1)点群隠蔽攻撃による自己位置推定への影響評価、(2) LiDAR点群の特徴点検出と、赤外線除去マテリアルを用いた攻撃手法の評価、(3) 悪意ある人工霧がLiDAR点群に基づく歩行者認識に与える影響評価を行い、(1)を国内研究会で発表した。菅原班では、車載カメラと LiDAR への攻撃評価環境を構築し、安全性評価実験に着手した。人間にとって不可視だが車載カメラは感度を持つ赤外光を投光することで自度運転の道路標識の認識を妨害する脆弱性を発見し、初期的な評価を車載セキュリティに関する国際会議 (VehicleSec) で発表した。佐久間班では、ステガノグラフィを利用して、ある秘密情報を持つ分類器には通常に識別される画像として識別されるが、そうでない分類器には敵対的サンプルとして認識されるため、特定のラベルとしてしか認識されないような、revisesible adversarial exampleを提案し、ジャーナル論文誌で出版した。澤田班は汎用的な自動運転技術であるACCとCACCのセンサフィルタリング機能について検討した。 これにより,車両センサに対するサイバー攻撃により,前方車両誤認が発生したときの対策を考慮した。 同時に,車両制御に対応可能な対サイバー攻撃耐性についても検討した。これらの成果を論文誌、国際会議、研究会で多数発表した。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

研究実績の概要で示したように、実験に必要な基盤として、研究代表者の所属大学で退任した教員から譲り受けた自動運転車の実機(TOYOTA COMS)、ならびに理化学研究所より借用したPIXKITを入手し、拠点の立ち上げ、機材の受け入れ、運搬・設置、自動運転OSSのインストールなどの環境セットアップにかかる実務作業を進め、次年度以降の本格実験の土台を構築した。環境整備に加え、攻撃の提案と評価に関し、各班が幅広いテーマに取り組み、着実な成果を得た。業績としては、全体として6件の国際会議および国際論文誌での論文出版と、13件の国内外での研究発表に至り、初年度として十分に成果が出たものと自己評価する。

今後の研究の推進方策

今後は初年度に得られた実機の環境を活用し、センサ、機械学習モデル、制御を含む End-to-End の自動運転システムに対する敵対的入力の評価を進める。特に、レベル4以上の自動運転を念頭に、悪天候や夜間などの特殊な環境における敵対的入力に焦点を当て、敵対的入力に対する頑健性評価を進める。また、数値実験、シミュレーションのアプローチも並行し、機械学習としてマルチタスクモデルや、強化学習などをターゲットとし、敵対的入力の影響評価を進める。End-to-End 評価において必要不可欠である、車両制御のシミュレーションも引き続き継続する。

報告書

(2件)
  • 2022 審査結果の所見   実績報告書
  • 研究成果

    (21件)

すべて 2023 2022 その他

すべて 国際共同研究 (2件) 雑誌論文 (6件) (うち国際共著 4件、 査読あり 6件、 オープンアクセス 4件) 学会発表 (13件) (うち国際学会 4件)

  • [国際共同研究] University of California, Irvine/University of Florida/University of Michigan(米国)

    • 関連する報告書
      2022 実績報告書
  • [国際共同研究] University of Science and Technology(中国)

    • 関連する報告書
      2022 実績報告書
  • [雑誌論文] Continuous-Time Receding-Horizon Estimation via Primal-Dual Dynamics on Vehicle Path-Following Control2023

    • 著者名/発表者名
      Kaito Sato, Kenji Sawada
    • 雑誌名

      Journal of Robotics and Mechatronics

      巻: 35 号: 2 ページ: 298-307

    • DOI

      10.20965/jrm.2023.p0298

    • ISSN
      0915-3942, 1883-8049
    • 年月日
      2023-04-20
    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Unauthorized AI cannot recognize me: Reversible adversarial example2023

    • 著者名/発表者名
      Jiayang Liu, Weiming Zhang, Kazuto Fukuchi, Youhei Akimoto, Jun Sakuma
    • 雑誌名

      Pattern Recognition

      巻: 134 ページ: 1-9

    • DOI

      10.1016/j.patcog.2022.109048

    • 関連する報告書
      2022 実績報告書
    • 査読あり / 国際共著
  • [雑誌論文] WIP: Infrared Laser Reflection Attack Against Traffic Sign Recognition Systems2023

    • 著者名/発表者名
      Sato Takami、Bhupathiraju Sri Hrushikesh Varma、Clifford Michael、Sugawara Takeshi、Chen Qi Alfred、Rampazzi Sara
    • 雑誌名

      Symposium on Vehicle Security and Privacy (VehicleSec) 2023

      巻: -

    • DOI

      10.14722/vehiclesec.2023.23055

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Position Paper: Space System Threat Models Must Account for Satellite Sensor Spoofing2023

    • 著者名/発表者名
      Benjamin Cyr, Yan Long, Takeshi. Sugawara, and Kevin Fu
    • 雑誌名

      SpaceSec 2023

      巻: ---

    • DOI

      10.14722/spacesec.2023.231491

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Poster: Inaudible Acoustic Noise from Silicon Capacitors for Voice-Command Injection2023

    • 著者名/発表者名
      Kohei Doi and Takeshi Sugawara
    • 雑誌名

      2022 ACM SIGSAC Conference on Computer and Communications Security

      巻: --- ページ: 3339-3341

    • DOI

      10.1145/3548606.3563526

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Demand-for graph evaluation of traffic congestion due to Altruistic Lane Changes of CAVs2022

    • 著者名/発表者名
      Mochizuki Yukari、Sawada Kenji
    • 雑誌名

      2022 IEEE Conference on Control Technology and Applications (CCTA)

      巻: - ページ: 334-340

    • DOI

      10.1109/ccta49430.2022.9966139

    • 関連する報告書
      2022 実績報告書
    • 査読あり
  • [学会発表] LiDARへの攻撃に対する自己位置推定機能の頑健性評価2023

    • 著者名/発表者名
      南澤勇太、小林竜之輔、森達哉
    • 学会等名
      情報処理学会コンピュータセキュリティ研究会(CSEC)2023-CSEC-100
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 自己混合干渉法による安価なレーザー振動計を用いた盗聴攻撃2023

    • 著者名/発表者名
      土井康平, 菅原健
    • 学会等名
      2023年暗号と情報セキュリティシンポジウム (SCIS2023), 2E3-1, 2023
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Human in the loop systemによるドライバ操作と支援操作の協調性評価2023

    • 著者名/発表者名
      佐藤海斗,澤田賢治
    • 学会等名
      第10回計測自動制御学会 制御部門マルチシンポジウム
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Connected ACCに対する前前方車情報を用いたフィルタリング機能の検討2023

    • 著者名/発表者名
      藤本拓磨,澤田賢治
    • 学会等名
      第10回計測自動制御学会 制御部門マルチシンポジウム
    • 関連する報告書
      2022 実績報告書
  • [学会発表] On switched objective function focused on driver's condition for shared control2023

    • 著者名/発表者名
      Yuzuna Horiuchi, Kenji Sawada
    • 学会等名
      AROB 28th 2023
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] CACCシステムに対する予測ガバナの適用2022

    • 著者名/発表者名
      藤本拓磨,澤田賢治
    • 学会等名
      第65回自動制御連合講演会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 自動運転機能と異なる判断基準を持つドライバを想定した切替型 Shared Control2022

    • 著者名/発表者名
      堀内柚那,澤田賢治
    • 学会等名
      2022年電気学会電子・情報・システム部門大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 通信遅延を考慮した経路計画に基づく自動運転に関する研究2022

    • 著者名/発表者名
      兵藤剛士,藤本拓磨,國岡風我,澤田賢治
    • 学会等名
      2022年電気学会電子・情報・システム部門大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 切替型Shared Controlにおけるドライバ支援方法の検討2022

    • 著者名/発表者名
      堀内柚那,山藤勝彦,松下遥香,澤田賢治
    • 学会等名
      SCI'22
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 予測ガバナによる自車両のセンサ誤差を考慮したACCの設計2022

    • 著者名/発表者名
      藤本拓磨,松下遥香,澤田賢治,山藤勝彦
    • 学会等名
      SCI'22
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Human-In-The-Loop System for Rear-Wheel Steering Control Via Primal-Dual Dynamics2022

    • 著者名/発表者名
      Kaito Sato, Kenji Sawada
    • 学会等名
      SICE Annual Conference
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] On the Prediction Governor Application to Adaptive Cruise Control2022

    • 著者名/発表者名
      Takuma Fujimoto, Kenji Sawada
    • 学会等名
      SICE Annual Conference
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Continuous-Time Receding-Horizon Estimation via Primal-Dual Dynamics2022

    • 著者名/発表者名
      Kaito Sato, Kenji Sawada
    • 学会等名
      ROCOND
    • 関連する報告書
      2022 実績報告書
    • 国際学会

URL: 

公開日: 2022-04-19   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi