Counter APT operation with detection involving attacks to ML based security system

• Project/Area Number: 23K28086
• Project/Area Number (Other): 23H03396 (2023)
• Research Category: Grant-in-Aid for Scientific Research (B)
• Allocation Type: Multi-year Fund (2024); Single-year Grants (2023)
• Section: 一般
• Review Section: Basic Section 60070:Information security-related
• Research Institution: Nagoya University
• Principal Investigator: 嶋田 創 名古屋大学, 情報基盤センター, 准教授 (60377851)
• Co-Investigator(Kenkyū-buntansha): 小林 良太郎 工学院大学, 情報学部(情報工学部), 教授 (40324454) ; 平野 学 豊田工業高等専門学校, 情報工学科, 教授 (50390464) ; 長谷川 皓一 国立情報学研究所, ストラテジックサイバーレジリエンス研究開発センター, 特任准教授 (90806051)
• Project Period (FY): 2023-04-01 – 2027-03-31
• Project Status: Granted (Fiscal Year 2024)
• Budget Amount: ¥18,330,000 (Direct Cost: ¥14,100,000、Indirect Cost: ¥4,230,000); Fiscal Year 2026: ¥4,420,000 (Direct Cost: ¥3,400,000、Indirect Cost: ¥1,020,000); Fiscal Year 2025: ¥4,420,000 (Direct Cost: ¥3,400,000、Indirect Cost: ¥1,020,000); Fiscal Year 2024: ¥5,200,000 (Direct Cost: ¥4,000,000、Indirect Cost: ¥1,200,000); Fiscal Year 2023: ¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
• Keywords: サイバーセキュリティ / 機械学習システムのセキュリティ / ネットワークセキュリティ / 対標的型攻撃

Outline of Research at the Start

機械学習技術の応用は"AI利用"として広く認知され、マルウェアや悪性通信検知のセキュリティ製品へ広く利用されている。一方、機械学習系に対し誤判定/誤検知を誘発させる中毒攻撃/回避攻撃の研究も広く行われており、攻撃者側がAI応用セキュリティへの攻撃を併用することは十分に考えられる。また、標的型攻撃もデータ窃取に加え標的型ランサムウェアの被害も増え、さらなる高度化による被害も懸念される。本研究では、標的型攻撃の前段としてAI応用セキュリティへの攻撃を伴う時代を想定し、AI応用製品への偽学習データ送り込みなどの予備攻撃およびデータ窃取やランサムウェアなどの本攻撃の双方の検知と対応運用の研究を行う。