• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Understanding malware semantics by AI-supported formal methods

Research Project

Project/Area Number 20K20625
Research Category

Grant-in-Aid for Challenging Research (Pioneering)

Allocation TypeMulti-year Fund
Review Section Medium-sized Section 60:Information science, computer engineering, and related fields
Research InstitutionJapan Advanced Institute of Science and Technology

Principal Investigator

小川 瑞史  北陸先端科学技術大学院大学, 先端科学技術研究科, 教授 (40362024)

Co-Investigator(Kenkyū-buntansha) NGUYEN MinhLe  北陸先端科学技術大学院大学, 先端科学技術研究科, 教授 (30509401)
寺内 多智弘  早稲田大学, 理工学術院, 教授 (70447150)
関 浩之  名古屋大学, 情報学研究科, 教授 (80196948)
結縁 祥治  名古屋大学, 情報学研究科, 教授 (70230612)
Project Period (FY) 2020-07-30 – 2026-03-31
Project Status Granted (Fiscal Year 2024)
Budget Amount *help
¥25,870,000 (Direct Cost: ¥19,900,000、Indirect Cost: ¥5,970,000)
Fiscal Year 2025: ¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
Fiscal Year 2024: ¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
Fiscal Year 2023: ¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2022: ¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
Fiscal Year 2021: ¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
Fiscal Year 2020: ¥4,550,000 (Direct Cost: ¥3,500,000、Indirect Cost: ¥1,050,000)
Keywordsバイナリコード / 記号実行器 / マルウェア / ARM / x86 / アンドロイド / 脆弱性検出 / 動的記号実行 / 命令セット / 自然言語処理 / RE-DOS攻撃 / プライバシー / マルウェア解析 / 記号実行 / API / ネィティブコード / マルウェア意味解析 / 形式的意味自動抽出 / 形式仕様自動抽出 / 深層学習
Outline of Research at the Start

人間には解釈困難なバイナリコードに対し(1)操作的意味はレジスタ・フラッグ・メモリ・スタック上の状態遷移系として定義可能、(2)各命令仕様はリジッドな自然言語記述、(3)エミュレータ等テスト環境が完備などの観察に立脚し、英文マニュアルから命令の操作的意味自動抽出によりBE-PUM(x86), Corana(ARM), SiMIPS(MIPS)等のツールをGitHubで公開してきた。
本研究は、多数のMPU/MCUの動的記号実行器の自動生成に加え、構造隠蔽前のペイロードの自動復元・抽出を行い、教師無し学習による特徴抽出、自然言語処理を用いた意味解釈を通じた新規感染手法検出・系統樹生成を目的とする。

Outline of Annual Research Achievements

本年度は、(1)ARM上のAndroid/apkファイルに対する異環境(Dalvikバイトコード, ARM native, Android OSライブラリ関数)間をシームレスに記号実行を行うHybridSEの開発・実装、ならびに(2)記号実行器により得られたバイナリコードの制御フローグラフ(Control Flow Graph, 以下CFG)の生成に基づく(2-a)ANdroid/apk における Stalkerware 解析、(2-b)x86/Windowsにおけるシステムの脆弱性解析について研究を進めた。
(1)については、前年度までに開発・実装を進めてきたARM上の記号実行器Coranaを基盤として、DalvikバイトコードからJavaバイトコードへの変換を用いた既存Java記号実行器SPF(Symbolic Path Finder)と組み合わせることでHybridSE(github.com/hybridse/HybridSEにて公開中)へ拡張している。現在、さらに(2-a)ロレーヌ大学(Jean-Yves Marion教授)と共同で実世界Stalkerwareの解析を進めている。
また近年、機械学習や深層学習を用いた脆弱性検出は多く行われているが、主にC/C++などプログラミング言語レベルである。バイナリコードの記号実行器はCFGを自動生成できることを用いて、(2-b)ではx64の既存記号実行器ANGRによりコンパイルドコードのCFGを生成し、CFGの特徴付けを用いてバイナリコードレベルの脆弱性検出を試みた。結果は良好であり、さらなる実験と論文投稿を準備中である。
これらに付帯し、ブラックボックス環境への関数呼び出しの際の経路条件について相対健全性の記述を目指し、awareness演算子を用いた様相論理表現ならびにNash equilibriumの利用について検討した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

ARM上の Android/apkの記号実行器 HybridSEの開発実装や、記号実行器を用いて生成したバイナリコードの制御フローグラフの特徴付けを用いたマルウェア解析・脆弱性検出などの応用実験などは順調に推移しており、特に HybridSE(github.com/hybridse/HybridSEにて公開中)は現在、Android/apkファイル形式を異環境間にわたる実用的なマルウェア解析器として、ほぼ唯一のツールとなている。ただし論文化・論文投稿が遅れており、現在準備を進めている。

Strategy for Future Research Activity

ARM上のAndroid/apkファイルの記号実行器HybridSEや、過去に開発したx86/Windows上の BE-PUMやx64上の既存記号実行器により生成されるマルウェアの制御フローグラフの特徴付けに基づき、マルウェア解析・脆弱性検出の応用に注力する。具体的には、(1)実世界における Android上のStalkerwareの解析(特に情報流出のシナリオの解析)、(2) Android マルウェアの自動分類、(3) IoTデバイスの脆弱性検出(Firmware等の解析に基づく)を木目的とする。(1), (2) については、現在の研究の方針を継続し、分担者の Nguyen教授(JAIST)と機械学習・深層学習の応用について共同で行う。 (3) については新たな知見も必要となることを予想している。これらに加え、基礎理論として異環境への記号実行の継続の際、ブラックボックスの際の経路条件の扱い(ブラックボックスのため入出力の因果関係が不明)の相対健全性について、分担者の寺内教授(早稲田大)、関教授(武庫川女子大)、結縁教授(名大)らと共同で進める。

Report

(5 results)
  • 2024 Research-status Report
  • 2023 Research-status Report
  • 2022 Research-status Report
  • 2021 Research-status Report
  • 2020 Research-status Report
  • Research Products

    (29 results)

All 2024 2023 2022 2021 2020 Other

All Int'l Joint Research (4 results) Journal Article (7 results) (of which Int'l Joint Research: 3 results,  Peer Reviewed: 7 results,  Open Access: 6 results) Presentation (15 results) (of which Int'l Joint Research: 12 results) Remarks (3 results)

  • [Int'l Joint Research] ロレーヌ大学(フランス)

    • Related Report
      2024 Research-status Report
  • [Int'l Joint Research] Le Quy Don技術大学(ベトナム)

    • Related Report
      2024 Research-status Report
  • [Int'l Joint Research] ロレーヌ大学(フランス)

    • Related Report
      2023 Research-status Report
  • [Int'l Joint Research] Le Quy Don技術大学(ベトナム)

    • Related Report
      2023 Research-status Report
  • [Journal Article] Attentive deep neural networks for legal document retrieval.2024

    • Author(s)
      Ha-Thanh Nguyen, Manh-Kien Phi, Xuan-Bach Ngo, Vu Tran, Le-Minh Nguyen, Minh-Phuong Tu
    • Journal Title

      Artif. Intell. Law

      Volume: 32(1) Issue: 1 Pages: 57-86

    • DOI

      10.1007/s10506-022-09341-8

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] On Lookaheads in Regular Expressions with Backreferences2023

    • Author(s)
      Nariyoshi Chida, Tachio Terauchi.
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E106.D Issue: 5 Pages: 959-975

    • DOI

      10.1587/transinf.2022EDP7098

    • ISSN
      0916-8532, 1745-1361
    • Year and Date
      2023-05-01
    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Trace Effects for a Language with Algebraic Effect Handlers2023

    • Author(s)
      川俣 楓河, 寺内 多智弘
    • Journal Title

      Computer Software

      Volume: 40 Issue: 2 Pages: 2_19-2_48

    • DOI

      10.11309/jssst.40.2_19

    • ISSN
      0289-6540
    • Year and Date
      2023-04-21
    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Reduction of Register Pushdown Systems with Freshness Property to Pushdown Systems in LTL Model Checking2022

    • Author(s)
      TAKATA Yoshiaki、SENDA Ryoma、SEKI Hiroyuki
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E105.D Issue: 9 Pages: 1620-1623

    • DOI

      10.1587/transinf.2022EDL8030

    • ISSN
      0916-8532, 1745-1361
    • Year and Date
      2022-09-01
    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] SM-BERT-CR: a deep learning approach for case law retrieval with supporting model2022

    • Author(s)
      Vuong Yen Thi-Hai、Bui Quan Minh、Nguyen Ha-Thanh、Nguyen Thi-Thu-Trang、Tran Vu、Phan Xuan-Hieu、Satoh Ken、Nguyen Le-Minh
    • Journal Title

      Artificial Intelligence and Law

      Volume: 30 Issue: 3 Pages: 1-28

    • DOI

      10.1007/s10506-022-09319-6

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Complexity results on register context-free grammars and related formalisms2022

    • Author(s)
      Senda Ryoma、Takata Yoshiaki、Seki Hiroyuki
    • Journal Title

      Theoretical Computer Science

      Volume: 923 Pages: 99-125

    • DOI

      10.1016/j.tcs.2022.04.055

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Reachability of Patterned Conditional Pushdown Systems2020

    • Author(s)
      Li Xin、Gardy Patrick、Deng Yu-Xin、Seki Hiroyuki
    • Journal Title

      Journal of Computer Science and Technology

      Volume: 35 Issue: 6 Pages: 1295-1311

    • DOI

      10.1007/s11390-020-0541-z

    • Related Report
      2020 Research-status Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Presentation] Repairing Regex-Dependent String Functions2024

    • Author(s)
      Nariyoshi Chida, Tachio Terauchi
    • Organizer
      39th IEEE/ACM International Conference on Automated Software Engineering (ASE 2024)
    • Related Report
      2024 Research-status Report
    • Int'l Joint Research
  • [Presentation] Verification with Common Knowledge of Rationality for Graph Games2024

    • Author(s)
      Rindo Nakanishi, Yoshiaki Takata, Hiroyuki Seki
    • Organizer
      21st International Colloquium on Theoretical Aspects of Computing (ICTAC 2024)
    • Related Report
      2024 Research-status Report
    • Int'l Joint Research
  • [Presentation] Answer Refinement Modification: Refinement Type System for Algebraic Effects and Handlers.2024

    • Author(s)
      Fuga Kawamata, Taro Sekiyama, Hiroshi Unno, Tachio Terauchi
    • Organizer
      51st ACM SIGPLAN-SIGACT Symposium on Principles of Programming Languages (POPL 2024)
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] Original Entry Point detection based on graph similarity.2023

    • Author(s)
      Pham Thanh Hung, Mizuhito Ogawa
    • Organizer
      16th International Symposium on Foundations & Practice of Security (FPS 2023)
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] Repairing Regular Expressions for Extraction.2023

    • Author(s)
      Nariyoshi Chida, Tachio Terauchi
    • Organizer
      44th ACM SIGPLAN Conference on Programming Language Design and Implementation (PLDI 2023)
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] On the Expressive Power of Regular Expressions with Backreferences.2023

    • Author(s)
      Taisei Nogami, Tachio Terauchi
    • Organizer
      48th Mathematical Foundations of Computer Science (MFCS 2023)
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] A Game-theoretic Approach to Indistinguishability of Winning Objectives as User Privacy,2023

    • Author(s)
      Rindo Nakanishi, Yoshiaki Takata, Hiroyuki Seki
    • Organizer
      20th International Colloquium on Theoretical Aspects of Computing (ICTAC 2023)
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] Modular Primal-Dual Fixpoint Logic Solving for Temporal Verification2023

    • Author(s)
      Hiroshi Unno, Tachio Terauchi, Yu Gu, Eric Koskinen
    • Organizer
      50th ACM SIGPLAN-SIGACT Symposium on Principles of Programming Languages (POPL 2023), pp.2111-2140
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] 後方参照付正規表現の表現力について2023

    • Author(s)
      野上大成, 寺内多智弘
    • Organizer
      ソフトウェア科学会 第25回プログラミングおよびプログラミング言語ワークショップ (PPL 2023)
    • Related Report
      2022 Research-status Report
  • [Presentation] Automatic Stub Generation for Dynamic Symbolic Execution of ARM binary2022

    • Author(s)
      Nguyen Van Anh, Mizuhito Ogawa .
    • Organizer
      11th International Symposium on Information and Communication Technology (SoICT 2022), pp.352-359
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] Repairing DoS Vulnerability of Real-World Regexes2022

    • Author(s)
      Nariyoshi Chida, Tachio Terauchi
    • Organizer
      43rd IEEE Symposium on Security and Privacy (S&P 2022), pp.2060-2077
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] On Lookaheads in Regular Expressions with Backreferences2022

    • Author(s)
      Nariyoshi Chida, Tachio Terauchi
    • Organizer
      7th International Conference on Formal Structures for Computation and Deduction (FSCD 2022), LIPICS Vol. 228, pp.15:1-15:18
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] Active Learning for Deterministic Bottom-up Nominal Tree Automata2022

    • Author(s)
      Rindo Nakanishi, Yoshiaki Takata, Hiroyuki Seki
    • Organizer
      19th International Colloquium on Theoretical Aspects of Computing (ICTAC 2022), LNCS 13572, pp.342-359
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] Constraint-based Relational Verification2021

    • Author(s)
      Hiroshi Unno, Tachio Terauchi, Eric Koskinen
    • Organizer
      33rd International Conference on Computer-Aided Verification (CAV 2021), Springer LNCS 12759, pp.742-766
    • Related Report
      2021 Research-status Report
  • [Presentation] Reactive Synthesis from Visibly Register Pushdown Automata2021

    • Author(s)
      Ryoma Senda, Yoshiaki Takata, Hiroyuki Seki
    • Organizer
      18th International Colloquium on Theoretical Aspects of Computing (ICTAC 2021), Springer LNCS 12819, pp.334-353
    • Related Report
      2021 Research-status Report
  • [Remarks] HybridSE

    • URL

      https://github.com/hybridse/HybridSE

    • Related Report
      2024 Research-status Report
  • [Remarks] Corana(実装公開)

    • URL

      https://github.com/anhvvcs/corana

    • Related Report
      2021 Research-status Report
  • [Remarks] Corana/API(実装公開)

    • URL

      https://github.com/vananhnt/corana

    • Related Report
      2021 Research-status Report

URL: 

Published: 2020-08-03   Modified: 2025-12-26  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi