Research and development on workload-aware graph database engine

• Project/Area Number: 20H00583
• Research Category: Grant-in-Aid for Scientific Research (A)
• Allocation Type: Single-year Grants
• Section: 一般
• Review Section: Medium-sized Section 60:Information science, computer engineering, and related fields
• Research Institution: Osaka University
• Principal Investigator: 鬼塚 真 大阪大学, 大学院情報科学研究科, 教授 (60726165)
• Co-Investigator(Kenkyū-buntansha): 佐々木 勇和 大阪大学, 大学院情報科学研究科, 助教 (40745147)
• Project Period (FY): 2020-04-01 – 2025-03-31
• Project Status: Granted (Fiscal Year 2024)
• Budget Amount: ¥44,330,000 (Direct Cost: ¥34,100,000、Indirect Cost: ¥10,230,000); Fiscal Year 2024: ¥9,360,000 (Direct Cost: ¥7,200,000、Indirect Cost: ¥2,160,000); Fiscal Year 2023: ¥9,360,000 (Direct Cost: ¥7,200,000、Indirect Cost: ¥2,160,000); Fiscal Year 2022: ¥9,360,000 (Direct Cost: ¥7,200,000、Indirect Cost: ¥2,160,000); Fiscal Year 2021: ¥9,490,000 (Direct Cost: ¥7,300,000、Indirect Cost: ¥2,190,000); Fiscal Year 2020: ¥6,760,000 (Direct Cost: ¥5,200,000、Indirect Cost: ¥1,560,000)
• Keywords: グラフ深層学習 / グラフデータベース / グラフ生成 / ベンチマーク / グラフ / グラフマイニング / グラフ埋め込み / リンク予測 / サブグラフマッチング

Outline of Research at the Start

本研究では，1) サブグラフマッチングおよびグラフマイニング処理を処理する高速グラフデータベースエンジンを開発し，2)グラフデータ特有の性質である閉路構造に着眼し，グラフデータの格納構造・インデックス構造および不要パターンの効率的な枝刈り技術に取り組み， 3)実際のデータ分析の際に生じるアクセスワークロードの偏りと変化を捉えることでワークロードのコストを最小化する最適化技術に取り組む．

Outline of Annual Research Achievements

課題1(グラフクエリ処理): 1)失敗パターンの活用によるサブグラフマッチングの高速化技術を開発した（ACM SIGMOD 採択）．本技術の特徴は，サブグラフ同型の制約条件を満たさない失敗パターンを記録する不要な探索を除外する点にあり，数学的性質を明らかにするとともに，従来技術よりも長時間要するクエリ数を1/100に削減した．
2) conjunctive path queryの理論的な精査を完了させるために，インデックス化における空間複雑性を求めた．これにより，大規模グラフでは全ての経路をインデックス化することは困難であり，問合せ状況に合わせたインデックス化が必要であることが理論的にわかった．
課題2(グラフ分析処理):1)人工の動的グラフ生成器を開発するとともに，dynamic graph neural network (GNN) の性能評価を実施し，最新の dynamic GNNの特性を解明した(国際会議投稿中)．本動的グラフ生成の特徴は，テンソル分解及び時系列分解を活用することで動的グラフの特徴量を抽出し，加えてグラフ生成の高速化を達成した点にある．
2)グラフの多様な特性(homophily/heterophily)に対して，多様なノード特徴量（グラフ畳み込み結果，隣接ノードIDリスト)とエッジ特徴量（有向・無向）を適切に組み合わせる汎用なGNNアーキテクチャを考案し，安定して高い精度を達成した(国際会議投稿中)．
3)時間変化するグラフにおける予測技術として，グラフ構造全体を予測する深層学習技術および深層学習の出力が変化する要因となる部分グラフを検出する技術を開発した．また，グラフのトポロジ構造に着目した公平なグラフ深層学習技術を開発し，次数分布と予測分布が独立した出力を実現する技術を開発した．

Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

課題1(グラフクエリ処理): 失敗パターンの活用によるサブグラフマッチングの高速化の取り組みは最難関会議 SIGMOD に採択，conjunctive path queryに関しては理論的な精査が完了しており，インデックス化について技術開発が進んでいる．また，カーテディナリティ推定およびサブグラフ編集距離問合せにおいても基礎的な実験が完了している．
課題2(グラフ分析処理): 動的グラフ生成器および多様なグラフの特徴量を活用したGNNに関しては，国際会議 ECML/PKDD に2件投稿中であり，その他国内シンポジウムで6件発表した．また，時間変化するグラフにおける時系列予測技術では，グラフの将来予測の研究が大きく進展している．グラフ構造全体を予測する深層学習技術および深層学習の出力が変化する要因となる部分グラフを検出する技術は新たな研究の方向性として新規性が大きい

Strategy for Future Research Activity

課題1(グラフクエリ処理):conjunctive path queryにおいては，理論的な精査が完了しため，インデックス化について進めていく．また，カーテディナリティ推定およびサブグラフ編集距離問合せにおいては，新たなアルゴリズムの考案および論文化を行っていく．
課題2(グラフ分析処理):多様なグラフの特徴量を活用したGNNに関しては，グラフの多様な特性(homophily/heterophily)をノード単位で表現して適応的にGNNの畳み込みを制御する研究に取り組む．時間変化するグラフにおける時系列予測技術に関しては，グラフ構造全体を予測する深層学習技術の効率化および反実仮想説明についてより研究を深めていく．

Research Products

• [Int'l Joint Research] アイントホーヘン工科大(オランダ)
• [Int'l Joint Research] コペンハーゲン大学(デンマーク)
• [Int'l Joint Research] Aarhus University(デンマーク)
• [Int'l Joint Research] Eindhoven university of technology(オランダ)
• [Int'l Joint Research] Eindhoven University of Technology(オランダ)
• [Int'l Joint Research] Rochester Institute of Technology(米国)
• [Int'l Joint Research] Aarhus University(デンマーク)
• [Int'l Joint Research] Eindhoven University of Technology(オランダ)
• [Int'l Joint Research] Rochester Institute of Technology(米国)
• [Int'l Joint Research] Aarhus University(デンマーク)
• [Journal Article] GuP: Fast Subgraph Matching by Guard-based Pruning (2023)
  • Author(s): Arai Junya、Fujiwara Yasuhiro、Onizuka Makoto
  • Journal Title: Proceedings of the ACM on Management of Data Volume: 1 Issue: 2 Pages: 1-26
  • DOI: 10.1145/3589312
  • Peer Reviewed / Open Access
• [Journal Article] GenCAT: Generating Attributed Graphs with Controlled Relationships between Classes, Attributes, and Topology (2023)
  • Author(s): Seiji Maekawa, Yuya Sasaki, George Fletcher, Makoto Onizuka
  • Journal Title: Information Systems Volume: 115 Pages: 1-17
  • DOI: 10.1016/j.is.2023.102195
  • Peer Reviewed / Open Access / Int'l Joint Research
• [Journal Article] Proximity Preserving Nonnegative Matrix Factorization (2020)
  • Author(s): Yuya Ogawa, Koh Takeuchi, Yuya Sasaki, Makoto Onizuka
  • Journal Title: Journal of Information Processing Volume: 28 Issue: 0 Pages: 445-452
  • DOI: 10.2197/ipsjjip.28.445
  • NAID: 130007887839
  • ISSN: 1882-6652
  • Peer Reviewed / Open Access
• [Journal Article] New Attributed Graph Clustering by Bridging Attribute and Topology Spaces (2020)
  • Author(s): Seiji Maekawa, Koh Takeuchi, Makoto Onizuka
  • Journal Title: Journal of Information Processing Volume: 28 Issue: 0 Pages: 427-435
  • DOI: 10.2197/ipsjjip.28.427
  • NAID: 130007887721
  • ISSN: 1882-6652
  • Peer Reviewed / Open Access
• [Presentation] 時間的特徴を制御可能な時間グラフ生成器 (2024)
  • Author(s): 中西 宏和、菊地 良将、佐々木 勇和、鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] 時間グラフ生成に関する包括的な調査とベンチマーキング (2024)
  • Author(s): 菊地 良将1、中西 宏和、佐々木 勇和、Yakovets Nikolay、Fletcher George、鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム
  • Int'l Joint Research
• [Presentation] グラフ深層学習を用いた類似特許検索の精度向上 (2024)
  • Author(s): 中山 樹、中西 宏和、菊地 良将、佐々木 勇和、荒瀬 由紀、鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] モンテカルロ木探索を用いたグラフニューラル構造探索 (2024)
  • Author(s): 佐々木勇和
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] 教師あり対照学習に基づく次数公平なグラフ深層学習 (2024)
  • Author(s): 石崎 泰己，佐々木勇和，鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] 時系列グラフニューラルネットワークのリンク予測における 反実仮想説明アルゴリズム (2024)
  • Author(s): 三谷 真裕，佐々木勇和，鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] Holistic Prediction on a Time-Evolving Attributed Graph (2023)
  • Author(s): Shohei Yamasaki, Yuya Sasaki, Panagiotis Karras, Makoto Onizuka
  • Organizer: Annual Meeting of the Association for Computational Linguistics (ACL)
  • Int'l Joint Research
• [Presentation] 経路相関ルールマイニング (2023)
  • Author(s): 佐々木 勇和
  • Organizer: データ工学と情報マネジメントに関するフォーラム (DEIM)
• [Presentation] 複数データセットを活用した連続時間グラフリンク予測手法の分析および予測精度の改善 (2023)
  • Author(s): 菊地 良将, 前川 政司, 佐々木 勇和, 鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム (DEIM)
• [Presentation] 多様な人工グラフを用いた GNN によるノード分類の実証研究 (2023)
  • Author(s): 前川 政司, 野田 昂希, 佐々木 勇和, 鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム (DEIM)
• [Presentation] 動的リンク予測手法の動向調査 (2023)
  • Author(s): 中西 宏和, 前川 政司, 佐々木 勇和, 鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム (DEIM)
• [Presentation] Cost-constrained Minimal Steiner Tree Enumeration (2022)
  • Author(s): Yuya Sasaki
  • Organizer: International Conference on Information and Knowledge Management (CIKM)
  • Int'l Joint Research
• [Presentation] 出現分布に基づく知識グラフの例外検出 (2022)
  • Author(s): 加藤 遼, 堀内 美聡, 松田 光司, 佐々木 勇和, 鬼塚 真
  • Organizer: 情報科学技術フォーラム (FIT)
• [Presentation] Beyond Real-world Benchmark Datasets: An Empirical Study of Node Classification with GNNs. (2022)
  • Author(s): Seiji Maekawa, Koki Noda, Yuya Sasaki, Makoto Onizuka
  • Organizer: Conference on Neural Information Processing Systems (NeurIPS)
  • Int'l Joint Research
• [Presentation] GNN Transformation Framework for Improving Efficiency and Scalability (2022)
  • Author(s): Seiji Maekawa, Yuya Sasaki, George Fletcher, Makoto Onizuka
  • Organizer: he European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML/PKDD)
  • Int'l Joint Research
• [Presentation] Benchmarking GNNs with GenCAT Workbench (2022)
  • Author(s): Seiji Maekawa, Yuya Sasaki, George Fletcher, Makoto Onizuka
  • Organizer: he European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML/PKDD)
  • Int'l Joint Research
• [Presentation] The Lannion report on Big Data and Security Monitoring Research (2022)
  • Author(s): Laurent d'Orazio, Jalil Boukhobza, Omer F. Rana, Juba Agoun, Le Gruenwald, Herve Rannou, Elisa Bertino, Mohand-Said Hacid, Taofik Saidi, Georges Bossert, Van Long Nguyen Huu, Dimitri Tombroff, Makoto Onizuka
  • Organizer: IEEE International Conference on Big Data
  • Int'l Joint Research
• [Presentation] 大規模グラフと公平性 (2022)
  • Author(s): 佐々木 勇和
  • Organizer: 人工知能基本問題研究会（SIG-FPAI）
  • Invited
• [Presentation] 化学，都市工学，医学における共同研究 (2022)
  • Author(s): 佐々木 勇和
  • Organizer: 情報科学技術フォーラム（FIT)
  • Invited
• [Presentation] Path search on graphs (2022)
  • Author(s): Yuya Sasaki
  • Organizer: Aarhus workshop on Graph Access and Analysis
  • Invited
• [Presentation] On discovering discriminatory bias in graphs (2022)
  • Author(s): Yuya Sasaki
  • Organizer: Aarhus workshop on Graph Access and Analysis
  • Invited
• [Presentation] Analytical query optimization: distributed processing, graph mining, and applications (2022)
  • Author(s): Makoto Onizuka
  • Organizer: Supsec Workshop Summer
  • Invited
• [Presentation] Language-aware Indexing for Conjunctive Path Queries (2022)
  • Author(s): Yuya Sasaki, George Fletcher, and Makoto Onizuka
  • Organizer: International Conference on Data Engineering
  • Int'l Joint Research
• [Presentation] JupySym: Jupyter Notebook Similarity Search System (2022)
  • Author(s): Misato Horiuchi, Yuya Sasaki, Chuan Xiao, and Makoto Onizuka
  • Organizer: International Conference on Extending Database Technology
  • Int'l Joint Research
• [Presentation] 階層型クラスタ構造を活用する部分グラフベースのリンク予測 (2022)
  • Author(s): 中西 宏和, 山口 寛人, 前川 政司, 佐々木 勇和, 鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] 複数データセットに共通する傾向を捉えた連続時間グラフのリンク予測 (2022)
  • Author(s): 山口 寛人, 前川 政司, 佐々木 勇和, 鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] GuP: ガードパターンを用いた高速なサブグラフマッチング (2022)
  • Author(s): 新井淳也, 鬼塚真, 藤原靖宏
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] Adaptive Node Embedding Propagation for Semi-Supervised Classification (2021)
  • Author(s): Yuya Ogawa, Maekawa Seiji, Yuya Sasaki, Yasuhiro Fujiwara, and Makoto Onizuka
  • Organizer: The European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases
  • Int'l Joint Research
• [Presentation] Effective Candidate Selection and Interpretable Interest Extraction for Follower Prediction on Social Media (2021)
  • Author(s): Seiji Maekawa, Santi Saeyor, Takeshi Sakaki, Makoto Onizuka
  • Organizer: IEEE/WIC/ACM International Conference on Web Intelligence and Intelligent Agent Technology
  • Int'l Joint Research
• [Presentation] 計算ノートブック類似検索技術の開発 (2021)
  • Author(s): 堀内 美聡, 山崎 翔平, 佐々木 勇和, 肖 川, 鬼塚 真
  • Organizer: 情報処理学会第83回全国大会
• [Presentation] コミュニティ構造を制御可能な属性付きグラフ生成 (2021)
  • Author(s): 前川政司, 佐々木勇和, George Fletcher, 鬼塚 真
  • Organizer: 情報処理学会第83回全国大会
• [Presentation] 反復機構による属性付き時系列グラフ予測の精度検証 (2021)
  • Author(s): 山崎 翔平, Panagiotis Karras, 佐々木 勇和, 肖 川, 鬼塚 真
  • Organizer: 情報処理学会第83回全国大会
• [Presentation] 時系列グラフにおける着目ノードに特化したリンク予測 (2021)
  • Author(s): 山口 寛人, 前川 政司, 佐々木 勇和, 鬼塚 真
  • Organizer: 情報処理学会第83回全国大会
• [Presentation] 時刻変化するワークロードのための NoSQL スキーマのオフライン最適化 (2021)
  • Author(s): 涌田 悠佑, Michael Mior, 善明 晃由, 佐々木 勇和, 鬼塚 真
  • Organizer: 情報処理学会第83回全国大会
• [Presentation] 適応的なノード埋め込みの伝搬による半教師ありノード分類モデル (2021)
  • Author(s): 小川 裕也, 前川 政司, 佐々木 勇和, 藤原 靖宏, 鬼塚 真
  • Organizer: 情報処理学会第83回全国大会
• [Presentation] 連言経路検索のための構造索引技術 (2021)
  • Author(s): 佐々木 勇和, George Fletcher, 鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] 計算ノートブック類似検索のための高速な検索アルゴリズム (2021)
  • Author(s): 堀内 美聡, 山崎 翔平, 佐々木 勇和, 肖 川, 鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] 半教師ありノード分類のための適応的ノード埋め込み伝搬ニューラルネットワーク (2021)
  • Author(s): 小川 裕也, 前川 政司, 佐々木 勇和, 藤原 靖宏, 鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] 時刻変化するワークロードのためのNoSQLスキーマの最適化 (2021)
  • Author(s): 涌田 悠佑, Michael Mior, 善明 晃由, 佐々木 勇和, 鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] コミュニティ構造を制御する属性付きグラフ生成 (2021)
  • Author(s): 前川 政司, 佐々木 勇和, George Fletcher, 鬼塚 真
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] 時系列グラフを活用する着目ノードに特化したリンク予測 (2021)
  • Author(s): 山口 寛人, 前川 政司, 佐々木 勇和, 鬼塚 真.
  • Organizer: データ工学と情報マネジメントに関するフォーラム
• [Presentation] Towards Association Rule Mining on Property Graphs (2020)
  • Author(s): Yuya Sasaki
  • Organizer: International Workshop on Enumeration Problems and Applications
• [Presentation] Controlling Internal Structure of Communities on Graph Generator (2020)
  • Author(s): Hiroto Yamaguchi, Yuya Ogawa, Seiji Maekawa, Yuya Sasaki, Makoto Onizuka
  • Organizer: IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining
• [Remarks] Publication
  • URL: http://www-bigdata.ist.osaka-u.ac.jp/ja/paper/
• [Patent(Industrial Property Rights)] 学習装置、予測装置、学習方法、予測方法、学習プログラム及び予測プログラム (2022)
  • Inventor(s): 佐々木勇和，山口寛人，鬼塚真，前川政司
  • Industrial Property Rights Holder: 佐々木勇和，山口寛人，鬼塚真，前川政司
  • Industrial Property Rights Type: 特許
  • Filing Date: 2022