Deepening the technologies of graph neural networks

• Project/Area Number: 23K28141
• Project/Area Number (Other): 23H03451 (2023)
• Research Category: Grant-in-Aid for Scientific Research (B)
• Allocation Type: Multi-year Fund (2024); Single-year Grants (2023)
• Section: 一般
• Review Section: Basic Section 61030:Intelligent informatics-related; Basic Section 60030:Statistical science-related; Sections That Are Subject to Joint Review: Basic Section60030:Statistical science-related , Basic Section61030:Intelligent informatics-related
• Research Institution: Institute of Science Tokyo
• Principal Investigator: 村田 剛志 東京工業大学, 情報理工学院, 教授 (90242289)
• Co-Investigator(Kenkyū-buntansha): 劉 欣 国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (20803935)
• Project Period (FY): 2023-04-01 – 2028-03-31
• Project Status: Granted (Fiscal Year 2024)
• Budget Amount: ¥17,550,000 (Direct Cost: ¥13,500,000、Indirect Cost: ¥4,050,000); Fiscal Year 2027: ¥2,990,000 (Direct Cost: ¥2,300,000、Indirect Cost: ¥690,000); Fiscal Year 2026: ¥2,990,000 (Direct Cost: ¥2,300,000、Indirect Cost: ¥690,000); Fiscal Year 2025: ¥2,990,000 (Direct Cost: ¥2,300,000、Indirect Cost: ¥690,000); Fiscal Year 2024: ¥3,900,000 (Direct Cost: ¥3,000,000、Indirect Cost: ¥900,000); Fiscal Year 2023: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
• Keywords: グラフニューラルネットワーク / 頑強化 / 動的グラフ / エンベディング

Outline of Research at the Start

本研究課題において学術的に解決したい課題として、【1】グラフニューラルネットワー
クの技術的な課題の解決【2】グラフニューラルネットワークの応用の方向性の拡大につい
ての研究を進める。最終的には「グラフニューラルネットワークによって、何がどこまで可能になるか」に対する答を追究する。この「学術的問い」に向けて、具体的には以下のことについて取り組んでいく。
【1】 グラフニューラルネットワークの技術的な課題の解決 ( 【1A】グラフニューラルネットワークの頑強化 【1B】動的グラフを扱うグラフニューラルネットワーク )
【2】グラフニューラルネットワークの応用の方向性の拡大

Outline of Annual Research Achievements

本研究課題「グラフニューラルネットワーク技術の深化」は【1】グラフニューラルネットワークの技術的な課題の解決【2】グラフニューラルネットワークの応用の方向性の拡大についての研究を進める。最終的には「グラフニューラルネットワークによって、何がどこまで可能になるか」に対する答を追究する。
令和5年度の研究実績として、博士学生のRuidong Jin氏の論文"Predicting Potential Real-time Donations in YouTube Live Streaming Services via Continuous-time Dynamic Graph"が論文誌Machine Learningに採択された。これはYouTubeの投げ銭(スーパーチャット)を予測するGNNの研究であり、視聴者間のインタラクションを連続時間動的グラフとしてモデル化し、視聴者から配信者への投げ銭を予測するものである。隣接ノードの時間差分に注目したTemporal Difference Graph Neural Network (TDGNN)を提案し、kaggleの公開データを用いた実験で精度向上を確認した。また修士学生の長谷川敦氏の論文"DEGNN: Dual Experts Graph Neural Network Handling Both Edge and Node Feature Noise"が、国際会議The 28th Pacific-Asia Conference on Knowledge Discovery and Data Minig(PAKDD 2024)に採択された。これは辺のノイズを扱うモジュールと、頂点の特徴のノイズを扱うモジュールの両者がやり取りをすることによって、入力としてノイズを含んだグラフが与えられても精度よく学修を行うGNNについての研究である。

Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

「研究実績の概要」で述べたように、令和5年度は論文誌Machine Learningに論文採択されたり、国際会議The 28th Pacific-Asia Conference on Knowledge Discovery and Data Minig(PAKDD 2024)に論文採択されるなどの成果がある。またこれに加えて修士学生の宮崎 直哉氏の人工知能学会第131回知識ベースシステム(KBS)研究会での発表「点群に対するマスクありグラフ自己教師あり学習」が、2023年度人工知能学会研究会優秀賞を受賞することが決定している。これらの研究実績から、本研究課題はおおむね順調に進展していると考えられる。

Strategy for Future Research Activity

これまでの研究実績をふまえ、今後も【1】グラフニューラルネットワークの技術的な課題の解決【2】グラフニューラルネットワークの応用の方向性の拡大 のそれぞれについての研究を進めていく。特にグラフニューラルネットワークの実応用については幅広い産業界からのニーズがあり、それらを少しでも満足させることができるような研究を目指す。

Research Products

• [Journal Article] Predicting potential real-time donations in YouTube live streaming services via continuous-time dynamic graphs (2023)
  • Author(s): Jin Ruidong、Liu Xin、Murata Tsuyoshi
  • Journal Title: Machine Learning Volume: 113 Issue: 4 Pages: 2093-2127
  • DOI: 10.1007/s10994-023-06449-z
  • Peer Reviewed / Open Access
• [Presentation] DEGNN: Dual Experts Graph Neural Network Handling Both Edge and Node Feature Noise (2024)
  • Author(s): Tai Hasegawa、Liu Xin、Murata Tsuyoshi
  • Organizer: The 28th Pacific-Asia Conference on Knowledge Discovery and Data Minig(PAKDD 2024)
  • Int'l Joint Research
• [Presentation] グラフニューラルネットワークによる構造データ機械学習 (2023)
  • Author(s): 村田剛志
  • Organizer: 産業技術総合研究所人工知能研究センター第70回AIセミナー(2023年10月17日)
  • Invited