• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実績報告書

多ドメイン関連性データのグラフ埋め込みによる表現学習

研究課題

研究課題/領域番号 20H04148
研究機関京都大学

研究代表者

下平 英寿  京都大学, 情報学研究科, 教授 (00290867)

研究期間 (年度) 2020-04-01 – 2023-03-31
キーワード多変量解析 / 次元削減 / 分散表現 / 表現学習 / グラフ埋め込み / 自然言語処理 / ニューラルネットワーク / 加法構成性
研究実績の概要

画像,タグ,文書等の様々なドメインのマルチモーダルデータから関連性を考慮したグラフ埋め込みによって情報統合し共通空間で表現する新しい柔軟な多変量解析の方法論を提案・発展させる.線形変換だけでなくニューラルネットによる非線形変換の次元削減によりグラフ構造を保存する埋め込みの最適化をおこなう.画像認識や自然言語処理などの大規模データに取り組み,その経験を理論にフィードバックすることによって,埋め込んだベクトルの加減算など共通空間の演算による推論の枠組みと,その演算の汎化性能に適した埋め込み空間や類似度関数のモデル選択の方法論の発展を目指す.

本年度は次の成果が得られた.
(1)関連性データからの表現学習において得られる分散表現について,加法構成性などの性質を一般化するための枠組みとして,AND,OR,NOTなど論理演算に対応するベクトル表現の公式を昨年度までに導出していたが,この一般化した加法構成性について単語ベクトルだけでなくBERT等の言語モデルにおける性能向上について実験・評価した.(2) 単語の「意味の強さ」をカルバックライブラー情報量の観点で定式化し,単語ベクトルの長さが意味の強さを表すことを理論と実験で確認した.これは表現学習がどのように情報をエンコードするか,を理解する一歩となる.(3)k近傍法を改良するマルチスケール手法を更に改良・検討して手法の安定化と経済データでの実験を行った.(4)グラフ埋め込みに関連して,ネットワーク成長メカニズムの統計推測のモデルをハイパーグラフに拡張し,また系列データが得られない場合の検討を行った.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

理論研究とその実証実験,および自然言語処理等への応用で一定の成果があった.

今後の研究の推進方策

今後も自然言語処理,画像検索,オミクスデータ解析,経済データ解析などの応用をすすめて得られる知見を理論研究に生かしつつ,理論的な興味に基づいた研究も発展させる.

  • 研究成果

    (10件)

すべて 2022 2021

すべて 雑誌論文 (2件) (うち査読あり 2件、 オープンアクセス 2件) 学会発表 (8件) (うち国際学会 1件)

  • [雑誌論文] A Hypergraph Approach for Estimating Growth Mechanisms of Complex Networks2022

    • 著者名/発表者名
      Inoue Masaaki、Pham Thong、Shimodaira Hidetoshi
    • 雑誌名

      IEEE Access

      巻: 10 ページ: 35012~35025

    • DOI

      10.1109/ACCESS.2022.3143612

    • 査読あり / オープンアクセス
  • [雑誌論文] Non-parametric estimation of the preferential attachment function from one network snapshot2021

    • 著者名/発表者名
      Pham Thong、Sheridan Paul、Shimodaira Hidetoshi
    • 雑誌名

      Journal of Complex Networks

      巻: 9 ページ: cnab024

    • DOI

      10.1093/comnet/cnab024

    • 査読あり / オープンアクセス
  • [学会発表] 単語ベクトルの長さは意味の強さを表す2022

    • 著者名/発表者名
      大山百々勢,横井祥,下平英寿
    • 学会等名
      言語処理学会第28回年次大会(NLP2022)
  • [学会発表] Revisiting Additive Compositionality: AND, OR and NOT Operations with Word Embeddings2021

    • 著者名/発表者名
      Masahiro Naito , Sho Yokoi , Geewook Kim , Hidetoshi Shimodaira
    • 学会等名
      ACL-IJCNLP 2021 Student Research Workshop
    • 国際学会
  • [学会発表] マルチスケールk-近傍法における回帰関数および損失関数の検討2021

    • 著者名/発表者名
      CAO Ruixing , 田中卓磨 , 奥野彰文 , 下平英寿
    • 学会等名
      第35回人工知能学会全国大会 (JSAI2021)
  • [学会発表] マルチスケールk-近傍法による画像のExtreme Multi-Label分類2021

    • 著者名/発表者名
      田中卓磨 , 奥野彰文 , 下平英寿
    • 学会等名
      第35回人工知能学会全国大会 (JSAI2021)
  • [学会発表] マルチスケールk-近傍法における外挿モデルの検討2021

    • 著者名/発表者名
      操瑞行 , 田中卓磨 , 奥野彰文 , 下平英寿
    • 学会等名
      2021年度統計関連学会連合大会
  • [学会発表] 単語埋め込みの加法構成性の精緻化と論理演算2021

    • 著者名/発表者名
      内藤雅博 , 横井祥 , 下平英寿
    • 学会等名
      2021年度統計関連学会連合大会
  • [学会発表] 任意のノード特徴量による成長機構をもつハイパーグラフモデル2021

    • 著者名/発表者名
      井上雅章 , THONG Pham , 下平英寿
    • 学会等名
      2021年度統計関連学会連合大会
  • [学会発表] 複雑ネットワークの成長過程を観測できない時の優先的選択関数の推定方法2021

    • 著者名/発表者名
      THONG Pham , PAUL Sheridan , 下平英寿
    • 学会等名
      2021年度統計関連学会連合大会

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi