• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2020 年度 実績報告書

行列分解に基づく効率的なニューラルネットワーク学習法の研究

研究課題

研究課題/領域番号 18K11457
研究機関群馬大学

研究代表者

林 克彦  群馬大学, 社会情報学部, 准教授 (50725794)

研究分担者 高瀬 翔  日本電信電話株式会社NTTコミュニケーション科学基礎研究所, 協創情報研究部, リサーチアソシエイト (40817483) [辞退]
上垣外 英剛  東京工業大学, 科学技術創成研究院, 助教 (40817649) [辞退]
研究期間 (年度) 2018-04-01 – 2021-03-31
キーワードテンソル分解
研究実績の概要

知識グラフの補完問題とは知識グラフ中の欠損事実や誤りを検出するタスクである。この問題を対象として、テンソル分解モデルをバイナリ化することで軽量化・高速化する研究を行った。モデルパラメータは全て-1か1の1ビットで表現されるため、軽量であり、モデル計算はビット演算を使って高速に行うことができる。この成果は2021年4月に国際論文誌IEEE Transactions on Knowledge and Data Engineeringへの採録が決定した。
また、期間中は上記モデルの学習に用いる損失関数に関する理論的・実験的な分析も行った。近年では、学習にソフトマックス損失や負例サンプリングが用いられるが、これらの損失関数間の関係性についいて、理論的な分析を行った。この成果は2021年3月に言語処理学会第27回年次大会で委員特別賞、2021年5月に国際会議ACL21への採録が決定している。
期間中ではさらに、ストカスティック計算に基づくニューラルネットワーク設計の予備調査を行い、本課題の研究成果を次のプロジェクトへと引き継ぐ準備も進めた。

  • 研究成果

    (2件)

すべて 2021 2020

すべて 雑誌論文 (2件) (うち査読あり 2件、 オープンアクセス 2件)

  • [雑誌論文] Binarized Embeddings for Fast, Space-Efficient Knowledge Graph Completion2021

    • 著者名/発表者名
      Katsuhiko Hayashi、Koki Kishimoto、Masashi Shimbo
    • 雑誌名

      IEEE Transactions on Knowledge and Data Engineering

      巻: -- ページ: 1,13

    • DOI

      10.1109/TKDE.2021.3075070

    • 査読あり / オープンアクセス
  • [雑誌論文] A Greedy Bit-flip Training Algorithm for Binarized Knowledge Graph Embeddings2020

    • 著者名/発表者名
      Katsuhiko Hayashi、Koki Kishimoto、Masashi Shimbo
    • 雑誌名

      Findings of the Association for Computational Linguistics

      巻: -- ページ: 109,114

    • DOI

      10.18653/v1/2020.findings-emnlp.10

    • 査読あり / オープンアクセス

URL: 

公開日: 2021-12-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi