• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

行列分解に基づく効率的なニューラルネットワーク学習法の研究

研究課題

研究課題/領域番号 18K11457
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分61030:知能情報学関連
研究機関群馬大学 (2020)
東京大学 (2019)
大阪大学 (2018)

研究代表者

林 克彦  群馬大学, 社会情報学部, 准教授 (50725794)

研究分担者 高瀬 翔  日本電信電話株式会社NTTコミュニケーション科学基礎研究所, 協創情報研究部, リサーチアソシエイト (40817483)
上垣外 英剛  東京工業大学, 科学技術創成研究院, 助教 (40817649)
研究期間 (年度) 2018-04-01 – 2021-03-31
研究課題ステータス 完了 (2020年度)
配分額 *注記
3,380千円 (直接経費: 2,600千円、間接経費: 780千円)
2020年度: 390千円 (直接経費: 300千円、間接経費: 90千円)
2019年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2018年度: 1,820千円 (直接経費: 1,400千円、間接経費: 420千円)
キーワード行列分解 / ニューラルネットワーク / 知識グラフ / テンソル分解 / 高速フーリエ変換
研究成果の概要

行列分解、及び、それを多次元データに一般化したテンソル分解に基づいてニューラルネットワーク計算を効率化する手法について理論的・実験的な研究を行った。特に、ユニタリ対角化に基づいて、行列をベクトル化する手法を開発した。また、グラフ上のパスクエリによる質問応答問題をベンチマークとして、この手法の有効性を検証した。さらに、ニューラルネットワークモデルの圧縮を行うため、パラメータを二値化する手法についても開発を行った。

研究成果の学術的意義や社会的意義

ニューラルネットワークを基礎とした表現学習や深層学習は人工知能の中核を担う技術である。その計算効率の向上は様々な人工知能アプリケーションの実用化に向けて重要な意義を持つ。ユニタリ対角化に基づく手法は行列パラメータをベクトル化する汎用的な手法であり、自然言語処理や情報検索など様々な分野におけるアプリケーションの処理効率を向上させる。また、二値化についてもシステムのメモリ消費を大幅に削減し、上記分野の様々なアプリケーションの実用化に貢献するものである。

報告書

(4件)
  • 2020 実績報告書   研究成果報告書 ( PDF )
  • 2019 実施状況報告書
  • 2018 実施状況報告書
  • 研究成果

    (10件)

すべて 2021 2020 2019 2018 その他

すべて 雑誌論文 (2件) (うち査読あり 2件、 オープンアクセス 2件) 学会発表 (7件) (うち国際学会 2件、 招待講演 2件) 備考 (1件)

  • [雑誌論文] Binarized Embeddings for Fast, Space-Efficient Knowledge Graph Completion2021

    • 著者名/発表者名
      Katsuhiko Hayashi、Koki Kishimoto、Masashi Shimbo
    • 雑誌名

      IEEE Transactions on Knowledge and Data Engineering

      巻: -- ページ: 1-13

    • DOI

      10.1109/tkde.2021.3075070

    • 関連する報告書
      2020 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] A Greedy Bit-flip Training Algorithm for Binarized Knowledge Graph Embeddings2020

    • 著者名/発表者名
      Hayashi Katsuhiko、Kishimoto Koki、Shimbo Masashi
    • 雑誌名

      Findings of the Association for Computational Linguistics: EMNLP 2020

      巻: - ページ: 109-114

    • DOI

      10.18653/v1/2020.findings-emnlp.10

    • 関連する報告書
      2020 実績報告書
    • 査読あり / オープンアクセス
  • [学会発表] Binarized Knowledge Graph Embeddings2019

    • 著者名/発表者名
      Kishimoto Koki、Hayashi Katsuhiko、Akai Genki、Shimbo Masashi、Komatani Kazunori
    • 学会等名
      41st European Conference on Information Retrieval
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] A Non-commutative Bilinear Model for Answering Path Queries in Knowledge Graphs2019

    • 著者名/発表者名
      Hayashi Katsuhiko、Shimbo Masashi
    • 学会等名
      the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing
    • 関連する報告書
      2019 実施状況報告書
  • [学会発表] Block HolE: 関係行列の同時対角化に基づく知識グラフ埋め込みの問題点とその解決2018

    • 著者名/発表者名
      林克彦, 真鍋陽俊, 石原敬大, 新保仁
    • 学会等名
      研究報告音声言語情報処理(SLP)
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] Neural Tensor Networks with Diagonal Slice Matrices2018

    • 著者名/発表者名
      Takahiro Ishihara, Katsuhiko Hayashi, Hitoshi Manabe, Masashi Shimbo
    • 学会等名
      The 16th Annual Conference of the North American Chapter of the Association for Computational Linguistics
    • 関連する報告書
      2018 実施状況報告書
    • 国際学会
  • [学会発表] Higher-order Syntactic Attention Network for Long Sentence Compression2018

    • 著者名/発表者名
      Hidetaka Kamigaito, Katsuhiko Hayashi, Tsutomu Hirao, Masaaki Nagata
    • 学会等名
      The 16th Annual Conference of the North American Chapter of the Association for Computational Linguistics
    • 関連する報告書
      2018 実施状況報告書
    • 国際学会
  • [学会発表] 知識グラフと分散表現2018

    • 著者名/発表者名
      林克彦
    • 学会等名
      第21回情報論的学習理論ワークショップ
    • 関連する報告書
      2018 実施状況報告書
    • 招待講演
  • [学会発表] 知識グラフと分散表現2018

    • 著者名/発表者名
      林克彦
    • 学会等名
      言語処理学会第25回年次大会
    • 関連する報告書
      2018 実施状況報告書
    • 招待講演
  • [備考] 大阪大学 RESOU

    • URL

      https://resou.osaka-u.ac.jp/en/research/2019/20190522_1

    • 関連する報告書
      2019 実施状況報告書

URL: 

公開日: 2018-04-23   更新日: 2022-01-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi