• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

高次元空間上の検索として見た機械学習諸問題: 解釈と解法

研究課題

研究課題/領域番号 19H04173
研究種目

基盤研究(B)

配分区分補助金
応募区分一般
審査区分 小区分61030:知能情報学関連
研究機関千葉工業大学

研究代表者

新保 仁  千葉工業大学, 人工知能・ソフトウェア技術研究センター, 主席研究員 (90311589)

研究分担者 重藤 優太郎  千葉工業大学, 人工知能・ソフトウェア技術研究センター, 主任研究員 (50803392)
研究期間 (年度) 2019-04-01 – 2023-03-31
研究課題ステータス 完了 (2022年度)
配分額 *注記
17,030千円 (直接経費: 13,100千円、間接経費: 3,930千円)
2022年度: 4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
2021年度: 4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
2020年度: 4,160千円 (直接経費: 3,200千円、間接経費: 960千円)
2019年度: 4,550千円 (直接経費: 3,500千円、間接経費: 1,050千円)
キーワード近傍検索 / 知識グラフ / 表現学習 / 事前学習 / 非相関化 / 埋め込み / 自己教師あり学習 / 正則化 / 高次元空間 / 知識グラフ補完 / 自己教師付き学習 / 機械学習 / データマイニング
研究開始時の研究の概要

本研究では, 機械学習のさまざまなタスクを, 高次元空間における検索の問題として再解釈する. 具体的には, 最近傍検索を行う際に障害となる, 高次元空間特有のバイアス (「空間中心性」) の存在に着目する. そのうえで, 上記機械学習タスクに対してこれまで提案された各種アプローチを, このバイアスを軽減する距離・類似度尺度の設計という観点から再評価する. 同時に, その悪影響を直接軽減する手法を開発し, タスク性能の向上につなげる.

研究成果の概要

本研究における主要な成果は以下の通りである. (1) 知識グラフ埋め込みの改良. 特に, 「経路問い合わせ」と呼ばれる問い合わせに従来モデルが不適当であることを指摘し, これを解消するモデルを提案した. また, 推論時のメモリ使用量削減のため, 知識グラフ埋め込みの二値量子化法を提案した. (2) ニューラルネットワークを用いた画像の事前表現学習で最近提案された非対照学習による手法が, 埋め込み次元が高い場合に非効率なことを指摘し, 下流タスクの精度を保ったまま, この欠点を取り除くスケーラブルな非対称学習法を提案した.

研究成果の学術的意義や社会的意義

多くのニューラルネットの応用分野において, 外部知識を, 知識グラフとして表現して活用する手法が多く提案されており, 我々の成果はこういったアプローチの補助となる. 表現学習に関する提案法は, スケーラブルな特徴量非相関化法であるが, これは画像のみならず多様なデータの表現学習にもほぼそのまま適用可能である. また, 提案法は特徴量の非相関化が必要な表現学習以外のタスクにも広く用いることができる.

報告書

(5件)
  • 2022 実績報告書   研究成果報告書 ( PDF )
  • 2021 実績報告書
  • 2020 実績報告書
  • 2019 実績報告書
  • 研究成果

    (9件)

すべて 2023 2021 2020 2019 その他

すべて 雑誌論文 (4件) (うち国際共著 1件、 査読あり 3件、 オープンアクセス 4件) 学会発表 (4件) (うち国際学会 3件) 備考 (1件)

  • [雑誌論文] Binarized Embeddings for Fast, Space-Efficient Knowledge Graph Completion2021

    • 著者名/発表者名
      Katsuhiko Hayashi、Koki Kishimoto、Masashi Shimbo
    • 雑誌名

      IEEE Transactions on Knowledge and Data Engineering

      巻: -- ページ: 1-13

    • DOI

      10.1109/tkde.2021.3075070

    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Transductive Data Augmentation with Relational Path Rule Mining for Knowledge Graph Embedding2021

    • 著者名/発表者名
      Hirose Yushi、Shimbo Masashi、Watanabe Taro
    • 雑誌名

      Proceedings of the 12th IEEE International Conference on Big Knowledge

      巻: なし ページ: 377-384

    • DOI

      10.1109/ickg52313.2021.00057

    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] A Greedy Bit-flip Training Algorithm for Binarized Knowledge Graph Embeddings2020

    • 著者名/発表者名
      Hayashi Katsuhiko、Kishimoto Koki、Shimbo Masashi
    • 雑誌名

      Findings of the Association for Computational Linguistics: EMNLP 2020

      巻: - ページ: 109-114

    • DOI

      10.18653/v1/2020.findings-emnlp.10

    • 関連する報告書
      2020 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Distant supervision for relation extraction via piecewise attention and bag-level contextual inference2019

    • 著者名/発表者名
      Van-Thuy Phi, Joan Santoso, Van-Hien Tran, Hiroyuki Shindo, Masashi Shimbo, and Yuji Matsumoto
    • 雑誌名

      IEEE Access

      巻: 7 ページ: 103570-103582

    • DOI

      10.1109/access.2019.2932041

    • 関連する報告書
      2019 実績報告書
    • オープンアクセス / 国際共著
  • [学会発表] Learning Decorrelated Representations Efficiently Using Fast Fourier Transform2023

    • 著者名/発表者名
      Y. Shigeto / M. Shimbo / Y. Yoshikawa / A. Takeuchi
    • 学会等名
      CVPR 2023 (To appear)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Binarized knowledge graph embeddings2019

    • 著者名/発表者名
      Koki Kishimoto, Katsuhiko Hayashi, Genki Akai, Masashi Shimbo, and Kazunori Komatani
    • 学会等名
      41st European Conference on Information Retrieval (ECIR ’19)
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] A non-commutative bilinear model for answering path queries in knowledge graphs2019

    • 著者名/発表者名
      Katsuhiko Hayashi and Masashi Shimbo
    • 学会等名
      Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP '19)
    • 関連する報告書
      2019 実績報告書
    • 国際学会
  • [学会発表] A Simple Reranking Method for Knowledge Graph Completion2019

    • 著者名/発表者名
      Lu Yuxun, Yutaro Shigeto, Katsuhiko Hayashi, Masashi Shimbo
    • 学会等名
      情報処理学会 第241回自然言語処理研究会
    • 関連する報告書
      2019 実績報告書
  • [備考]

    • URL

      https://stair.center/archives/research/learning-decorrelated-representations-efficiently-using-fast-fourier-transform-cvpr-2023

    • 関連する報告書
      2022 実績報告書

URL: 

公開日: 2019-04-18   更新日: 2024-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi