• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

手順文書からの知識獲得

Research Project

Project/Area Number 20H04210
Research InstitutionKyoto University

Principal Investigator

森 信介  京都大学, 学術情報メディアセンター, 教授 (90456773)

Co-Investigator(Kenkyū-buntansha) 難波 英嗣  中央大学, 理工学部, 教授 (50345378)
亀甲 博貴  京都大学, 学術情報メディアセンター, 助教 (50827524)
山肩 洋子  東京大学, 大学院情報理工学系研究科, 准教授 (60423018)
Project Period (FY) 2020-04-01 – 2024-03-31
Keywords上位下位関係 / 部分全体関 / マルチモダリティー
Outline of Annual Research Achievements

上位下位関係の推定のために、前年までに実装した個別の用語対が上位下位関係にある度合いを推定する手法の結果に、最大全域木を計算する方法を考案し設計した。部分全体関係についても同様であるが、木構造ではなく非巡回有向グラフになるという制約での探索を考案した。両方の実装を途中まで行った。
応用として、基本のレシピをもとに、自分のレシピと異なる部分だけを編集することでレシピを記録することができるアプリRecipeLogを開発している。このアプリを改良し、各家庭のレシピのどこがどのように違うのかを特定する仕組みを構築した。
加えて、提案手法を特許文に対して適用することも試みた。特許の要約と代表図面に着目し、特許データから手順オントロジーを構築する手法を提案した。また、その第一歩として、機械学習に基づく特許画像からのフローチャートの抽出と特許要約の構造解析手法について実験を行った。

Current Status of Research Progress
Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

ロボットの制御のための動画からのフレームの取り出しや、動作結果の画像の選択課題に注力したこともあって、言語内での関係の推定については後回しにした。言語内のみでの関係推定についてはその次の優先順位として取り組んでいるが、学会発表に至るまでの進捗にはならなかった。

Strategy for Future Research Activity

上位下位関係と部分全体関係をそれぞれのグラフ構造の制約下での探索する手法を実装し評価する。
動作の結果得られる物のベクトルについては、調理実施動画のフレームを選択する取組を行った。名称がある物については、これのベクトルについても推定する手法を考案するとともに、画像との比較も行う。
暗黙の道具や動作の結果得られる物のベクトルについても、上位下位関係と部分全体関係と同様に行う。この関係につては、グラフ構造の制約がないだろうと想定しているが、何らかの制約がないかを考察し、それも用いた精度向上を目指す。
得られた結果をレシピを記録することができるアプリRecipeLogに応用する。また、特許データに対しても適用し、手法の一般性を確認する。

  • Research Products

    (11 results)

All 2022 2021 Other

All Journal Article (4 results) (of which Peer Reviewed: 4 results,  Open Access: 1 results) Presentation (5 results) Remarks (2 results)

  • [Journal Article] State-aware Video Procedural Captioning2021

    • Author(s)
      Taichi Nishimura, Atsushi Hashimoto, Yoshitaka Ushiku, Hirotaka Kameko, Shinsuke Mori
    • Journal Title

      ACM Multimedia

      Volume: 0 Pages: 0

    • Peer Reviewed
  • [Journal Article] Egocentric Biochemical Video-and-Language Dataset2021

    • Author(s)
      Taichi Nishimura, Kojiro Sakoda, Atsushi Hashimoto, Yoshitaka Ushiku, Natsuko Tanaka, Fumihito Ono, Hirotaka Kameko, Shinsuke Mori
    • Journal Title

      CLVL (ICCV workshop)

      Volume: 0 Pages: 0

    • Peer Reviewed
  • [Journal Article] MIRecipe: A Recipe Dataset for Stage-Aware Recognition of Changes in Appearance of Ingredients2021

    • Author(s)
      Yixin Zhang, Yoko Yamakata, and Keishi Tajima
    • Journal Title

      ACM Multimedia Asia 2021

      Volume: 16 Pages: 1-7

    • Peer Reviewed / Open Access
  • [Journal Article] RecipeLog: Recipe Authoring App for Accurate Food Recording2021

    • Author(s)
      Akihisa Ishino, Yoko Yamakata, Hiroaki Karasawa and Kiyoharu Aizawa
    • Journal Title

      ACM Multimedia 2021

      Volume: Technical Demo Pages: 2798-2800

    • Peer Reviewed
  • [Presentation] RecipeLog: 手順構造を持ったマルチメディアレシピのための入力インタフェース2022

    • Author(s)
      石野耀久、山肩洋子、唐澤弘明、天野宗佑、相澤清晴
    • Organizer
      映像情報メディア学会 メディア工学研究会 映情学技報
  • [Presentation] 食行動の自動認識に向けた食事中の一人称視点映像データセットの構築2022

    • Author(s)
      佐藤賢志郎、天野宗佑、山肩洋子、相澤清晴
    • Organizer
      映像情報メディア学会 メディア工学研究会 映情学技報
  • [Presentation] 特許中の画像とテキストを用いた手順オントロジーの構築2022

    • Author(s)
      樊 エイブン, 福田 悟志, 難波 英嗣,
    • Organizer
      情報処理学会第145回情報基礎とアクセス技術研究発表会
  • [Presentation] 映像からのストーリー生成: イベント選択器と文生成器の同時学習2022

    • Author(s)
      西村 太一, 橋本 敦史, 牛久 祥孝, 森 信介
    • Organizer
      言語処理学会第28回年次大会
  • [Presentation] レシピ分野における動作対象の状態変化を考慮したデータセットの構築と検索モデルの提案2022

    • Author(s)
      白井圭佑, 橋本敦史, 牛久祥孝, 栗田修平, 亀甲博貴, 森信介
    • Organizer
      言語処理学会第28回年次大会
  • [Remarks] 大規模テキストアーカイブ研究分野

    • URL

      http://www.lsta.media.kyoto-u.ac.jp/

  • [Remarks] フローグラフコーパス (FG corpus)

    • URL

      http://www.lsta.media.kyoto-u.ac.jp/resource/data/recipe/

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi