• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Temporal Summarization of Sign Language Videos

Research Project

Project/Area Number 19K12032
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 61010:Perceptual information processing-related
Research InstitutionSojo University

Principal Investigator

Tsutsuguchi Ken  崇城大学, 情報学部, 教授 (70828227)

Co-Investigator(Kenkyū-buntansha) 米村 俊一  芝浦工業大学, 工学部, 教授 (60631033)
Project Period (FY) 2019-04-01 – 2022-03-31
Project Status Completed (Fiscal Year 2021)
Budget Amount *help
¥4,420,000 (Direct Cost: ¥3,400,000、Indirect Cost: ¥1,020,000)
Fiscal Year 2021: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2020: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2019: ¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000)
Keywords手話映像 / 要約 / キーフレーム / 自動抽出 / オプティカルフロー / 動画像処理
Outline of Research at the Start

申請者らはスマートフォン等を用いた手話の効率的な映像コミュニケーションの実現のため、手話の実写映像を少数の画像(手話キーフレーム)で要約することで通信データ量を大幅に削減する技術に取り組んでおり,本研究では撮影した手話映像から手話キーフレームを自動的に抽出する技術の確立をめざすものである.本研究により,災害時のように通信帯域が圧迫されるような状況においても,手話映像による情報伝達が可能となることが期待できる.

Outline of Final Research Achievements

This study aims to summarize sign language videos using only a small number of key images (we call as "keyframes") extracted from the video, to realize efficient video communication of sign language.
In this study, we first confirmed the effect of the summarized video created from the keyframes. Then, based on the hypothesis that the movement of hand or arm is stopped or moved slowly (in the video) at the key frame, we analyzed the movement of sign language video, and proposed and realized a new method that enables automatic extraction of keyframes.
This method has two major features that it does not depend on the sign language person, and can extract keyframe candidates in near real time.

Academic Significance and Societal Importance of the Research Achievements

手話映像を特徴的な少数の画像により要約するという手法は著者らが提案した手法であり,学術的新規性が高い.本研究により,手話映像から自動的にキーフレーム候補を抽出することが可能となり,当初計画で想定していた特定手話者のみならず,不特定の手話者に対しても抽出することが可能となり,またリアルタイムでの抽出の可能性も示唆されているため,その学術的な意義は極めて高い.本成果を応用することで,災害時に情報を素早く伝達することが可能となり,また,手話映像を再確認する際にも,より短い時間で内容を確認することが可能となるなど,ろう者の利便性をはかることができ,その社会的な意義は非常に大きい.

Report

(4 results)
  • 2021 Annual Research Report   Final Research Report ( PDF )
  • 2020 Research-status Report
  • 2019 Research-status Report
  • Research Products

    (12 results)

All 2022 2021 2020 2019

All Journal Article (1 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (11 results)

  • [Journal Article] 手話の空間的特徴に基づくキーフレームを用いた手話映像要約の検討2021

    • Author(s)
      筒口拳,秋山滉太,品田紗弥花,米村俊一
    • Journal Title

      画像電子学会誌

      Volume: 50 Pages: 373-382

    • Related Report
      2021 Annual Research Report
    • Peer Reviewed / Open Access
  • [Presentation] 非手指動作の学習を促進する手話学習支援システムの検討2022

    • Author(s)
      松丸 和暉,筒口 拳,米村 俊一
    • Organizer
      電子情報通信学会 ヒューマンコミュニケーション基礎研究会
    • Related Report
      2021 Annual Research Report
  • [Presentation] 手話キーフレーム映像の構成に関する検討2022

    • Author(s)
      板井 裕太,西村 洋輝,米村 俊一,筒口拳
    • Organizer
      情報処理学会 火の国情報シンポジウム2022
    • Related Report
      2021 Annual Research Report
  • [Presentation] 手話学習支援システム~手話キーフレームを用いた同期映像フィードバック機能の提案~2021

    • Author(s)
      猪岡 翔,筒口 拳,米村 俊一
    • Organizer
      電子情報通信学会 福祉情報工学研究会
    • Related Report
      2021 Annual Research Report
  • [Presentation] 姿勢推定を用いた手話映像からのキーフレーム候補抽出2021

    • Author(s)
      丸亀 泰作,米村 俊一,筒口 拳
    • Organizer
      情報処理学会 火の国情報シンポジウム2021
    • Related Report
      2020 Research-status Report
  • [Presentation] オプティカルフローを用いた手話映像からのキーフレーム候補抽出2021

    • Author(s)
      呉 夢竹,米村 俊一,筒口 拳
    • Organizer
      情報処理学会 火の国情報シンポジウム2021
    • Related Report
      2020 Research-status Report
  • [Presentation] 手話学習支援システム ー手話キーフレームによる学習ポイントの明示機能の提案ー2020

    • Author(s)
      猪岡 翔,筒口 拳,米村 俊一
    • Organizer
      子情報通信学会 福祉情報工学研究会
    • Related Report
      2020 Research-status Report
  • [Presentation] 関節軌道の多項式近似に基づく手話映像からのキーフレーム抽出2020

    • Author(s)
      入江 健太,米村 俊一,筒口 拳
    • Organizer
      画像電子学会第292回研究会
    • Related Report
      2019 Research-status Report
  • [Presentation] 手話の動作近似に関する検討2019

    • Author(s)
      入江 健太,筒口 拳
    • Organizer
      映像情報メディア学会研究会(SIP,IE)
    • Related Report
      2019 Research-status Report
  • [Presentation] ろう者の手話緊急メッセージ読み取りにおける文章理解の方略2019

    • Author(s)
      品田 紗弥花,筒口 拳,米村俊一
    • Organizer
      映像情報メディア学会研究会(SIP,IE)
    • Related Report
      2019 Research-status Report
  • [Presentation] 視線計測を用いた手話初学者の学習方略の分析2019

    • Author(s)
      猪岡 翔,筒口 拳,米村 俊一
    • Organizer
      映像情報メディア学会研究会(SIP,IE)
    • Related Report
      2019 Research-status Report
  • [Presentation] ろう者の手話映像読み取り方略を考慮した手話文章構成形式の検討2019

    • Author(s)
      品田 紗弥花,筒口 拳,米村 俊一
    • Organizer
      電子情報通信学会 福祉情報工学研究会
    • Related Report
      2019 Research-status Report

URL: 

Published: 2019-04-18   Modified: 2023-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi