• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Research on Web-Based Manual Speech-to-Text Captioning using Mobile Devices for Deaf or Hard of Hearing

Research Project

Project/Area Number 19K02996
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 09070:Educational technology-related
Research InstitutionTsukuba University of Technology

Principal Investigator

Wakatsuki Daisuke  筑波技術大学, 産業技術学部, 教授 (50361887)

Project Period (FY) 2019-04-01 – 2023-03-31
Project Status Completed (Fiscal Year 2022)
Budget Amount *help
¥3,380,000 (Direct Cost: ¥2,600,000、Indirect Cost: ¥780,000)
Fiscal Year 2022: ¥650,000 (Direct Cost: ¥500,000、Indirect Cost: ¥150,000)
Fiscal Year 2021: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2020: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2019: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Keywords遠隔情報保障 / 聴覚障害 / 文字通訳 / モバイル端末 / ウェブアプリケーション / 音声認識 / ウェブアプリ
Outline of Research at the Start

教育機関で学ぶ聴覚障害者を支援するために,ノートテイクやPC要約筆記などの音声を文字化して提供する文字通訳が行われている.PCを利用した文字通訳では,タイピングや連係入力などの特殊な技能が文字通訳者に求められ,人材確保や通訳者の養成が課題となっている.本研究では,PCを用いない次世代の文字通訳手法として,モバイル端末文字通訳を提案する.具体的にはタップ,フリック,ピンチなどのモバイル端末特有の操作特性を考慮したインタフェースの考案,音声認識を活用した文字通訳者支援,通訳者間の連係をやさしくするスマート連係入力,文字と画像を融合したハイブリッド文字通訳について研究を行う.

Outline of Final Research Achievements

I have developed a Web-based system for manual speech-to-text captioning, which is one of information support methods for deaf or hard of hearing (DHH) . Without the need for specialized applications, users and captioners can easily view and generate text caption using only a web browser on a mobile terminal. In addition, by leveraging speech recognition, I have implemented features to support the skills of captioners. Furthermore, a hybrid caption that can insert images into the text caption was implemented, and the user's learning behavior and learning effects were clarified.
As results that were not included in the original plan, we proposed a method for non-professional captioners and a new captioning method for on-demand video content, and examined its effectiveness.

Academic Significance and Societal Importance of the Research Achievements

本研究は,文字通訳の専門性や,人材確保とその養成の課題を解決するために,モバイル端末の特性を活かした次世代の文字通訳を提案するものである.提案法をcaptiOnline4として実装し,ウェブブラウザのみでの文字通訳を実現した.ネットワークや情報機器の専門知識が不要となり,誰でもオンライン文字通訳を容易に利用できるようになった.音声認識を活用した文字通訳者間の連絡や,聞き溜めのサポートも可能にした.これらの成果によって,文字通訳者に求められる技能の敷居を下げることができ,先に挙げた課題解決の一助になったと考える.captiOnline4は,令和4年度末で320を超える団体に利用するまでに至った.

Report

(5 results)
  • 2022 Annual Research Report   Final Research Report ( PDF )
  • 2021 Research-status Report
  • 2020 Research-status Report
  • 2019 Research-status Report
  • Research Products

    (19 results)

All 2023 2022 2021 2020 2019 Other

All Journal Article (12 results) (of which Open Access: 2 results,  Peer Reviewed: 6 results) Presentation (2 results) (of which Invited: 2 results) Remarks (5 results)

  • [Journal Article] 授業時の学生の主観的理解度の可視化に関する研究─聴覚障害のある学生を対象とした評価実験─2022

    • Author(s)
      藤川真由香,若月大輔
    • Journal Title

      電子情報通信学会技術研究報告

      Volume: 122(450) Pages: 48-53

    • Related Report
      2022 Annual Research Report
  • [Journal Article] ノベルゲーム型オンデマンド教材を用いた聴覚障害学生の学習行動分析2022

    • Author(s)
      若月大輔,塩野目剛亮,新井達也
    • Journal Title

      電子情報通信学会技術研究報告

      Volume: 122(295) Pages: 17-22

    • Related Report
      2022 Annual Research Report
  • [Journal Article] Live Aquarium Show Information Support for Deaf and Hard of Hearing People2022

    • Author(s)
      Daisuke Wakatsuki, Nobuko Kato, Makoto Kobayashi, Manabi Miyagi, Masami Kitamura, Miki Namatame
    • Journal Title

      NTUT Education of Disabilities

      Volume: 17 Pages: 1-4

    • Related Report
      2022 Annual Research Report
    • Open Access
  • [Journal Article] Hybrid Caption Including Formula or Figure for Deaf and Hard-of-Hearing Students2021

    • Author(s)
      Wakatsuki Daisuke、Arai Tatsuya、Shionome Takeaki、Tsukuba University of Technology 4-3-15 Amakubo, Tsukuba, Ibaraki 305-8520, Japan、Teikyo University 1-1 Toyosatodai, Utsunomiya, Tochigi 320-8551, Japan
    • Journal Title

      Journal of Advanced Computational Intelligence and Intelligent Informatics

      Volume: 25 Issue: 2 Pages: 187-194

    • DOI

      10.20965/jaciii.2021.p0187

    • NAID

      130008000920

    • ISSN
      1343-0130, 1883-8014
    • Year and Date
      2021-03-20
    • Related Report
      2020 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] 聴覚障害学生向けノベルゲーム型オンデマンド教材に関する基礎的検討2021

    • Author(s)
      新井達也, 若月大輔, 塩野目剛亮
    • Journal Title

      電子情報通信学会技術研究報告

      Volume: 121(142) Pages: 11-16

    • Related Report
      2021 Research-status Report
  • [Journal Article] 字幕付き数学講義場面における聴覚障害学生の受講行動―図表や数式を挿入した字幕に対する視線行動に着目して―2021

    • Author(s)
      新井達也, 若月大輔, 塩野目剛亮
    • Journal Title

      ろう教育科学

      Volume: 63(2) Pages: 51-62

    • NAID

      40022787712

    • Related Report
      2021 Research-status Report
    • Peer Reviewed
  • [Journal Article] クラウドソーシングに基づく聴覚障害者によるリアルタイム文字情報保障システムの開発2021

    • Author(s)
      張健偉,白石優旗,若月大輔,塩野目剛亮,熊井克仁,森嶋厚行
    • Journal Title

      電子情報通信学会論文誌A

      Volume: J104-A Pages: 64-74

    • Related Report
      2020 Research-status Report
    • Peer Reviewed
  • [Journal Article] A Study Examining a Real-Time Sign Language-to-Text Interpretation System Using Crowdsourcing2020

    • Author(s)
      Tanaka Kohei、Wakatsuki Daisuke、Minagawa Hiroki
    • Journal Title

      Computers Helping People with Special Needs(ICCHP 2020)

      Volume: 2 Pages: 186-194

    • DOI

      10.1007/978-3-030-58805-2_22

    • ISBN
      9783030588045, 9783030588052
    • Related Report
      2020 Research-status Report
    • Peer Reviewed
  • [Journal Article] Analysis of the gaze behavior of deaf and hard-of-hearing students during a captioned lecture2020

    • Author(s)
      Wakatsuki Daisuke、Arai Tatsuya、Shionome Takeaki
    • Journal Title

      Computers Helping People with Special Needs(ICCHP 2020)

      Volume: 2 Pages: 202

    • DOI

      10.1007/978-3-030-58805-2_24

    • ISBN
      9783030588045, 9783030588052
    • Related Report
      2020 Research-status Report
    • Peer Reviewed
  • [Journal Article] First Evaluation of Information Support of everyone by everyone for everyone TimeLine (ISeeeTL) applied to Deaf and Hard of Hearing People Watching Sport2019

    • Author(s)
      Rumi Hiraga, Daisuke Wakatsuki, Yuhki Shiraishi, Masayuki Inoue, Yuka Kogo, Yoshiki Fukunaga, Makoto Kobayashi, Manabi Miyagi, Takeaki Shionome, Jianwei Zhang and Atsuyuki Morishima
    • Journal Title

      AAATE2019: The 15 th International Conference of the Association for the Advancement of Assistive Technology in Europe

      Volume: -

    • Related Report
      2019 Research-status Report
    • Peer Reviewed
  • [Journal Article] クラウドソーシングを用いた手話文字通訳~ライブ動画配信を活用したシステムの試作~2019

    • Author(s)
      田中康平,若月大輔,皆川洋喜
    • Journal Title

      電子情報通信学会技術研究報告

      Volume: 119(322) Pages: 95-100

    • Related Report
      2019 Research-status Report
  • [Journal Article] 字幕付き講義場面における聴覚障害学生の視線行動の分析2019

    • Author(s)
      新井達也,若月大輔,塩野目剛亮
    • Journal Title

      電子情報通信学会技術研究報告

      Volume: 119(165) Pages: 35-39

    • Related Report
      2019 Research-status Report
  • [Presentation] 聴覚障害と情報保障─遠隔文字通訳システムcaptiOnlineの紹介と活用─2023

    • Author(s)
      若月大輔
    • Organizer
      彩の国さいたま芸術劇場バリアフリー・セミナーVol.2
    • Related Report
      2022 Annual Research Report
    • Invited
  • [Presentation] 学会・研究会における聴覚障害者の情報保障─発表と聴講時のアクセシビリティを中心に─2022

    • Author(s)
      若月大輔
    • Organizer
      電子情報通信学会教育工学研究会(ET)
    • Related Report
      2022 Annual Research Report
    • Invited
  • [Remarks] PEPNet-Japan - ウェブベース遠隔文字通訳システムcaptiOnline

    • URL

      https://www.pepnet-j.org/contents/archives/1340

    • Related Report
      2022 Annual Research Report
  • [Remarks] ウェブベース遠隔文字通訳システムcaptiOnline

    • URL

      https://captionline.org/

    • Related Report
      2022 Annual Research Report
  • [Remarks] ウェブベース遠隔文字通訳システムcaptiOnline

    • URL

      https://captionline.org

    • Related Report
      2021 Research-status Report
  • [Remarks] ウェブベース遠隔文字通訳システムcaptiOnline

    • URL

      https://capti.info.a.tsukuba-tech.ac.jp/

    • Related Report
      2020 Research-status Report
  • [Remarks] ウェブを活用した聴覚障害者のための情報保障実験サイト

    • URL

      https://capti.info.a.tsukuba-tech.ac.jp/

    • Related Report
      2019 Research-status Report

URL: 

Published: 2019-04-18   Modified: 2024-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi