• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Analysis of Prosody of Speech and Sign Language as Dialogue Language

Research Project

Project/Area Number 20K11861
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 61010:Perceptual information processing-related
Research InstitutionChiba University

Principal Investigator

Horiuchi Yasuo  千葉大学, 大学院情報学研究院, 准教授 (30272347)

Project Period (FY) 2020-04-01 – 2024-03-31
Project Status Completed (Fiscal Year 2023)
Budget Amount *help
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2023: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2022: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2021: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2020: ¥1,560,000 (Direct Cost: ¥1,200,000、Indirect Cost: ¥360,000)
Keywords対話型自然言語 / 韻律(プロソディ) / 日本語音声(聴覚言語) / 日本手話(視覚言語) / 藤崎モデル / モーションキャプチャー / プロソディ(韻律)
Outline of Research at the Start

我々は日常生活において、対話型自然言語(音声や手話)を用いて実時間での情報伝達やコミュニケーションを行っている。これら対話型自然言語においては韻律と呼ばれる付加的な情報が音声や手指の動きと同時に表出されることにより、言語理解やコミュニケーションの向上に貢献している。本研究では音声と手話という異なるモダリティ(聴覚・視覚などのコミュニケーションモード)による対話型自然言語において、それぞれの韻律情報がどのように言語理解やコミュニケーションに活用されているのかをモダリティの違いを考慮しながら、横断的に分析し、両言語の韻律の特徴や機能に関して、両言語間で共通な特性と各言語固有の特性を明らかにする。

Outline of Final Research Achievements

We analyzed the prosody of Japanese speech and Japanese Sign Language as a real-time interactive natural language. For Japanese speech, we clarified the relationship between the strength of emotion and the acoustic features of F0, speech rate, and spectrum of emotional speech, and proposed and evaluated a method to automatically estimate the base frequency of Fujisaki model parameters. For Japanese Sign Language, in order to separate linguistic and prosodic information, the phonemes of hand position and movement (linear motion) were clarified as linguistic information. By analyzing the dialogue data of Japanese Sign Language, the dialogue function of the hand holding was clarified.

Academic Significance and Societal Importance of the Research Achievements

音声や手話は実時間対話型自然言語であり、韻律(プロソディ)と呼ばれる文字で表現できない情報(声の高さ、速さ、声色、手の位置、運動の軌跡や速さ、頭や視線の動き等)が実時間での言語理解を助けたり、実時間コミュニケーションを制御したりするために用いられる。本研究では日本語音声と日本手話を対象に韻律の機能の解明を試みた。近年、言語情報(記号情報)については深層学習技術の発展により急速に進展しているが、アナログ情報である韻律情報に関しては未解明な現象が多く、本研究の知見は将来の人工知能研究の基礎となる。

Report

(5 results)
  • 2023 Annual Research Report   Final Research Report ( PDF )
  • 2022 Research-status Report
  • 2021 Research-status Report
  • 2020 Research-status Report
  • Research Products

    (14 results)

All 2025 2024 2023 2022 2021

All Journal Article (8 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (6 results)

  • [Journal Article] Determining the base frequency of the F0 contour generation model for the diverse expression of speech2025

    • Author(s)
      Yoshiko Arimoto, Yasuo Horiuchi, Sumio Ohno
    • Journal Title

      Acoustical Science and Technology

      Volume: 46

    • Related Report
      2023 Annual Research Report
  • [Journal Article] 日本手話における手の直線運動の音素の斜め方向に関する分析2024

    • Author(s)
      森下 空, 堀内 靖雄, 原 大介, 黒岩 眞吾
    • Journal Title

      人工知能学会研究会資料

      Volume: SIG-SLUD-100-10 Pages: 53-58

    • Related Report
      2023 Annual Research Report
  • [Journal Article] 「対話のことば」に共通な機能を形成する要因の考察2024

    • Author(s)
      市川 熹, 長嶋 祐二, 堀内 靖雄
    • Journal Title

      日本音響学会誌

      Volume: 80

    • Related Report
      2023 Annual Research Report
  • [Journal Article] Investigation of Features Representing Temporal Variation of Prosody in Emotional Speech2023

    • Author(s)
      三井 陸矢, 堀内 靖雄, 黒岩 眞吾
    • Journal Title

      JSAI Technical Report, SIG-SLUD

      Volume: 97 Issue: 0 Pages: 86-91

    • DOI

      10.11517/jsaislud.97.0_86

    • ISSN
      0918-5682, 2436-4576
    • Year and Date
      2023-02-27
    • Related Report
      2022 Research-status Report
  • [Journal Article] Analysis of Phonemes of Linear Hand Movements in Japanese Sign Language Using 3D Motion Capture2023

    • Author(s)
      仲本 征矢, 堀内 靖雄, 原 大介, 黒岩 眞吾
    • Journal Title

      JSAI Technical Report, SIG-SLUD

      Volume: 97 Issue: 0 Pages: 68-73

    • DOI

      10.11517/jsaislud.97.0_68

    • ISSN
      0918-5682, 2436-4576
    • Year and Date
      2023-02-27
    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] An Analysis of Holds in Japanese Sign Language Interaction2022

    • Author(s)
      森本 郁代, 堀内 靖雄, 黒岩 眞吾
    • Journal Title

      JSAI Technical Report, SIG-SLUD

      Volume: 95 Issue: 0 Pages: 53-28

    • DOI

      10.11517/jsaislud.95.0_53

    • ISSN
      0918-5682, 2436-4576
    • Related Report
      2022 Research-status Report
  • [Journal Article] モーションキャプチャによる日本手話の手の位置の音素に関する分析2022

    • Author(s)
      西牧樹生,堀内靖雄,原大介,黒岩眞吾
    • Journal Title

      情報処理学会研究報告

      Volume: 2022-AAC-18(9) Pages: 1-6

    • Related Report
      2021 Research-status Report
  • [Journal Article] 日本手話における手の位置の音素に関するモーションキャプチャ2021

    • Author(s)
      西牧 樹生, 堀内 靖雄, 原 大介, 黒岩 眞吾
    • Journal Title

      人工知能学会SIG-SLUD

      Volume: B5 Pages: 31-36

    • Related Report
      2020 Research-status Report
  • [Presentation] 日本手話における手の直線運動の音素の斜め方向に関する分析2024

    • Author(s)
      森下 空, 堀内 靖雄, 原 大介, 黒岩 眞吾
    • Organizer
      人工知能学会第100回言語・音声理解と対話処理研究会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 感情音声における韻律の時系列変動を表す特徴量の検討2023

    • Author(s)
      三井 陸矢, 堀内 靖雄, 黒岩 眞吾
    • Organizer
      人工知能学会第97回言語・音声理解と対話処理研究会
    • Related Report
      2022 Research-status Report
  • [Presentation] 日本手話における手の直線運動の音素に関するモーションキャプチャによる分析2023

    • Author(s)
      仲本 征矢, 堀内 靖雄, 原 大介, 黒岩 眞吾
    • Organizer
      人工知能学会第97回言語・音声理解と対話処理研究会
    • Related Report
      2022 Research-status Report
  • [Presentation] 日本手話の相互行為における保持の事例分析2022

    • Author(s)
      森本 郁代, 堀内 靖雄, 黒岩 眞吾
    • Organizer
      人工知能学会第95回言語・音声理解と対話処理研究会
    • Related Report
      2022 Research-status Report
  • [Presentation] モーションキャプチャによる日本手話の手の位置の音素に関する分析2022

    • Author(s)
      西牧樹生,堀内靖雄,原大介,黒岩眞吾
    • Organizer
      情報処理学会第18回アクセシビリティ研究会
    • Related Report
      2021 Research-status Report
  • [Presentation] 日本手話における手の位置の音素に関するモーションキャプチャ2021

    • Author(s)
      西牧 樹生, 堀内 靖雄, 原 大介, 黒岩 眞吾
    • Organizer
      人工知能学会第91回言語・音声理解と対話処理研究会
    • Related Report
      2020 Research-status Report

URL: 

Published: 2020-04-28   Modified: 2025-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi