• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Research on real-time facial expression synthesis model for interactive 3D characters

Research Project

Project/Area Number 21K12193
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 62040:Entertainment and game informatics-related
Research InstitutionTokyo Metropolitan University

Principal Investigator

Mukai Tomohiko  東京都立大学, システムデザイン研究科, 准教授 (10432296)

Project Period (FY) 2021-04-01 – 2024-03-31
Project Status Completed (Fiscal Year 2023)
Budget Amount *help
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2023: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2022: ¥1,560,000 (Direct Cost: ¥1,200,000、Indirect Cost: ¥360,000)
Fiscal Year 2021: ¥1,560,000 (Direct Cost: ¥1,200,000、Indirect Cost: ¥360,000)
Keywordsコンピュータグラフィックス / キャラクタアニメーション / リギング / コンピュータグラフィックススキニング / スキニング / アニメーション
Outline of Research at the Start

本研究では、顔面上に生じるシワ変形の多様性も再現できるような、CGキャラクタのためのリアルタイム表情合成モデルを開発する。具体的には、顔の概形変形からシワの発生にいたる変形過程を模した多重解像度表現モデルの開発に取り組む。さらに、ユーザーの表情変化に応じてCGキャラクタの表情を自動制御することで、細やかなニュアンスまで伝えられるような実時間対話型システムへの発展を図る。

Outline of Final Research Achievements

We developed example-based techniques to automatically construct a multi-resolution model of skin deformation and an interlocking relationship model between facial shape layers and control handles. These techniques enable animators to automatically construct character rigs by specifying the example skin deformations. We also developed software for measuring 3D facial shapes and speech sounds, and constructed a database of Japanese speech motions. Furthermore, we developed a facial animation retargeting technique using neural networks and an automated technique for transferring character rig with auxiliary joints to other character models.

Academic Significance and Societal Importance of the Research Achievements

開発した一連の技術群は、実時間アプリケーションにおけるデジタルキャラクタの皮膚変形アニメーションの高精度化を実現するための基盤技術である。これは、実時間CGアプリケーションにおけるキャラクタの存在感・実在感の向上につながるものであり、ひいてはVRやAR、ゲームやコンテンツ品質向上など、人型モデルやクリーチャーなどが登場するデジタルコンテンツを扱う様々な分野に寄与するものと考えている。

Report

(4 results)
  • 2023 Annual Research Report   Final Research Report ( PDF )
  • 2022 Research-status Report
  • 2021 Research-status Report
  • Research Products

    (14 results)

All 2024 2023 2022 2021 Other

All Journal Article (1 results) (of which Peer Reviewed: 1 results,  Open Access: 1 results) Presentation (10 results) (of which Int'l Joint Research: 3 results,  Invited: 1 results) Remarks (3 results)

  • [Journal Article] Transformation Constraints Using Approximate Spherical Regression2023

    • Author(s)
      Tomohiko Mukai
    • Journal Title

      Journal of Computer Graphics Techniques

      Volume: 11(3) Pages: 1-21

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Open Access
  • [Presentation] Skeleton-Aware Skin Weight Transfer for Helper Joint Rigs2024

    • Author(s)
      Ziyuan Cao and Tomohiko Mukai
    • Organizer
      Eurographics 2024 Short Papers
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Facial Animation Retargeting by Unsupervised Learning of Graph Convolutional Networks2024

    • Author(s)
      Yuhao Dou and Tomohiko Mukai
    • Organizer
      Nicograph International 2024
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Skin Weight Transfer for Human-like Characters with Helper Joint Rigs2024

    • Author(s)
      Ziyuan Cao and Tomohiko Mukai
    • Organizer
      情報処理学会コンピュータグラフィックスとビジュアル情報学研究会
    • Related Report
      2023 Annual Research Report
  • [Presentation] Human Facial Animation Retargeting by Unsupervised Neural Network2024

    • Author(s)
      Yuhao Dou and Tomohiko Mukai
    • Organizer
      情報処理学会コンピュータグラフィックスとビジュアル情報学研究会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 音声データからの感情推定を用いたリップシンクモーションの自動生成2022

    • Author(s)
      小南悠人, 向井智彦
    • Organizer
      Visual Computing 2022 ポスター
    • Related Report
      2022 Research-status Report
  • [Presentation] 補助骨を用いた皮膚変形リグの転写に関する研究2022

    • Author(s)
      曹梓源, 向井智彦
    • Organizer
      Visual Computing 2022 ポスター
    • Related Report
      2022 Research-status Report
  • [Presentation] 深層学習による顔アニメーションリターゲティングの検討2022

    • Author(s)
      竇宇豪, 向井智彦
    • Organizer
      Visual Computing 2022 ポスター
    • Related Report
      2022 Research-status Report
  • [Presentation] Analysis and Synthesis of Eye Movements for Conversational Agent2022

    • Author(s)
      胡 博文、安藤 大地、向井 智彦
    • Organizer
      第84回情報処理学会全国大会
    • Related Report
      2021 Research-status Report
  • [Presentation] 二段階スキニング分解による頂点アニメーションの近似2021

    • Author(s)
      向井智彦、岩本 尚也
    • Organizer
      Visual Computing 2021
    • Related Report
      2021 Research-status Report
  • [Presentation] Geometric Deformation of Virtual Character Animation Using Cascaded Spacetime Constraints2021

    • Author(s)
      Tomohiko Mukai
    • Organizer
      Mini-symposium on Sensor Network Localization and Dynamical Distance Geometry
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research / Invited
  • [Remarks] 向井研究室

    • URL

      https://mukai-lab.org/

    • Related Report
      2023 Annual Research Report
  • [Remarks] Example-based Helper Bone Rigging

    • URL

      https://mukai-lab.org/projects/helper-bone-rigging/

    • Related Report
      2022 Research-status Report
  • [Remarks] SRT-RBF Node

    • URL

      https://github.com/TomohikoMukai/SrtRbfNode

    • Related Report
      2022 Research-status Report

URL: 

Published: 2021-04-28   Modified: 2025-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi