• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Annual Research Report

Analysis of Reality Distorted Spatio-Temporal Field to Improve Human Skill and Motivation

Research Project

Project/Area Number 19H01129
Research InstitutionWaseda University

Principal Investigator

森島 繁生  早稲田大学, 理工学術院, 教授 (10200411)

Co-Investigator(Kenkyū-buntansha) 稲見 昌彦  東京大学, 先端科学技術研究センター, 教授 (00345117)
野嶋 琢也  電気通信大学, 大学院情報理工学研究科, 准教授 (10392870)
暦本 純一  東京大学, 大学院情報学環・学際情報学府, 教授 (20463896)
小池 英樹  東京工業大学, 情報理工学院, 教授 (70234664)
持丸 正明  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 研究センター長 (90358169)
Project Period (FY) 2019-04-01 – 2022-03-31
Keywords歪曲時空間制御 / 3次元プレイヤーモデリング / マーカーレスモーションキャプチャ / ARスポーツ観戦システム / VR歪曲時空間環境 / リアルタイム着弾点予測 / プレイヤートラッキング / 適応的可変速シャドーウィングシステム
Outline of Annual Research Achievements

2年度は,歪曲時空間制御に関する応用システムの検討を進めた.森島グループは,1枚画像からの高精度な着衣全身3次元モデリングの研究に基き,さらに動画からの高精度な姿勢推定システムの開発を行い,1枚の画像と動画から着衣キャラクタをインスタントに生成し,自己の分身として動作させる基盤システムを構築した.持丸グループは、トレーニングフィールドプロトタイプとして,運動計測および運動力学介入を実現するリアルタイムシステムを用いて環境の運動力学制御下における運動の変容を計測する実験を実施した.これにより非侵襲な運動計測技術およびデジタルヒューマン技術による解析環境をベースとしたトレーニングシステムの開発基盤が整備された.野嶋グループは、まずAR観戦技術の機能向上を実施し,従来観戦者に近接する空間でなければAR像が提示できない問題に対して複数のARマーカ・計測用カメラを組み合わせたシステムを構築し,従来より遠方の物体・人物に合わせたAR像が提示可能となるシステムの基礎技術を開発した.稲見グループでは,ボールジャグリングを対象として,スキル向上を目的とした現実歪曲空間の構築を行った.身体スキルの中には、同時に多くの要因を高速・高頻度で制御する必要があるために段階的な学習が難しいものがあるが,没入型バーチャル環境とパラレルワイヤ機構を用いた遭遇型力覚提示デバイスを組み合わせることによって、投球・捕球に伴う力覚を適切に再現しつつ,空中にあるボールの移動速度を制御可能な装置を提案し実装を行った.小池グループでは、卓球を対象としたプレイヤーの動作からボール着弾点を予測し,卓球台に実時間プロジェクションするシステムに基き,VRを利用した卓球訓練システムの実装に着手した.暦本グループは、学習者の発話を音声認識により常に確認し、学習課題の難易度を自動的に調整する技術を開発しその有効性評価を行った.

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

森島グループが開発したビデオ画像からの深層学習による動作解析システムは,従来のOpenPoseベースのシステムと比較して,破綻を発生させず動作者の動きを忠実再現することに成功しており高く評価されている.また昨年度に発表した1枚の着衣全身画像からの3次元形状復元およびテクスチャ再現技術(PIFu)は,コンピュータビジョン分野、深層学習を用いた画像処理分野において特に高く評価されており,現在において発表から1年半たらずで引用数221を刻んでいる.暦本グループの学習者のレベルに適応しながら,シャドーウィングの速度を調整する技術は,国際的なACMの国際トップ会議CHI2020のHonorable Mention Awardに選ばれて,他にも国際会議1件に採択されている.他のグループの成果ももれなく査読付きの国際会議において成果発表を行ったり,国内の著名な会議での発表を着実に行っており,当初の予定以上のスピードで技術開発が進展していることを示している.全てのチームにおいて,歪曲時空間を制御可能なプロトタイプシステムの具体的なイメージがすでに固まり,さらには具体的なトレーニングシステムの構築も進んでおり,今後ユーザテストが進むにつれて,歪曲時空間制御の有効性,時間軸をコントロールすることの意義がさらに明らかになる予定である.また人間のモティベーションやスキルの向上に対して,効果的な知見が多数集積されることが十分に予測されている.人間が気持ちよく,モティベーションを高めながらスキルを効率よく習得可能な歪曲時空間制御トレーニングシステムの実現に向けて着実に研究が進行している.

Strategy for Future Research Activity

最終年度は,森島グループは,ビデオ画像からのプレイヤーの3次元モデル自動構築と,自由視点での鑑賞システムの構築にチャレンジし、複数台のカメラを時には利用して任意の角度から試合や自己のプレースタイルを客観的に鑑賞したり、プレイヤーの動きを精密に分析し、歪曲時空間制御を施して鑑賞することができる全く新しい試合観戦システムのプロトタイプ構築をさらに進める。持丸グループは、力学介入とVR空間を統合した環境下でのトレーニングシステムの開発をさらに押し進め,これらの開発基盤にVR環境を統合することで,実際のトレーニングシステムの開発およびその有効性検証を実施する.野嶋グループは、AR技術を利用した観戦システムを活用し、ビデオゲームのコンテンツによる面白さに着目し,ビデオゲームを改変せずに従来の物理スポーツと融合する技術をさらに発展させ、モティベーション向上のための有効性をユーザテスト通して進めていく.稲見グループでは、現在開発中のボールジャグリング用練習装置の開発を続行する.また本装置を用いた本格的なユーザー実験を実施する.さらに、ボールジャグリング以外の身体スキルへの応用も試みる予定である.小池グループでは,VR空間を利用した卓球訓練システムの開発をさらに進める.具体的にはVR空間内に現実を模倣した卓球訓練環境を実現し,ボールの速度を低速から徐々に早めて行くことで,実際の速度のボールにも対応できるようになるかどうかを調べる.その際,視覚的,聴覚的,力覚的フィードバックを変化させることで,どの感覚が最も有効に機能するかを調べる.暦本グループは、シャドーウィングシステムで構築された発話解析による時空間歪曲制御技術を応用し、学習課題を学習者の現状よりも少しだけ高いレベルに設定する手法が有効な他の学習領域にも技術展開を進める.

  • Research Products

    (18 results)

All 2021 2020 Other

All Int'l Joint Research (1 results) Journal Article (13 results) (of which Int'l Joint Research: 4 results,  Peer Reviewed: 12 results,  Open Access: 12 results) Presentation (4 results) (of which Int'l Joint Research: 1 results,  Invited: 1 results)

  • [Int'l Joint Research] Durham University(英国)

    • Country Name
      UNITED KINGDOM
    • Counterpart Institution
      Durham University
  • [Journal Article] Augmenting Team Games With a Ball to Promote Cooperative Play2021

    • Author(s)
      Kadri Rebane, Yo Inoue, David Hornmark, Ryota Shijo, Sho Sakurai, Koichi Hirota, and Takuya Nojima
    • Journal Title

      Augmented Human Research

      Volume: Vol. 6, Article No.7 Pages: 1-13

    • DOI

      10.1007/s41133-021-00045-3

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] 3D car shape reconstruction from a contour sketch using GAN and lazy learning2021

    • Author(s)
      Nozawa Naoki、Shum Hubert P. H.、Feng Qi、Ho Edmond S. L.、Morishima Shigeo
    • Journal Title

      The Visual Computer

      Volume: - Pages: -

    • DOI

      10.1007/s00371-020-02024-y

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Do We Need Sound for Sound Source Localization?2021

    • Author(s)
      Oya Takashi、Iwase Shohei、Natsume Ryota、Itazuri Takahiro、Yamaguchi Shugo、Morishima Shigeo
    • Journal Title

      Computer Vision - ACCV 2020

      Volume: 12627 Pages: Pages 119~136

    • DOI

      10.1007/978-3-030-69544-6_8

    • Peer Reviewed / Open Access
  • [Journal Article] Song2Face: Synthesizing Singing Facial Animation from Audio2020

    • Author(s)
      Iwase Shohei、Kato Takuya、Yamaguchi Shugo、Yukitaka Tsuchiya、Morishima Shigeo
    • Journal Title

      ACM SIGGRAPH ASIA 2020 Technical Communication

      Volume: no.12 Pages: 1-4

    • DOI

      10.1145/3410700.3425435

    • Peer Reviewed / Open Access
  • [Journal Article] Audio-guided Video Interpolation via Human Pose Features2020

    • Author(s)
      Nakatsuka Takayuki、Hamanaka Masatoshi、Morishima Shigeo
    • Journal Title

      Proceedings of the 15th International Conference on Computer Vision Theory and Applications (VISAPP 2020)

      Volume: Volume 5: VISAPP Pages: 27-35

    • DOI

      10.5220/0008876600270035

    • Peer Reviewed / Open Access
  • [Journal Article] LinSSS: linear decomposition of heterogeneous subsurface scattering for real-time screen-space rendering2020

    • Author(s)
      Yatagawa Tatsuya、Yamaguchi Yasushi、Morishima Shigeo
    • Journal Title

      The Visual Computer

      Volume: 36 Pages: 1979~1992

    • DOI

      10.1007/s00371-020-01915-4

    • Peer Reviewed / Open Access
  • [Journal Article] Resolving hand‐object occlusion for mixed reality with joint deep learning and model optimization2020

    • Author(s)
      Feng Qi、Shum Hubert P. H.、Morishima Shigeo
    • Journal Title

      Computer Animation and Virtual Worlds

      Volume: 31 Pages: -

    • DOI

      10.1002/cav.1956

    • Open Access / Int'l Joint Research
  • [Journal Article] Foreground-aware Dense Depth Estimation for 360 Images2020

    • Author(s)
      Feng Qi、Shum Hubert P. H.、Shimamura Ryo、Morishima Shigeo
    • Journal Title

      Journal of WSCG

      Volume: 28 Pages: 79~88

    • DOI

      10.24132/JWSCG.2020.28.10

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] WithYou: Automated Adaptive Speech Tutoring With Context-Dependent Speech Recognition2020

    • Author(s)
      Zhang Xinlei、Miyaki Takashi、Rekimoto Jun
    • Journal Title

      CHI '20: Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems

      Volume: - Pages: Pages 1-12

    • DOI

      10.1145/3313831.3376322

    • Peer Reviewed / Open Access
  • [Journal Article] Mediated-Timescale Learning: Manipulating Timescales in Virtual Reality to Improve Real-World Tennis Forehand Volley2020

    • Author(s)
      Jiang Shixin、Rekimoto Jun
    • Journal Title

      VRST '20: 26th ACM Symposium on Virtual Reality Software and Technology

      Volume: No.: 63 Pages: Pages 1-2

    • DOI

      10.1145/3385956.3422128

    • Peer Reviewed / Open Access
  • [Journal Article] FuturePong: Real-time Table Tennis Trajectory Forecasting using Pose Prediction Network2020

    • Author(s)
      Wu Erwin、Koike Hideki
    • Journal Title

      CHI EA '20: Extended Abstracts of the 2020 CHI Conference on Human Factors in Computing Systems

      Volume: - Pages: Pages 1-8

    • DOI

      10.1145/3334480.3382853

    • Peer Reviewed / Open Access
  • [Journal Article] Association between Changes in Swimming Velocity, Vertical Center of Mass Position, and Projected Frontal Area during Maximal 200-m Front Crawl2020

    • Author(s)
      Washino, S., Murai, A., Mankyu, H., & Yoshitake, Y
    • Journal Title

      Multidisciplinary Digital Publishing Institute Proceedings

      Volume: 49 Pages: Pages 60

    • Peer Reviewed / Open Access
  • [Journal Article] Toward Augmented Reality Displays for Sports Spectators: A Preliminary Study2020

    • Author(s)
      Hertzog Clara、Sakurai Sho、Hirota Koichi、Nojima Takuya
    • Journal Title

      Proceedings of The 13th Conference of the International Sports Engineering Association

      Volume: 49 Pages: 129~129

    • DOI

      10.3390/proceedings2020049129

    • Peer Reviewed / Open Access
  • [Presentation] LSTM-SAKT: LSTM-Encoded SAKT-like Transformer for Knowledge Tracing2021

    • Author(s)
      Takashi Oya, Shigeo Morishima
    • Organizer
      AAAI 2021 Workshop on Imaging Post-COVID Education with AI
    • Int'l Joint Research / Invited
  • [Presentation] DATSURYOKU:身体環境インタラクションが筋活動をデザインする2021

    • Author(s)
      村井昭彦, 鷲野壮平, 持丸正明
    • Organizer
      第26回ロボティクスシンポジア予稿集
  • [Presentation] 異なるタイプのデジタルヒューマンモデルが運動中のモデル体積に及ぼす影響2021

    • Author(s)
      鷲野壮平, 村井昭彦
    • Organizer
      第26回ロボティクスシンポジア予稿集
  • [Presentation] ジャグリングにおけるスロー・キャッチ動作学習支援のための時間軸を操作可能な力触覚提示 VR システムの提案2020

    • Author(s)
      原口純也, 脇坂崇平, Alfonso Balandra, 前川和純, 堀江新, 佐々木智也, 檜山敦史, 長谷川晶一, 稲見昌彦
    • Organizer
      計測自動制御学会システムインテグレーション部門

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi