• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Annual Research Report

Development of Next Generation Information Environment Systems Using High-speed Vision and Tracking Technology

Research Project

Project/Area Number 20H05704
Research InstitutionThe University of Tokyo

Principal Investigator

石川 正俊  東京大学, 情報基盤センター, 特任教授 (40212857)

Co-Investigator(Kenkyū-buntansha) 早川 智彦  東京大学, 情報基盤センター, 特任准教授 (10747843)
黄 守仁  東京大学, 情報基盤センター, 特任講師 (20750029)
宮下 令央  東京大学, 情報基盤センター, 特任講師 (40808721)
末石 智大  東京大学, 情報基盤センター, 特任講師 (80807842)
妹尾 拓  広島大学, 先進理工系科学研究科(工), 准教授 (10512113)
Project Period (FY) 2020-08-31 – 2025-03-31
Keywords高速画像処理 / 情報環境システム / 知覚情報処理 / 視覚呈示 / 力覚呈示
Outline of Annual Research Achievements

本年度の研究成果をサブテーマごとに以下に示す.
(A)人間の視覚を超えた高速知覚情報処理技術の確立  A-1) 逐次的な相対運動推定結果から各時刻の位置姿勢を推定するため,高速性を失わずにドリフトを補正する機構を構築し,安定したトラッキングを行った.また,レーザードップラーセンサー及び光学システムを用いる複数物体の運動計測と三次元トラッキングシステムを構築し,同システムの計測データを解析するアルゴリズムの設計と評価を行った.A-2) 本年度の目標としていたマーカレスの高速トラッキングアルゴリズム群を開発し,本年度以降の高速トラッキング技術および高速運動計測技術開発の基盤を構築した.
(B)人間の動作をシームレスにサポートする高速情報・力覚呈示技術の確立  B-1) ユーザーのダイナミクスである視線を高速に計測するシステムと,事前にマーカーを付与しない高速自己位置推定手法の第1次試作を構築した.B-2) 塑性変形を基軸とした力制御則を提案し,ヒトとロボットハンドの滑らかなインタラクションを実現した.
(C)高速知覚情報処理の基盤強靭化技術の確立  C-1) 映像遅延だけではなく,フレームレートも制御できるシステムを構築し,錯視現象に対するフレームレートの影響を観測する被験者実験を実施した.C-2) 高速ビジョンモジュールを用いた1,000fpsの高速カメラネットワークを構築し,トラッキング精度に影響する同時撮像におけるフレーム同期を数十マイクロ秒の精度で実現した.
(D)次世代情報環境システムによる時空間インタラクションにおける違和感の打破  D-1) 高速トラッキングに利用しやすい事前情報の利用を想定し,高速なスポーツ動作に対する予測情報即時呈示の基礎検討を行った.D-2)複合センシングシステムを構築し,ユーザーの意図と環境中のアフォーダンスをミリ秒オーダで読み取る手法を検討した.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

本年度は,全体として試作システムや統合環境の構築準備を行い,サブテーマごとの状況もほぼ当初の計画通りに進行している.
(A)人間の視覚を超えた高速知覚情報処理技術の確立  A-1)一定時間内の計測データを部分形状に統合し,簡易的なモデル構築と位置合わせにより経時的なドリフトを補正した.加えてループクロージングによる全体の整合性の実現も検討中である.また,運動情報を利用したシステムの構築,アルゴリズムの設計,データ収集及び先行実験を完了した.A-2)高速性を失わずにドリフト誤差を補正するアルゴリズムと,さらにマーカレスの運動情報計測アルゴリズムの構築を行った.
(B)人間の動作をシームレスにサポートする高速情報・力覚呈示技術の確立  B-1)頭部やカメラの拘束性が低い,500fps以上相当の高速視線計測手法を新たに開発し,システムの有効性を検証した.B-2)シームレスな力覚提示技術を確立するために,その基盤となる力制御アルゴリズムの開発および実証実験を行った.
(C)高速知覚情報処理の基盤強靭化技術の確立  C-1)高速プロジェクター及び高速液晶ディスプレイを導入し,描画処理に計算能力を使用しないコンテンツを提示することで,身体や錯視の映像提示を可能とするシステムを構築した.C-2)高速ビジョンモジュール8台からなる高速カメラネットワークの構築と同期精度評価を完了し,トラッキング用のアルゴリズム開発とそのシステム実装にむけた準備が整った.
(D)次世代情報環境システムによる時空間インタラクションにおける違和感の打破  D-1)広域動作を念頭においたレーザー走査を用いた高速カメラの自己位置推定手法を新規に開発し,トラッキングシステムの技術基盤の構築を進めた.D-2)ミリ秒オーダで動作する複合センシングシステムを構築し,ユーザーの意図と環境中のアフォーダンスを読み取れる仕様とした.

Strategy for Future Research Activity

今後の推進方策について,サブテーマごとに以下に示す.
(A)人間の視覚を超えた高速知覚情報処理技術の確立  A-1) ループクロージングのような全体としての形状の整合性を保つ技術を取り入れ,高速に全体の3Dモデルを生成するフレームワークを構築する.また,三次元計測と組み合わせて,三次元モデルの復元手法を提案する.A-2) 開発したアルゴリズム群の動作検証と評価を行い,高速3次元形状計測と形状統合への応用を図るとともに,画像処理システムとレーザー計測システムの連携活用を目指す.
(B)人間の動作をシームレスにサポートする高速情報・力覚呈示技術の確立  B-1) 高速視線計測結果をDPMの投影像に高速かつ適切に反映する手法を検討し開発する.レーザー走査式高速自己位置推定画像処理も広域化に向けた改良を行う.B-2) 高速ビジョンを用いて非接触時から接触準備運動を開始することで,ヒトにとって違和感のないシームレスな力覚提示技術を開発する.
(C)高速知覚情報処理の基盤強靭化技術の確立  C-1) 装置を指先だけでなく腕全体が映るように設計し,視点を拡張することで,動的かつ面積を必要とするタスクへ対応する.C-2) 高速カメラネットワーク環境における複数対象の同時トラッキングを可能とする高速物体検出およびトラッキング手法の検討を進めながらカメラシステムへの実装を目指す.
(D)次世代情報環境システムによる時空間インタラクションにおける違和感の打破  研究項目(A)及び(B)と連携し,D-1)高速トラッキング情報との統合アルゴリズムを検討・開発する.予測可能な時間やその正確性についても調査する.D-2)高い時間分解能の情報を人体への適切な力覚提示等を行うシステムを構築し,人間の動作性能の増強と拡張を実現する.

  • Research Products

    (44 results)

All 2021 2020

All Journal Article (9 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 9 results,  Open Access: 6 results) Presentation (35 results) (of which Int'l Joint Research: 17 results,  Invited: 2 results)

  • [Journal Article] Dynamic Perceptive Compensation for the Rotating Snakes Illusion with Eye Tracking2021

    • Author(s)
      Yuki Kubota, Tomohiko Hayakawa, and Masatoshi Ishikawa
    • Journal Title

      PLoS ONE

      Volume: 16 Pages: 1-20

    • DOI

      10.1371/journal.pone.0247937

    • Peer Reviewed / Open Access
  • [Journal Article] Development of a High-speed, Low-latency Telemanipulated Robot Hand System2021

    • Author(s)
      Yuji Yamakawa, Yugo Katsuki, Yoshihiro Watanabe, and Masatoshi Ishikawa
    • Journal Title

      Robotics

      Volume: 10 Pages: 1-22

    • DOI

      10.3390/robotics10010041

    • Peer Reviewed / Open Access
  • [Journal Article] Development of a Real-Time Human-Robot Collaborative System Based on 1 kHz Visual Feedback Control and Its Application to a Peg-in-Hole Task2021

    • Author(s)
      Yuji Yamakawa, Yutaro Matsui, and Masatoshi Ishikawa
    • Journal Title

      Sensors

      Volume: 21 Pages: 1-25

    • DOI

      10.3390/s21020663

    • Peer Reviewed / Open Access
  • [Journal Article] Visualization Method for the Cell-level Vesicle Transport Using Optical Flow and Diverging Colormap2021

    • Author(s)
      Seohyun Lee, Hyuno Kim, Hideo Higuchi, and Masatoshi Ishikawa
    • Journal Title

      Sensors

      Volume: 21 Pages: 1-13

    • DOI

      10.3390/s21020522

    • Peer Reviewed / Open Access
  • [Journal Article] Human Robot Hand Interaction with Plastic Deformation Control2020

    • Author(s)
      Kenichi Murakami, Koki Ishimoto, Taku Senoo and Masatoshi Ishikawa
    • Journal Title

      Robotics

      Volume: 9 Pages: 1-15

    • DOI

      10.3390/robotics9030073

    • Peer Reviewed / Open Access
  • [Journal Article] Stabilization System for UAV Landing on Rough Ground by Adaptive 3D Sensing and High-speed Landing Gear Adjustment2020

    • Author(s)
      Mikihiro Ikura, Leo Miyashita, and Masatoshi Ishikawa
    • Journal Title

      Journal of Robotics and Mechatronics

      Volume: 33 Pages: 108-118

    • DOI

      10.20965/jrm.2021.p0108

    • Peer Reviewed
  • [Journal Article] Wafer‐Scale Micro‐LEDs Transferred onto an Adhesive Film for Planar and Flexible Displays2020

    • Author(s)
      Zhangxu Pan, Chan Guo, Xianchi Wang, Jiucheng Liu, Ruimin Cao, Yanfen Gong, Jiantai Wang, Ningyang Liu, Zhitao Chen, Lihui Wang, Masatoshi Ishikawa, and Zheng Gong
    • Journal Title

      Advanced Materials Technologies

      Volume: 5 Pages: 1-11

    • DOI

      10.1002/admt.202000549

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Real-Time Traffic Light Detection with Frequency Patterns Using High-speed Camera2020

    • Author(s)
      Kento Yabuuchi, Masahiro Hirano, Taku Senoo, Norimasa Kishi, and Masatoshi Ishikawa
    • Journal Title

      Sensors

      Volume: 20 Pages: 1-19

    • DOI

      10.3390/s20144035

    • Peer Reviewed / Open Access
  • [Journal Article] A Coarse-to-Fine Framework for Accurate Positioning under Uncertainties - from Autonomous Robot to Human-Robot System2020

    • Author(s)
      Shouren Huang, Masatoshi Ishikawa, and Yuji Yamakawa
    • Journal Title

      Int. J. Advanced Manufacturing Technology

      Volume: 108 Pages: 2929-2944

    • DOI

      10.1007/s00170-020-05376-w

    • Peer Reviewed
  • [Presentation] A Machine Learning Approach to Transport Categorization for Vesicle Tracking Data Analysis2021

    • Author(s)
      Seohyun Lee, Hyuno Kim, Hideo Higuch, and Masatoshi Ishikawa
    • Organizer
      Conf. on Imaging, Manipulation, and Analysis of Biomolecules, Cells, and Tissues XIX, SPIE Photonics West BiOS
    • Int'l Joint Research
  • [Presentation] Online Object Recognition Using CNN-based Algorithm on High-speed Camera Imaging2021

    • Author(s)
      Shigeaki Namiki, Keiko Yokoyama, Shoji Yachida, Takashi Shibata, Hiroyoshi Miyano, and Masatoshi Ishikawa
    • Organizer
      25th Int. Conf. on Pattern Recognition
    • Int'l Joint Research
  • [Presentation] 高速プロジェクションマッピングによる動的質感再現技術2021

    • Author(s)
      石川正俊
    • Organizer
      電子情報通信学会イメージメディアクオリティ(IMQ)研究会「拡がる画像機器の高画質技術最前線」セミナー
  • [Presentation] 観測者の視線運動に応じた残像効果による指向性ディスプレイ2021

    • Author(s)
      池田遼, 早川智彦, 栃岡陽麻里, 石川正俊
    • Organizer
      第25回情報処理学会シンポジウム インタラクション2021
  • [Presentation] 色と形に関する2種の錯視における知覚のフレームレート依存性 ~ ベンハムのコマとラバーペンシル錯視による錯視の映像表現への応用検討 ~2021

    • Author(s)
      早川智彦, 栃岡陽麻里, 久保田祐貴, 美間亮太, 石川正俊
    • Organizer
      映像表現・芸術科学フォーラム2021
  • [Presentation] High-Speed Focal Tracking Projection Based on Liquid Lens2020

    • Author(s)
      Lihui Wang, Hongjin Xu, Satoshi Tabata, Yunpu Hu, Yoshihiro Watanabe, and Masatoshi Ishikawa
    • Organizer
      The 47th Int. Conf. and Exhibition on Computer Graphics and Interactive Techniques (ACM SIGGRAPH 2020 Emerging Technologies)
    • Int'l Joint Research / Invited
  • [Presentation] EmnDash: M-sequence Dashed Markers on Vector-based Laser Projection for Robust High-speed Spatial Tracking2020

    • Author(s)
      Ryota Nishizono, Tomohiro Sueishi, and Masatoshi Ishikawa
    • Organizer
      IEEE Int. Symposium on Mixed and Augmented Reality Adjunct (ISMAR-Adjunct2020)
    • Int'l Joint Research
  • [Presentation] ElaMorph Projection: Deformation of 3D Shape by Dynamic Projection Mapping2020

    • Author(s)
      Kentaro Fukamizu, Leo Miyashita, and Masatoshi Ishikawa
    • Organizer
      Int. Symposium on Augmented and Mixed Reality (ISMAR-Adjunct2020)
    • Int'l Joint Research
  • [Presentation] High-speed Hitting Grasping with Magripper, a Highly Backdrivable Gripper Using Magnetic Gear and Plastic Deformation Control2020

    • Author(s)
      Satoshi Tanaka, Keisuke Koyama, Taku Senoo, Makoto Shimojo, and Masatoshi Ishikawa
    • Organizer
      IEEE/RSJ Int. Conf. on Intelligent Robots and Systems (IROS 2020)
    • Int'l Joint Research
  • [Presentation] Wearable DPM System with Intelligent Imager and GPU2020

    • Author(s)
      Leo Miyashita, and Masatoshi Ishikawa
    • Organizer
      2020 IEEE Int. Conf. on Artificial Intelligence Circuits and Systems (AICAS2020)
    • Int'l Joint Research
  • [Presentation] Dynamic In-Hand Regrasping Using a High-Speed Robot Hand and a High-Speed Vision2020

    • Author(s)
      Ryosuke Higo, Taku Senoo, and Masatoshi Ishikawa
    • Organizer
      1st Virtual IFAC World Congress (IFAC-V 2020)
    • Int'l Joint Research
  • [Presentation] Motion-blur Compensation System Using a Rotated Acrylic Cube with Visual Feedback2020

    • Author(s)
      Tomohiko Hayakawa, Haruka Nakane, and Masatoshi Ishikawa
    • Organizer
      1st Virtual IFAC World Congress (IFAC-V 2020)
    • Int'l Joint Research
  • [Presentation] Bolt Loosening Detection Using Multi-purpose Robot Hand2020

    • Author(s)
      Fumiya Shimada, Taku Senoo, Kenichi Murakami, and Masatoshi Ishikawa
    • Organizer
      2020 IEEE/ASME Int. Conf. on Advanced Intelligent Mechatronics (AIM 2020)
    • Int'l Joint Research
  • [Presentation] Extension of the Capture Range Under High-Speed Motion Using Mirror Galvanometers2020

    • Author(s)
      Yuriko Ezaki, Yushi Moko, Haruka Ikeda, Tomohiko Hayakawa, and Masatoshi Ishikawa
    • Organizer
      2020 IEEE/ASME Int. Conf. on Advanced Intelligent Mechatronics (AIM 2020)
    • Int'l Joint Research
  • [Presentation] Robot Hand Interaction Using Plastic Deformation Control with Inner Position Loop2020

    • Author(s)
      Kenichi Murakami, Koki Ishimoto, Taku Senoo, and Masatoshi Ishikawa
    • Organizer
      2020 IEEE/ASME Int. Conf. on Advanced Intelligent Mechatronics (AIM 2020)
    • Int'l Joint Research
  • [Presentation] Projection Mapping System to a Widely Dynamic Sphere with Circumferential Makers2020

    • Author(s)
      Yuri Mikawa, Tomohiro Sueishi, Yoshihiro Watanabe, and Masatoshi Ishikawa
    • Organizer
      2020 IEEE Int. Conf. on Multimedia & Expo (ICME 2020)
    • Int'l Joint Research
  • [Presentation] Estimation of Vesicle Transport near the Cellular Membrane Using Image Processing2020

    • Author(s)
      Seohyun Lee, Hyuno Kim, Hideo Higuchi, and Masatoshi Ishikawa
    • Organizer
      2020 OSA Imaging and Applied Optics Congress
    • Int'l Joint Research
  • [Presentation] Quantitative Perception Measurement of the Rotating Snakes Illusion Considering Temporal Dependence and Gaze Information2020

    • Author(s)
      Yuki Kubota, Tomohiko Hayakawa, and Masatoshi Ishikawa
    • Organizer
      12th ACM Symposium on Eye Tracking Research and Applications (ETRA2020)
    • Int'l Joint Research
  • [Presentation] Adaptive Visual Shock Absorber with Visual-based Maxwell Model Using Magnetic Gear2020

    • Author(s)
      Satoshi Tanaka, Keisuke Koyama, Taku Senoo, and Masatoshi Ishikawa
    • Organizer
      2020 IEEE Int. Conf. on Robotics and Automation (ICRA 2020)
    • Int'l Joint Research
  • [Presentation] High-Speed Motion Blur Compensation System in Infrared Region Using Galvanometer Mirror and Thermography Camera,2020

    • Author(s)
      Yuki Kubota, Tomohiko Hayakawa, Yushan Ke, Yushi Moko, and Masatoshi Ishikawa
    • Organizer
      Sensors and Smart Structures Technologies for Civil, Mechanical, and Aerospace Systems, SPIE Smart Structures and Materials + Nondestructive Evaluation 2020
    • Int'l Joint Research
  • [Presentation] 高速画像処理デバイスとその応用2020

    • Author(s)
      石川正俊
    • Organizer
      映像情報メディア学会情報センシング研究会
    • Invited
  • [Presentation] 2種の材料を用いた着脱可能な赤外マーカーにおける撮像性能の検証2020

    • Author(s)
      久保田祐貴, 柯毓珊, 早川智彦, 石川正俊
    • Organizer
      映像情報メディア学会創立70周年記念大会
  • [Presentation] 重畳車両の輪郭抽出に基づく高速トラッキング2020

    • Author(s)
      川原大宙, 妹尾拓, 石井抱, 平野正浩, 岸則政, 石川正俊
    • Organizer
      第21回計測自動制御学会システムインテグレーション部門講演会 (SI2020)
  • [Presentation] ベクター型レーザー投影系におけるM系列破線マーカーを用いたロバスト高速自己姿勢推定2020

    • Author(s)
      末石智大, 西薗良太, 石川正俊
    • Organizer
      第21回計測自動制御学会システムインテグレーション部門講演会 (SI2020)
  • [Presentation] ベンハムのコマの無彩色化システムを用いた主観色の補償効果の評価2020

    • Author(s)
      美間亮太, 久保田祐貴, 早川智彦, 石川正俊
    • Organizer
      第21回計測自動制御学会システムインテグレーション部門講演会 (SI2020)
  • [Presentation] 注視点追従高解像度投影に向けた高速視線推定システム2020

    • Author(s)
      松本明弓, 末石智大, 石川正俊
    • Organizer
      第21回計測自動制御学会システムインテグレーション部門講演会 (SI2020)
  • [Presentation] ゴルフスイングのフォーム・幾何情報の逐次的高速投影システムの開発2020

    • Author(s)
      末石智大, 深山理, 宮地力, 山川雄司, 石川正俊
    • Organizer
      第21回計測自動制御学会システムインテグレーション部門講演会 (SI2020)
  • [Presentation] モーションブラー補償撮像手法を利用した走行型点検車両の照明要件―高速道路のトンネル覆工表面の撮影に向けて―2020

    • Author(s)
      早川智彦, 柯毓珊, 望戸雄史, 石川正俊
    • Organizer
      第42回照明学会東京支部大会
  • [Presentation] ワンボード・USB給電タイプの高速・高精度近接覚センサの開発とプリグラスプ制御の解析2020

    • Author(s)
      小山佳祐, 堀邊隆介, 安田博, 万偉偉, 原田研介, 石川正俊
    • Organizer
      第38回日本ロボット学会学術講演会 (RSJ2020)
  • [Presentation] 再帰性反射光の広がりによる空中結像を利用したディスプレイ空間拡張手法2020

    • Author(s)
      早川智彦, 柯毓珊, 石川正俊
    • Organizer
      第25回日本バーチャルリアリティ学会大会 (VRSJ2020)
  • [Presentation] 軌道材料の異常検出に向けた鉄道巡航速度における高解像度画像撮影手法の提案2020

    • Author(s)
      早川智彦, 望戸雄史, 村上健一, 石川正俊
    • Organizer
      令和2年度土木学会全国大会 第75回年次学術講演会Web討論会
  • [Presentation] ガルバノミラーを用いた撮影角度の高速スイッチング2020

    • Author(s)
      江崎ゆり子, 望戸雄志, 早川智彦, 石川正俊
    • Organizer
      第45回光学シンポジウム
  • [Presentation] 6軸力センサを搭載したロボットハンドを用いた加振によるボトル内の液体判別2020

    • Author(s)
      島田史也, 村上健一, 妹尾拓, 石川正俊
    • Organizer
      日本機械学会ロボティクス・メカトロニクス講演会2020(ROBOMECH 2020)
  • [Presentation] 弾塑性変形制御を用いたヒューマンロボットインタラクション2020

    • Author(s)
      漆原昂, 村上健一, 妹尾拓, 石川正俊
    • Organizer
      日本機械学会ロボティクス・メカトロニクス講演会 2020 (ROBOMECH 2020)
  • [Presentation] 両腕同期運動を利用した力覚提示による人間機械協調2020

    • Author(s)
      黄守仁, 小山佳祐, 石川正俊, 山川雄司
    • Organizer
      日本機械学会ロボティクス・メカトロニクス講演会 2020 (ROBOMECH 2020)

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi