• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Sensory-Motor Integration Theory in Multi-Eye High-Speed Vision Robot

Research Project

Project/Area Number 23K22710
Project/Area Number (Other) 22H01439 (2022-2023)
Research Category

Grant-in-Aid for Scientific Research (B)

Allocation TypeMulti-year Fund (2024)
Single-year Grants (2022-2023)
Section一般
Review Section Basic Section 20020:Robotics and intelligent system-related
Research InstitutionChiba University

Principal Investigator

並木 明夫  千葉大学, 大学院工学研究院, 教授 (40376611)

Co-Investigator(Kenkyū-buntansha) 妹尾 拓  北海道大学, 情報科学研究院, 准教授 (10512113)
山川 雄司  東京大学, 大学院情報学環・学際情報学府, 准教授 (90624940)
Project Period (FY) 2022-04-01 – 2025-03-31
Project Status Granted (Fiscal Year 2024)
Budget Amount *help
¥17,290,000 (Direct Cost: ¥13,300,000、Indirect Cost: ¥3,990,000)
Fiscal Year 2024: ¥4,810,000 (Direct Cost: ¥3,700,000、Indirect Cost: ¥1,110,000)
Fiscal Year 2023: ¥4,810,000 (Direct Cost: ¥3,700,000、Indirect Cost: ¥1,110,000)
Fiscal Year 2022: ¥7,670,000 (Direct Cost: ¥5,900,000、Indirect Cost: ¥1,770,000)
Keywords多眼ビジョンロボット / 高速ビジョン / 視覚サーボ / 多眼視覚ロボット / マルチステレオ / 多眼高速ビジョン / 感覚運動統合 / 高速マニピュレーション / 多眼ビジョン / ロボットマニピュレーション
Outline of Research at the Start

本課題ではこの問題を解決するために,小型高速カメラをロボットの体表に高密度で配置することで,死角をなくして全てを視覚計測可能な「無死角性」と認識と作業速度の「高速性」を実現する多眼高速ビジョンロボットシステムを実現する。具体的には,①全身にカメラを配置した多眼高速ビジョンロボットの開発,② 無死角を実現するための動的多眼ステレオによる実時間3次元認識,③多眼視覚-運動統合による動作生成,の各課題について新たに研究開発を行う。結果としてロボットの作業速度の大幅な高速化を目指す。

Outline of Annual Research Achievements

本研究では、多眼高速ビジョンロボットシステムを開発し、ロボットの体表に小型高速カメラを高密度に配置することで、死角をなくし、全てを視覚計測可能な「無死角性」と、認識と作業速度の「高速性」を実現する。具体的には、以下の三つの課題に取り組む。①全身にカメラを配置した多眼高速ビジョンロボットの開発、②動的多眼ステレオによる実時間3次元認識、③多眼視覚と運動統合による動作生成。これらの開発により、ロボットの作業速度を大幅に向上させることを目指す。
本年度は、ロボット全身にカメラを配置した多眼高速ビジョンネットワークを開発した。具体的には、多自由度ハンド・アームの指、掌、腕に合計26個の小型カメラIU233N2-Zを配置した。死角が少なくなるように最適化問題を解決して配置を決めた。多数のカメラからの視覚情報を一台の計算機で処理するのは困難なため、各カメラからの情報を処理する分散ノードを設置したネットワークを開発し、動的に経路制御を行うこととした。処理ノードにはNVIDIA Jetson Xavier NXを使用した。結果として、全カメラからの画像情報を120Hzで取得し、リアルタイムで処理することが可能となった。
開発した多眼ハンドアームシステムを使用して、高速移動物体のトラッキング制御の実験を行った。複数のカメラから得られる情報のタイミングを完全に同期することは難しいために、拡張カルマンフィルタを用いることで非同期においても精度よく情報統合を行うこととした。実機による追跡実験を行うことで、提案アルゴリズムの有効性を確認した。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

本年度の目標は、ロボット全身に配置した多眼高ビジョ ンネットワークの開発であるが、多自由度ハンド・アームに小型カメラ を配置することで、指、掌、腕に合計26個のカメラを配置したシステム構築に成功した。カメラが多数になるため,各カメラからの情報を集中するノードを設置したネットワ ーク構造とし,動的に経路制御を実現した。これらの成果は研究計画以上のものである。

Strategy for Future Research Activity

今後の研究としては、計画書に従い、次のように進める。まず、無死角を実現するための動的多眼ステレオによる実時間3次元認識の研究を行う。最適なステレオ配置をシームレスに変化させる動的多眼ステレオアルゴリズムを開発する。次に、多眼視覚-運動統合による動作生成アルゴリズムの研究を行う。タスク実行のための運動と、周辺認識のための「視運動」の双方を最適化する新たな動作生成アルゴリズムを開発する。最後に、高速マニピュレーションへの応用研究を行い、特に、障害物が多い中での把持操り作業を中心に検証する。

Report

(1 results)
  • 2022 Annual Research Report
  • Research Products

    (14 results)

All 2023 2022 Other

All Journal Article (6 results) (of which Peer Reviewed: 5 results,  Open Access: 4 results) Presentation (7 results) (of which Int'l Joint Research: 1 results) Remarks (1 results)

  • [Journal Article] Design and Application of a UAV Autonomous Inspection System for High-Voltage Power Transmission Lines2023

    • Author(s)
      Li Ziran、Zhang Yanwen、Wu Hao、Suzuki Satoshi、Namiki Akio、Wang Wei
    • Journal Title

      Remote Sensing

      Volume: 15 Issue: 3 Pages: 865-865

    • DOI

      10.3390/rs15030865

    • Related Report
      2022 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] UAV High-Voltage Power Transmission Line Autonomous Correction Inspection System Based on Object Detection2023

    • Author(s)
      Li Ziran、Wang Qi、Zhang Tianyi、Ju Cheng、Suzuki Satoshi、Namiki Akio
    • Journal Title

      IEEE Sensors Journal

      Volume: 23 Issue: 9 Pages: 10215-10230

    • DOI

      10.1109/jsen.2023.3260360

    • Related Report
      2022 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Development of Air Hockey Robot with High-Speed Vision and High-Speed Wrist2022

    • Author(s)
      Tadokoro Koichiro、Chiba University 1-33 Yayoi-cho, Inage-ku, Chiba 263-8522, Japan、Fukuda Shotaro、Namiki Akio
    • Journal Title

      Journal of Robotics and Mechatronics

      Volume: 34 Issue: 5 Pages: 956-964

    • DOI

      10.20965/jrm.2022.p0956

    • ISSN
      0915-3942, 1883-8049
    • Year and Date
      2022-10-20
    • Related Report
      2022 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Application of Low-Altitude UAV Remote Sensing Image Object Detection Based on Improved YOLOv52022

    • Author(s)
      Li Ziran、Namiki Akio、Suzuki Satoshi、Wang Qi、Zhang Tianyi、Wang Wei
    • Journal Title

      Applied Sciences

      Volume: 12 Issue: 16 Pages: 8314-8314

    • DOI

      10.3390/app12168314

    • Related Report
      2022 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Multi-Eye Vision Robot2022

    • Author(s)
      Namiki Akio
    • Journal Title

      Journal of the Robotics Society of Japan

      Volume: 40 Issue: 5 Pages: 387-392

    • DOI

      10.7210/jrsj.40.387

    • ISSN
      0289-1824, 1884-7145
    • Related Report
      2022 Annual Research Report
    • Open Access
  • [Journal Article] Dual-camera High Magnification Surveillance System with Non-delay Gaze Control and Always-in-focus Function in Indoor Scenes2022

    • Author(s)
      Zhang Tianyi、Hu Shaopeng、Shimasaki Kohei、Ishii Idaku、Namiki Akio
    • Journal Title

      2022 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS)

      Volume: 1 Pages: 6637-6642

    • DOI

      10.1109/iros47612.2022.9981485

    • Related Report
      2022 Annual Research Report
    • Peer Reviewed
  • [Presentation] 多指ロボットハンドによる折り紙動作における衝突回避制御2022

    • Author(s)
      山本開, 中村亮裕, 並木 明夫
    • Organizer
      第23回計測自動制御学会SI部門講演会(SI2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] ガウス過程回帰を用いた人間の腕のオンライン動作予測2022

    • Author(s)
      中原 海渡, 並木 明夫
    • Organizer
      第23回計測自動制御学会SI部門講演会(SI2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] 物理的整合性を考慮したマニピュレータの力学パラメータ同定2022

    • Author(s)
      段坂 隼人, 並木 明夫
    • Organizer
      第23回計測自動制御学会SI部門講演会(SI2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] 深層学習を用いた柔軟シートの形状推定,2022

    • Author(s)
      清田 冬芽, 並木 明夫
    • Organizer
      第23回計測自動制御学会SI部門講演会(SI2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] 多眼視覚を備えたハンドアームによるボールキャッチ制御2022

    • Author(s)
      横山 吉矢, 並木 明夫
    • Organizer
      第23回計測自動制御学会SI部門講演会(SI2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] ハンドアームロボットの投球動作におけるボールの運動推定,2022

    • Author(s)
      坂口 成希, 並木 明夫
    • Organizer
      第23回計測自動制御学会SI部門講演会(SI2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] Dual-camera High Magnification Surveillance System with Non-delay Gaze Control and Always-in-focus Function in Indoor Scenes2022

    • Author(s)
      Tianyi Zhang, Shaopeng Hu, Kohei Shimasaki, Idaku Ishii, and Akio Namiki
    • Organizer
      2022 IEEE/RSJ Int. Conf. on Intelligent Robot and Systems (IROS)
    • Related Report
      2022 Annual Research Report
    • Int'l Joint Research
  • [Remarks] 千葉大学大学院工学研究院機械工学コース 並木研究室

    • URL

      https://www.em.eng.chiba-u.jp/~namiki/

    • Related Report
      2022 Annual Research Report

URL: 

Published: 2022-04-19   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi