• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2018 Fiscal Year Research-status Report

ヒューマン・ロボット・インタラクションのための2D映像-3D動作マッピング手法

Research Project

Project/Area Number 17K06277
Research InstitutionWaseda University

Principal Investigator

松丸 隆文  早稲田大学, 理工学術院(情報生産システム研究科・センター), 教授 (10313933)

Project Period (FY) 2017-04-01 – 2020-03-31
Keywords3次元空中映像インタフェース / ろくろ作業 / エアーポインティング / カーソル操作 / ペットボトル仕分け / 物体区分け・銘柄分類
Outline of Annual Research Achievements

2次元映像と3次元動作の間の相互マッピング手法の確立を目的として,次の3つの事例研究から本質に迫ろうとしている.
(1)3次元空中映像インタフェース(3-dimensional aerial image interface, 3DAII)(主に動作→映像): 空中に投影された3次元映像にユーザが手指を重ねて直接操作できることを特徴とする新しいインタフェースの応用として,ろくろ作業(成形作業,削り作業)により土から器を作りだす工程の再現を試みている.仮想物体の表現にはゲームエンジンであるUnity (ver.5.6.1fl)を使用し,LeapMotionで検出した手指の3次元動作により仮想物体を変形させることで,造形を再現するインタラクション機能の一部を実現した.
(2)エアーポインティングによるカーソル操作(主に動作→映像): コンピュータ作業におけるキー入力とカーソル操作の切り替えを円滑に実現することを目的として,キーボードから手首を離すことなく指先の3次元動作だけで2次元映像内のカーソルを操作するシステムを提案した.腕の疲労軽減だけでなく,カーソルが動作する平面と指先の動く方向が一致することで直感的な操作になることが確認できた.
(3)銘柄別ペットボトル仕分け作業(主に映像→動作): 水槽の中で冷やされているペットボトルに対して,指定された銘柄を掴み上げるロボットアームシステムの実現を目的として,RGBカメラの2次元映像からロボットアームの3次元動作を計画する.水面を介して水中の物体を認識するので,センサはSLPP(構造化光パターン投影)やToF(飛行時間)などのアクティブ方式では難しいのでパッシブ方式のRGBカメラとする.機械学習により物体区分けや銘柄分類ができることを確認した.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

2次元映像と3次元動作の間の相互マッピング手法の確立を目的として,3つの事例研究を突破口とすることで,研究・開発を深耕している.
(1)3次元空中映像インタフェース: 学術誌に原著論文を投稿・査読中である.さまざまな応用事例を実現してゆくことで経験を重ね,2次元と3次元の間のインタラクションにおける設計原理の確立に近づいている.
(2)エアーポインティング: 文献調査などにより従来方法との差異や提案の新規性を明確にしている.基本機能の性能測定と従来方法との比較実験のそれぞれについて,測定内容や実験方法を熟慮・検討して実施した.
(3)ペットボトル仕分け作業: 水中にあるばら積み物体を水上から認識して掴み上げる作業への挑戦の事例は少なく,研究対象自体に新規性がある.

Strategy for Future Research Activity

2次元映像と3次元画像の間の相互マッピング手法の確立を目的として,複数の事例研究を突破口としながら研究・開発を継続する.
(1)3次元空中映像インタフェース: ろくろ作業の再現を早期に完成させる.次の応用として3次元動作物体の3次元映像再現を計画している(実現可能性は確認している).また学術誌への論文投稿が滞っているので,現在査読中の学術誌論文には早期に決着してほしい.
(2)エアーポインティング: 従来の方法(コンピュータマウス,タッチパッド,タッチパネル,など)との比較実験などを実施しており,データを整理して,学術論文への投稿を準備する.
(3)ペットボトル仕分け: ロボットの3次元動作を生成するための,2次元カメラ画像に基づく物体認識の探求を続ける.a)物体どうしの重ね合わせにより,得られた画像の全身に対する割合(例えば8割,5割,3割),得られた画像の全身における部位(例えば頭部,腹部,下部)による,物体区分けや銘柄分類の正答率の変化,b)新たな銘柄を機械学習させるために学習画像の効率的な生成方法や必要な数量の検討,などの面白い課題が残っている.

Causes of Carryover

予算の130万円に対する1%程度であり,誤差範囲内だと考える.
今後も与えられた研究費を有効に活用することに留意しながら,引き続き2次元映像-3次元動作のマッピングに関する研究を推進してゆく.

  • Research Products

    (10 results)

All 2019 2018 Other

All Int'l Joint Research (1 results) Presentation (6 results) (of which Int'l Joint Research: 2 results) Remarks (3 results)

  • [Int'l Joint Research] インド工科大学デリー校(インド)

    • Country Name
      INDIA
    • Counterpart Institution
      インド工科大学デリー校
  • [Presentation] Image Processing for Picking Task of Random Ordered PET Drinking Bottles DOI: 10.5954/ICAROB.2019.GS2-4 ISBN: 978-4-9908350-4-02019

    • Author(s)
      Chen Zhu, Takafumi Matsumaru
    • Organizer
      The 2019 International Conference on Artificial Life and Robotics (ICAROB 2019) [Beppu, Japan], (January 10-13, 2019)
    • Int'l Joint Research
  • [Presentation] 3次元空中ホログラフィック画像インターフェースを用いたリアルタイム遠隔投影2018

    • Author(s)
      堀内一希, セプティアナ アシファイ マンダ, 松丸隆文
    • Organizer
      日本機械学会 ロボティクス・メカトロニクス講演会2018 (ROBOMECH 2018 in Kitakyushu), [北九州] (2018.6.2-5)
  • [Presentation] 手検出深度カメラを用いた近距離指先ポインティング2018

    • Author(s)
      堀内一希, 松丸隆文
    • Organizer
      日本機械学会 ロボティクス・メカトロニクス講演会2018 (ROBOMECH 2018 in Kitakyushu), [北九州] (2018.6.2-5)
  • [Presentation] Fingertip pointing interface by hand detection using Short range depth camera2018

    • Author(s)
      Kazuki Horiuchi, Takafumi Matsumaru
    • Organizer
      ISIPS 2018 (12h International collaboration Symposium on Information, Production and Systems) [Kitakyushu, Japan], (14-16 November, 2018)
  • [Presentation] Image Segmentation and Brand Recognition in the Robot Picking Task2018

    • Author(s)
      Chen Zhu, Takafumi Matsumaru
    • Organizer
      ISIPS 2018 (12h International collaboration Symposium on Information, Production and Systems) [Kitakyushu, Japan], (14-16 November, 2018)
  • [Presentation] Short Range Fingertip Pointing Operation Interface by Depth Camera DOI: 10.1109/ROBIO.2018.8665254 INSPEC Accession Number: 185117422018

    • Author(s)
      Kazuki Horiuchi, Takafumi Matsumaru
    • Organizer
      2018 IEEE International Conference on Robotics and Biomimetics (IEEE ROBIO 2018), [Kuala Lumpur, Malaysia], (December 12-15, 2018)
    • Int'l Joint Research
  • [Remarks] 早稲田大学情報生産システム研究科バイオ・ロボティクス&ヒューマン・メカトロニクス研究室ホームページ

    • URL

      http://www.waseda.jp/sem-matsumaru/

  • [Remarks] 早稲田大学大学院情報生産システム研究科松丸隆文教授ホームページ

    • URL

      http://www.f.waseda.jp/matsumaru/

  • [Remarks] 早稲田大学バイオ・ロボティクス&ヒューマン・メカトロニクス研究室YouTubeチャネル

    • URL

      https://www.youtube.com/channel/UCfWTATHOOQtLY_1kylCLmAw/videos?flow=grid&view=0&sort=p

URL: 

Published: 2019-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi