• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2019 Fiscal Year Research-status Report

Development of active 3D shape reconstruction method from non-perspective cameras

Research Project

Project/Area Number 18K19824
Research InstitutionKyushu University

Principal Investigator

川崎 洋  九州大学, システム情報科学研究院, 教授 (80361393)

Co-Investigator(Kenkyū-buntansha) 小野 晋太郎  東京大学, 生産技術研究所, 特任准教授 (80526799)
Project Period (FY) 2018-06-29 – 2021-03-31
Keywordsライトフィールドカメラ / アクティブ水中3次元計測 / SLAM / 水中ROV / フェイズマスク / DOE
Outline of Annual Research Achievements

本研究では、以下3つの手法を研究開発し、水中での広範囲なアクティブ3次元復元を実現する。(A) 光線空間計測カメラを用いて、水中シーンを撮影して得られた光線空間を再構成することで中心投影画像の合成を実現する。また、水中でもレーザは直進することから、レーザ平面も平面のままであることを利用して、(B)共面生に基づくアクティブ・ステレオ3次元復元アルゴリズムを開発する。最終的に、前記(A)と(B)を組み合わせて、(C) SLAMによる水中での形状計測および運動する人物や魚などの計測・運動解析の実現を目指す。

平成30年度に(A)については一定の成果が得られたことから、令和元年度は、(B)と(C)の実現を目指して研究開発を実施した。具体的には、(B)においては、前年度シミュレーションと水槽実験にて確認した、複数のラインレーザを投影し、共面性条件を用いてアクティブ方式で3次元復元アルゴリズムについて、実際に水中ロボット(ROV)に搭載し大きなプールで計測実験を行い、復元を行った。その結果、水中シーンの3次元復元が可能であることが確認された。さらに、このROVロボットを動かしながら計測を行い、それら画像列を用いて、(C)広い範囲の3次元形状復元する手法の研究開発を実施した。そのために、シミュレーション環境を構築し基礎実験を行ったところ、レーザ平面やカメラの内部パラメータなどが推定可能であることが確認でした。これら成果を査読付き会議や研究会へ投稿を行い発表した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

本年度は、大きく2つのテーマで研究開発を行い、一定の成果を得ることができたことから、概ね順調に進展していると考える。以下にそれぞれのテーマについての詳細を述べる。
(B)共面性に基づくアクティブ・ステレオ3次元復元アルゴリズムの開発:
複数のラインレーザを一つのハウジングに入れて同時に投影する場合、中心投影では無くなるが、各ラインレーザを個別のハウジングに封入すれば、水中であっても投影されたレーザは平面のままであり、共面性条件は保存される。前年度に、この共面性条件を利用してた水中アクティブ3次元復元アルゴリズムを開発した。本年度は、奈良先端大学院大学の高松准教授と共同研究により、本システムを実際に水中ロボット(ROV)に設置し、プールでの撮影を実施し、実環境における3次元形状復元を試みた。その結果、シーンの正しい3次元形状復元に成功したことが確認できたため、それら成果を国際ワークショップにて発表した。

(C)SLAMによる水中での形状計測および運動する人物や魚などの計測・運動解析:
前述のように、水中ROVで動きながら計測した複数の3次元形状を統合し、広い範囲を復元する手法を開発するため、その準備のための研究や、基礎研究を行った。まず、ROVを効率よく制御するため、ROSによるシステム開発を行い、効率よくシーンを計測できるようにした。さらに単画像における3次元復元アルゴリズムを用いて初期形状を得て、これを連続画像に適用して同時最適化することで高精度に首尾一貫した広範囲の3次元形状復元を実現するアルゴリズムの研究開発に着手し、シミュレーションにより動作確認を行った。並行して通常のワンショット3次元センサによる、SLAMアルゴリズムおよび、計測したシーンにおける同物体の検出やトラッキングを実現するための基礎アルゴリズムについての研究開発を進めて、成果を国際会議に投稿し発表した。

Strategy for Future Research Activity

次年度は、これまでの成果である、(A)水中における光線の再構成による中心投影画像の合成手法と、(B)水中で複数ラインレーザを用いた共面性アクティブ3次元計測手法と、(C)連続画像を用いた同時最適化手法による広範囲3次元復元を組み合わせて、「実際にROVを動かしながら、広い範囲を計測した画像列から、水中の広範囲3次元形状を復元するシステム」を開発する。このための具体的な目標は以下の通りである。

(C-1)SLAMによる水中での共面性復元による形状計測アルゴリズムの開発:

これまでに開発した、共面性水中アクティブ3次元計測システムを搭載したROVを実際に水中で動かすことで画像列を得て、それら画像列をバンドル調整による同時最適化することで、水中の広範囲な3次元形状を高精度に計測する手法を開発する。その実現のため、複数のラインレーザのパラメータと屈折パラメータを考慮した、新しいバンドル調整手法を研究開発する。

Causes of Carryover

次年度に実施する実データ実験用の機材や人件費に回すため。

  • Research Products

    (31 results)

All 2019 Other

All Int'l Joint Research (2 results) Journal Article (16 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 16 results,  Open Access: 6 results) Presentation (11 results) (of which Int'l Joint Research: 5 results) Remarks (2 results)

  • [Int'l Joint Research] Rice大学/MIT/Microsoft(米国)

    • Country Name
      U.S.A.
    • Counterpart Institution
      Rice大学/MIT/Microsoft
  • [Int'l Joint Research] 北京大学(中国)

    • Country Name
      CHINA
    • Counterpart Institution
      北京大学
  • [Journal Article] 白黒2階調の補助線を用いた幾何歪みに頑健な2次元コードとその復号方式に関する研究2019

    • Author(s)
      鞍津輪一希,上鶴晃平,久冨あすか(鹿児島大学),川崎洋(九州大学),小野智司(鹿児島大学)
    • Journal Title

      情報処理学会論文誌 数理モデルと応用(TOM)

      Volume: 2018-MPS-121 4号 Pages: pp69-81

    • Peer Reviewed
  • [Journal Article] UNDERWATER STEREO USING REFRACTION-FREE IMAGE SYNTHESIZED FROM LIGHT FIELD CAMERA2019

    • Author(s)
      Kazuto Ichimaru, Hiroshi Kawasaki
    • Journal Title

      IEEE International Conference on Image Processing ICIP

      Volume: - Pages: 5pages

    • Peer Reviewed / Open Access
  • [Journal Article] Simultaneous RGB and Depth Image Capture System Using Common Endoscope Based on Hight Frequency Alternative Pattern Projection2019

    • Author(s)
      Ryo Furukawa, Shiro Oka, Takahiro Kotachi,Yuki Okamoto,Shinji Tanaka,Hiroshi Kawasaki
    • Journal Title

      International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC)

      Volume: - Pages: 1page

    • Peer Reviewed
  • [Journal Article] Frame-Wise Auto-Calibration of Projector-Camera Pair of 3D Endoscope2019

    • Author(s)
      Ryo Furukawa, Shiro Oka, Takahiro Kotachi,Yuki Okamoto,Shinji Tanaka,Hiroshi Kawasaki
    • Journal Title

      International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC)

      Volume: - Pages: 1page

    • Peer Reviewed
  • [Journal Article] Non-Contact Cardiac Beat Detection Using Dot-line Based Oneshot Scanner2019

    • Author(s)
      Genki Nagamatsu, Ryo Furukawa, Hiroshi Kawasaki
    • Journal Title

      International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC)

      Volume: - Pages: 1page

    • Peer Reviewed
  • [Journal Article] Learning-based active 3D measurement technique using light field created by video projectors2019

    • Author(s)
      Yuki Shiba1* , Satoshi Ono1 , Ryo Furukawa2 , Shinsaku Hiura2 and Hiroshi Kawasaki3
    • Journal Title

      IPSJ Transactions on Computer Vision and Applications

      Volume: Vol. 11, numbe 6 Pages: 14pages

    • DOI

      10.1186/s41074-019-0058-y

    • Peer Reviewed / Open Access
  • [Journal Article] Refraction-free Underwater Active One-shot Scan using Light Field Camera2019

    • Author(s)
      Kazuto Ichimaru, Hiroshi Kawasaki(Kyushu Univ.)
    • Journal Title

      第22回画像の認識・理解シンポジウム

      Volume: - Pages: 4pages

    • Peer Reviewed
  • [Journal Article] Simultaneous Shape Registration and Active Stereo Shape Reconstruction using Modified Bundle Adjustment2019

    • Author(s)
      Ryo Furukawa; Genki Nagamatsu; Hiroshi Kawasaki
    • Journal Title

      International Conference on 3D Vision

      Volume: - Pages: 10pages

    • DOI

      10.1109/3DV.2019.00057

    • Peer Reviewed
  • [Journal Article] Unified Underwater Structure-from-Motion2019

    • Author(s)
      Kazuto Ichimaru,Yuichi Taguchi,Hiroshi Kawasaki
    • Journal Title

      International Conference on 3D Vision

      Volume: - Pages: 9pages

    • Peer Reviewed / Open Access
  • [Journal Article] Mobile Photometric Stereo Combined with SLAM for Dense 3D Reconstruction2019

    • Author(s)
      Maxence Remy; Hideaki Uchiyama; Hiroshi Kawasaki; Diego Thomas; Vincent Nozick; Hideo Saito
    • Journal Title

      International Conference on 3D Vision

      Volume: - Pages: pp.574-582

    • DOI

      10.1109/3DV.2019.00044

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Simultaneous shape and camera-projector parameter estimation for 3D endoscopic system using CNN-based grid-oneshot scan2019

    • Author(s)
      Ryo Furukawa 1 ; Genki Nagamatsu 2 ; Shiro Oka 3 ; Takahiro Kotachi 4 ; Yuki Okamoto 4 ; Shinji Tanaka 4 ; Hiroshi Kawasaki 2
    • Journal Title

      MICCAI workshops AE-CAI, CARE (MIAR)

      Volume: Vol. 6, Iss. 6 Pages: pp.249-254

    • DOI

      10.1049/htl.2019.0070

    • Peer Reviewed / Open Access
  • [Journal Article] Human shape reconstruction with loose clothes from partially observed data by pose specific deformation2019

    • Author(s)
      Sayo Akihiko; Onizuka Hayato; Thomas Diego; Nakashima Yuta; Kawasaki Hiroshi; Ikeuchi Katsushi
    • Journal Title

      The Pacific-Rim Symposium on Image and Video Technology (PSIVT)

      Volume: vol 11854 Pages: pp225-239

    • DOI

      10.1007/978-3-030-34879-3_18

    • Peer Reviewed
  • [Journal Article] Flooded Road Detection from Driving Recorder: Training Deep Net forRare Event using GANs Semantic Information2019

    • Author(s)
      Sho Nakamura, Shintaro Ono, Hiroshi Kawasaki
    • Journal Title

      第17回ITSシンポジウム2019

      Volume: - Pages: 10pages

    • Peer Reviewed
  • [Journal Article] Flooded Road Detection from Driving Recorder: Training Deep Net forRare Event using GANs Semantic Information2019

    • Author(s)
      Sho Nakamura, Shintaro Ono, Hiroshi Kawasaki
    • Journal Title

      International Journal of Intelligent Transportation Systems Research

      Volume: - Pages: 10pages

    • DOI

      10.1007/s13177-019-00219-9

    • Peer Reviewed
  • [Journal Article] Toward Interactive Self- Annotation For Video Object BoundingBox: Recurrent Self-Learning And Hierarchical Annotation Based Framework2019

    • Author(s)
      Trung-Nghia Le, Sugimoto Akihiro, Shintaro Ono, and Hiroshi Kawasaki
    • Journal Title

      2020 IEEE Winter Conference on Applicans of Computer Vision (WACV)

      Volume: - Pages: 10 pages

    • Peer Reviewed / Open Access
  • [Journal Article] パターンの最適化による複数平面への文字情報の同時投影手法2019

    • Author(s)
      平尾 勇人,岩口 尭史,川崎 洋
    • Journal Title

      第24回一般社団法人情報処理学会シンポジウム(インタラクション2020)

      Volume: - Pages: pp403-408

    • Peer Reviewed / Open Access
  • [Presentation] 3次元内視鏡におけるambient光源にロバストな投影パターン特徴抽出2019

    • Author(s)
      古川 亮, 内藤 雅仁, 宮崎 大輔, 馬場 雅志, 日浦 慎作(広島市大), 岡 志郎, 田中 信治(広島大病院), 川崎 洋(九大)
    • Organizer
      第22回画像の認識・理解シンポジウム
  • [Presentation] セマンティック情報に基づく複数ドメイン画像変換2019

    • Author(s)
      中村 奨, 小野 晋太郎, 川崎 洋
    • Organizer
      第22回画像の認識・理解シンポジウム
  • [Presentation] 疎な構造化光による疎な3次元復元形状のパターン間の陰影学習による高密度化2019

    • Author(s)
      岩口 尭史, 栗田 拓弥, 時枝 康大(九大), 古川 亮(広島市大), 川崎 洋(九大)
    • Organizer
      第22回画像の認識・理解シンポジウム
  • [Presentation] 頭部3次元データの位置合わせによるPPG精度向上2019

    • Author(s)
      永松 元気, Ewa Magdalena Nowara, Amruta Pai, Ashok Veeraraghavan (Rice Univ.), 川崎 洋
    • Organizer
      第22回画像の認識・理解シンポジウム
  • [Presentation] Labanotation Generation from RGB videos2019

    • Author(s)
      LIU JING, Hiroshi Kawasaki
    • Organizer
      Joint Workshop on Machine Perception and Robotics (MPR2019)
    • Int'l Joint Research
  • [Presentation] Densifying sparse shape from sparse structured light measurement by learning shading2019

    • Author(s)
      Takafumi Iwaguchi,Kodai Tokieda,Ryo Furukawa, Hiroshi Kawasaki
    • Organizer
      Joint Workshop on Machine Perception and Robotics (MPR2019)
    • Int'l Joint Research
  • [Presentation] CNNを用いたドットライン検出による堅牢なアクティブ3次元計測2019

    • Author(s)
      永松 元気, 長枝 浩, 川崎 洋
    • Organizer
      ビジョン技術の実利用ワークショップ
  • [Presentation] Unsupervised 3D Human Pose Estimation with Adversarial Learning2019

    • Author(s)
      Cheng Sun, Diego Thomas, and Hiroshi Kawasaki
    • Organizer
      26th International Workshop on Frontiers of Computer Vision(IW-FCV2020)
    • Int'l Joint Research
  • [Presentation] Development of underwater 3D-reconstruction system using cross-lasers-based scanner attached on underwater ROV2019

    • Author(s)
      Hanbin Wang, Takafumi Iwaguchi, Naoki Shirakura, Jun Takamatsu, and Hiroshi Kawasaki
    • Organizer
      26th International Workshop on Frontiers of Computer Vision(IW-FCV2020)
    • Int'l Joint Research
  • [Presentation] Tensor-Based Deep Height Map Reconstruction for Rendering Time-Varying Water Drop Condensation2019

    • Author(s)
      Michihiro Mikamo, Hiroshi Kawasaki
    • Organizer
      26th International Workshop on Frontiers of Computer Vision(IW-FCV2020)
    • Int'l Joint Research
  • [Presentation] 連続画像を用いた流し撮り画像合成手法2019

    • Author(s)
      三鴨 道弘 , 川崎 洋
    • Organizer
      第177回コンピュータグラフィックスとビジュアル情報学研究発表会
  • [Remarks] ライトフィールドカメラによる屈折フリー画像生成

    • URL

      http://www.cvg.ait.kyushu-u.ac.jp/ja/research/lytro_refraction_undist.html

  • [Remarks] 水中におけるMulti-scale CNNを用いたパターン投影ステレオ

    • URL

      http://www.cvg.ait.kyushu-u.ac.jp/ja/research/underwater_projectedpatternstereo.html

URL: 

Published: 2021-01-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi