• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

Development of underwater active 3D scanning techniques and analysis on underwater structures

Research Project

Project/Area Number 20H00611
Research InstitutionKyushu University

Principal Investigator

川崎 洋  九州大学, システム情報科学研究院, 教授 (80361393)

Co-Investigator(Kenkyū-buntansha) 佐川 立昌  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 研究チーム長 (30362627)
小池 賢太郎  鹿児島大学, 理工学域工学系, 助教 (30781992)
古川 亮  広島市立大学, 情報科学研究科, 准教授 (50295838)
巻 俊宏  東京大学, 生産技術研究所, 准教授 (50505451)
高松 淳  奈良先端科学技術大学院大学, 先端科学技術研究科, 客員教授 (90510884)
THOMAS DIEGO  九州大学, システム情報科学研究院, 准教授 (10804651)
岩口 尭史  九州大学, システム情報科学研究院, 助教 (50845526)
Project Period (FY) 2020-04-01 – 2025-03-31
Keywordsアクティブ3次元計測 / 水中ROV / 水中AUV / 水中SLAM / 水中構造物計測
Outline of Annual Research Achievements

水中での形状計測に対する関心が高まっていることから、本研究では、高密度・高精度に広範囲の水中の3次元形状を計測する手法を開発する。提案手法では、ROVやAUVなどに水中ロボットに、本課題で開発した計測装置を搭載し、移動しながら水中の3次元形状を取得・統合することで、GPSの使えない水中において広範囲の形状計測を実現する。
具体的には、水中3次元計測の課題である、①屈折や光量減衰、ベースライン不足によるアクティブ計測の精度低下、②電波が届かず見通しの悪い水中での自己位置推定の困難さ、さらに③複数の3次元形状を統合・解析手法を提案する。
初年度は、水中アクティブ3次元センサの基礎アルゴリズムの開発および、水中ロボットを用いたテストを屋内プールにて実施し特許出願した。
2022年度は、開発した水中アクティブ3次元センサを用いた性能評価と、広範囲計測のためのアルゴリズム開発を行った。具体的には、広範囲計測のため、3次元センサを動かしながら複数フレームを取得し、それらを統合した3次元形状と、各フレームにおけるセンサの位置姿勢を同時に最適化するアルゴリズムを開発した。この時、移動経路にループが存在する場合、ループの端点同士が一致する拘束を用いて、結果が安定するアルゴリズムを開発した。その結果、本手法により誤差が減少することを確認した。これら成果を査読付き国際会議へ投稿し、採択され発表を行った。
並行して、水中ロボットに3次元センサを設置して水中で形状計測するための実験を屋外(横浜港湾)にて実施した。その結果、屋外では水質が非常に悪いこと、また水中GPSの位置決め精度が空中のGPSなどに対して非常に低いことなどが判明した。そこで、この問題を解消するため、音響ソナー(DVL)を用いた新たな自己位置推定手法を開発することとし、その基礎アルゴリズムを開発した。その成果を、査読付き国際会議へ投稿した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

本年度は、以下に述べる大きく3つのテーマで研究開発を行った。それぞれの進捗状況を鑑みるに、概ね順調に進展していると言える。
(A)アクティブ・ステレオ3次元復元アルゴリズムの性能向上:前年度に開発した水中アクティブ3次元アルゴリズムは、ラインレーザを検出し、光切断法で復元する手法であるが、屋外などの港湾では水質が悪く、ラインの検出が成功しにくいため、深層学習により水質劣化をリトレーニングおよびドメイン適合させることで、検出の安定化を実現した。また、水質の悪い環境においてもキャリブレーションを安定させるため、マーカー検出においても、水質劣化をシミュレートしたAugmentationによる深層学習により、安定した処理を実現した。これら成果は著名な査読付き国際会議ICIPで採択され発表した。
(B)ラインレーザ3次元センサで得られたスパースな3次元形状の統合:ラインレーザ3次元センサを複数フレーム連続して用いて、得られた形状を統合するアルゴリズムを開発した。これは、センサで得られたカメラの位置姿勢を初期値として、統合した形状同士に矛盾がないように、3次元形状およびカメラの位置姿勢を最適化するバンドル調整アルゴリズムからなる。成果は著名な査読付き国際会議であるIROSに採択され発表した。
(C)屋外でのSLAMのための基礎開発:アクティブ計測を連続的に実施し、広い形状を取得する水中SLAMを屋外環境で実施するための基礎システムの開発を行った。この目的のため、水中ロボットに、開発した3次元センサの他、水中GPS(音響ベース)、音響ベースの速度センサ、および、音響2次元ソナーを設置し、それらのデータを同期して保存するロガー・システムを開発した。取得したデータを可視化し、データが正しく計測されていることを確認した。このデータ取得システムを今後用いて、広範囲の3次元マップを取得する予定である。

Strategy for Future Research Activity

2022年度は、これまで開発してきた水中アクティブ3次元センサを用いて、実験プール以外で計測するために必要な精度向上や安定化を目指す。精度向上に関しては、3次元センサを動かしながら得られた複数フレームの3次元復元結果を、センサの位置姿勢と同時に最適化するアルゴリズムを開発する。具体的には、個々の光切断法によるスパースな3次元点群と、同時に撮影された画像特徴点を用いて得られた個々のカメラ位置姿勢を初期値として、バンドル調整により全体最適化する手法を開発する。さらに移動経路にループが存在する場合、ループの端点同士がクローズする拘束を用いて、より結果が安定するアルゴリズムを開発する。また、ノイズが多い場合、共面性復元の解が不安定化することが起こるため、その原因究明と解決策を検討する。
また、並行して、水中ロボットに3次元センサを設置して水中で形状計測するための実験を実施する。水中ロボットは、九州大にあるBlueRoboticsおよび、東京大学にあるTritonを対象として、九州大学にある回流水槽および東大巻研究室の管理する実験水槽または平塚の海域試験場にて計測テストやアルゴリズムの検証、精度評価等を実施する。その際に、水中構造物や障害物を検知し、衝突を回避する経路探索手法を開発する
それらの計測結果を基に、水中構造物の計測・検査システムの開発を行う。前年度に引き続き、現状の港湾構造物の見学や維持管理者との打ち合わせ、さらに現地でのテスト計測を実施する。実験や打ち合わせを通して、水中構造物検査の課題を明らかにするとともに、具体的なシステム開発の計画を立てる。

  • Research Products

    (36 results)

All 2022 2021 Other

All Journal Article (19 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 17 results,  Open Access: 12 results) Presentation (14 results) (of which Int'l Joint Research: 4 results,  Invited: 1 results) Remarks (2 results) Patent(Industrial Property Rights) (1 results)

  • [Journal Article] Single-shot dense active stereo with pixel-wise phase estimation based on grid-structure using CNN and correspondence estimation using GCN2022

    • Author(s)
      Ryo Furukawa, Michihiro Mikamo, Ryusuke Sagawa, Hiroshi Kawasaki
    • Journal Title

      2022 IEEE/CVF Winter Conference on Applications of Computer Vision

      Volume: - Pages: 11 pages

    • DOI

      10.1109/WACV51458.2022.00032

    • Peer Reviewed / Open Access
  • [Journal Article] Integration of Gesture Generation System Using Gesture Library with DIY Robot Design Kit2022

    • Author(s)
      Hitoshi Teshima, Naoki Wake, Diego Thomas, Yuta Nakashima, David Baumert, Hiroshi Kawasaki, Katsushi Ikeuchi
    • Journal Title

      2022 IEEE/SICE International Symposium on System Integration (SII)

      Volume: - Pages: 6 pages

    • DOI

      10.1109/SII52469.2022.9708837

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Refining OpenPose with a new sports dataset for robust 2D pose estimation2022

    • Author(s)
      Takumi Kitamura, Hitoshi Teshima, Diego Thomas, Hiroshi Kawasaki
    • Journal Title

      2022 IEEE/CVF Winter Conference on Applications of Computer Vision Workshops (WACVW)

      Volume: - Pages: 10 pages

    • DOI

      10.1109/WACVW54805.2022.00074

    • Peer Reviewed / Open Access
  • [Journal Article] TIDE: Temporally Incremental Disparity Estimation via Pattern Flow in Structured Light Systems2022

    • Author(s)
      RUKUN QIAO, Hiroshi Kawasaki, Hongbin Zha
    • Journal Title

      IEEE Robotics and Automation Letters

      Volume: VOL. 7, NO. 2 Pages: pp.5111-5118

    • DOI

      10.1109/LRA.2022.3150029

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] 深層学習を用いたパターン投影画像のスーパーピクセル推定によるグリッド方式ワンショット三次元計測の高密度化手法2021

    • Author(s)
      中村太郎,三鴨道弘, 佐川立昌 ,古川亮 , 川崎洋
    • Journal Title

      第27回画像センシングシンポジウム

      Volume: - Pages: 5 pages

    • Peer Reviewed
  • [Journal Article] 微小振動によるスペックルパターン変化の時空間最適化による音波の三次元空間における観測と可視化2021

    • Author(s)
      樋口 雄介,中村 太郎,古川 亮, 佐川 立昌, 川崎 洋
    • Journal Title

      第24回画像の認識・理解シンポジウム(MIRU2021)

      Volume: - Pages: 4 pages

    • Peer Reviewed
  • [Journal Article] 符号化開口を鍵とする情報秘匿方式の改良2021

    • Author(s)
      水俣友希, 石田祥馬, 濱崎弘樹 , 川崎洋 , 長原一 , 小野智司
    • Journal Title

      第24回画像の認識・理解シンポジウム(MIRU2021)

      Volume: - Pages: 4 pages

    • Peer Reviewed
  • [Journal Article] HIGH-FREQUENCY SHAPE RECOVERY FROM SHADING BYCNN AND DOMAIN ADAPTATION2021

    • Author(s)
      Kodai Tokieda, Takafumi Iwaguchi, Hiroshi Kawasaki
    • Journal Title

      2021 IEEE International Conference on Image Processing(ICIP2021)

      Volume: - Pages: 5 pages

    • DOI

      10.1109/ICIP42928.2021.9506450

    • Peer Reviewed / Open Access
  • [Journal Article] A METHOD FOR ADDING MOTION-BLUR ON ARBITRARY OBJECTS BY USINGAUTO-SEGMENTATION AND COLOR COMPENSATION TECHNIQUES2021

    • Author(s)
      Michihiro Mikamo, Ryo Furukawa,Hiroshi Kawasaki
    • Journal Title

      2021 IEEE International Conference on Image Processing(ICIP2021)

      Volume: - Pages: 5 pages

    • DOI

      10.1109/ICIP42928.2021.9506443

    • Peer Reviewed / Open Access
  • [Journal Article] POSERN: A 2D POSE REFINEMENT NETWORK FOR BIAS-FREE MULTI-VIEW3D HUMAN POSE ESTIMATION2021

    • Author(s)
      Akihiko Sayo , Diego Thomas, Hiroshi Kawasaki, Yuta Nakashima, Katsushi Ikeuchi
    • Journal Title

      2021 IEEE International Conference on Image Processing(ICIP2021)

      Volume: - Pages: 5 pages

    • DOI

      10.1109/ICIP42928.2021.9506022

    • Peer Reviewed / Open Access
  • [Journal Article] Information Hiding Using a Coded Aperture as a Key2021

    • Author(s)
      Tomoki Minamata, Shoma Ishida, Hiroki Hamasaki
    • Journal Title

      MVA202117th International Conference on Machine Vision ApplicationsJuly 25?27, 2021, Fully Online

      Volume: - Pages: 5 pages

    • DOI

      10.23919/MVA51890.2021.9511375

    • Peer Reviewed / Open Access
  • [Journal Article] Tensor-Based Texture Reconstruction for Rendering Time-Varying Water DropCondensation Using Heat Propagation and Water-Repellency2021

    • Author(s)
      Michihiro Mikamo and Hiroshi Kawasaki
    • Journal Title

      IEVC2021,The 7th IIEEJ International Conference on Image Electronics and Visual Computing

      Volume: - Pages: 4 pages

    • Peer Reviewed
  • [Journal Article] Self-calibrated dense 3D sensor using multiple cross line-lasers based on light sectioning method and visual odometry2021

    • Author(s)
      Genki Nagamatsu, Jun Takamatsu, Takafumi Iwaguchi, Diego Thomas, Hiroshi Kawasaki
    • Journal Title

      2021 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS2021)

      Volume: - Pages: pp.94-100

    • DOI

      10.1109/IROS51168.2021.9636505

    • Peer Reviewed / Open Access
  • [Journal Article] 超高速・微細形状・極端環境における高精度アクティブ 3 次元計測の挑戦2021

    • Author(s)
      川崎洋 ,古川亮 , 佐川立昌
    • Journal Title

      精密工学会誌

      Volume: Vol. 87 No.(8) Pages: pp.656-661

  • [Journal Article] Simultaneous estimation of projector and camera poses for multiple oneshot scan using pixel-wise correspondences estimated by U-Nets and GCN2021

    • Author(s)
      Ryo Furukawa, Michihiro Mikamo, Hiroshi Kawasaki, Ryusuke Sagawa, Shiro Oka, Takahiro Kotachi, Yuki Okamoto & Shinji Tanaka
    • Journal Title

      The joint 15th AE-CAI, 8th CARE and 4th OR 2.0 workshop MICCAI

      Volume: - Pages: 13 pages

    • Peer Reviewed
  • [Journal Article] Simultaneous estimation of projector and camera poses for multiple oneshot scan using pixel-wisecorrespondences estimated by U-Nets and GCN2021

    • Author(s)
      Ryo Furukawa, Michihiro Mikamo, Hiroshi Kawasaki, Ryusuke Sagawa, Shiro Oka, Takahiro Kotachi, Yuki Okamoto & Shinji Tanaka
    • Journal Title

      Journal of Computer Methods in Biomechanics and Biomedical Engineering: Imaging & Visualization (TCIV)

      Volume: - Pages: 9 pages

    • DOI

      10.1080/21681163.2021.2009376

    • Peer Reviewed / Open Access
  • [Journal Article] Active Stereo Method for 3D Endoscopes using Deep-layer GCN and Graph Representation with Proximity Information2021

    • Author(s)
      Michihiro Mikamo, Ryo Furukawa, Shiro Oka, Takahiro Kotachi, Yuki Okamoto, Shinji Tanaka, Ryusuke Sagawa, Hiroshi Kawasaki
    • Journal Title

      International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC)

      Volume: - Pages: 5 pages

    • DOI

      10.1109/EMBC46164.2021.9629696

    • Peer Reviewed / Open Access
  • [Journal Article] Efficient light transport acquisition by coded illumination and robust photometric stereo by dual photography using deep neural network2021

    • Author(s)
      Takafumi Iwaguchi, Hiroshi Kawasaki,
    • Journal Title

      Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV) Workshops PBDL

      Volume: - Pages: pp.1165--1173

    • DOI

      10.1109/ICCVW54120.2021.00136

    • Peer Reviewed / Open Access
  • [Journal Article] Collection of Marine Debris by Jointly Using UAV-UUV With GUI for Simple Operation2021

    • Author(s)
      Shirakura Naoki、Kiyokawa Takuya、Kumamoto Hikaru、Takamatsu Jun、Ogasawara Tsukasa
    • Journal Title

      IEEE Access

      Volume: 9 Pages: 67432~67443

    • DOI

      10.1109/ACCESS.2021.3076110

  • [Presentation] 高周波形状復元のための微分可能レンダラーを用いたデータ拡張の最適化2022

    • Author(s)
      時枝 康大, 岩口 尭史, 川崎 洋
    • Organizer
      情報処理学会コンピュータビジョンとイメージメディア研究会(CVIM)
  • [Presentation] 微分可能レンダリングによるコースティクス画像からの鏡面反射物体の形状復元2022

    • Author(s)
      岩口 尭史, 久保 尋之, 川崎 洋
    • Organizer
      情報処理学会コンピュータビジョンとイメージメディア研究会(CVIM)
  • [Presentation] Sim-to-Real Transfer for Underwater Wireless Optical Communication Alignment Policy between AUVs2022

    • Author(s)
      Weng Y., Matsuda T., Sekimori Y., Pajarinen J., Peters J., Maki T.
    • Organizer
      OCEANS 2022 Chennai
    • Int'l Joint Research
  • [Presentation] Hybrid technique of light sectioning method using multiple-line-lasers and visual SLAM2021

    • Author(s)
      Genki Nagamatsu, Hanbin Wang, Jun Takamatsu2, Takafumi Iwaguchi Diego Thomas, Naoki Shirakura, Hiroshi Kawasaki
    • Organizer
      第24回画像の認識・理解シンポジウム(MIRU2021)
  • [Presentation] Multi line-lasers ROV for underwater dense 3D shape reconstruction using marker based calibration by DNN2021

    • Author(s)
      Hanbin Wang, Genki Nagamatsu, Takafumi Iwaguchi , Naoki Shirakura, Jun Takamatsu, Hiroshi Kawasaki
    • Organizer
      第24回画像の認識・理解シンポジウム(MIRU2021)
  • [Presentation] 照度差ステレオ法とDual Photographyによる反射光フィルタリングを用いた乱反射物体表面の境界を保存した平滑な法線推定手法2021

    • Author(s)
      木原優輝, 岩口尭史, 川崎洋
    • Organizer
      第24回画像の認識・理解シンポジウム(MIRU2021)
  • [Presentation] Oneshot dense 3D active stereo based on pixel-wise correspondence estimation using U-Nets and GCN2021

    • Author(s)
      Michihiro Mikamo,Ryusuke Sagawa,Hiroshi Kawasaki,Ryo Furukawa
    • Organizer
      第24回画像の認識・理解シンポジウム(MIRU2021)
  • [Presentation] Monocular Visual Odometry for Dynamic Environments using Deep Depth Estimation with Clustering Techniques2021

    • Author(s)
      Hanwei ZHANG, Hideaki UCHIYAMA, Shintaro ONO,Hiroshi KAWASAKI
    • Organizer
      第24回画像の認識・理解シンポジウム(MIRU2021)
  • [Presentation] An open source solution for aerial drone-based RGB-D scanning2021

    • Author(s)
      Hanwei ZHANG,Takumi KITAMURA,Yusuke HIGUCHI, Diego THOMAS, Hiroshi KAWASAKI
    • Organizer
      第24回画像の認識・理解シンポジウム(MIRU2021)
  • [Presentation] A New Clustering Method for Gestures in TED Videos using Labanotation2021

    • Author(s)
      Hitoshi Teshima,Naoki Wake, Diego Thomas, Yuta Nakashima, Hiroshi Kawasaki, Katsushi Ikeuchi
    • Organizer
      第24回画像の認識・理解シンポジウム(MIRU2021)
  • [Presentation] ドライブレコーダ映像を用いた急ブレーキ発生条件の分析 --深層学習により推定した車間距離の活用--2021

    • Author(s)
      張 ハンウェイ, 峯 恒憲, 小野 晋太郎, 川崎 洋
    • Organizer
      第19回ITSシンポジウム2021
  • [Presentation] Underwater Suction Gripper for Object Manipulation with an Underwater Robot2021

    • Author(s)
      Hikaru Kumamoto, Naoki Shirakura, Jun Takamatsu and Tsukasa Ogasawara
    • Organizer
      ?IEEE International Conference on Mechatronics
    • Int'l Joint Research
  • [Presentation] Observability Analysis of Underwater Wireless Optical Communication Alignment between AUVs2021

    • Author(s)
      Weng Y., Maki T.
    • Organizer
      OCEANS 2021 San Diego - Porto Online
    • Int'l Joint Research
  • [Presentation] Latest developments on autonomous underwater platform systems2021

    • Author(s)
      Maki T.
    • Organizer
      Techno-Ocean 2021
    • Int'l Joint Research / Invited
  • [Remarks] 複数の十字平面レーザの自校正による水中アクティブ3次元計測手法

    • URL

      https://www.cvg.ait.kyushu-u.ac.jp/ja/research/Underwater_Laser_Calib_and_Reconst.html

  • [Remarks] 水中高密度3次元復元のためのDNNによるマーカーベースのキャリブレーション手法

    • URL

      https://www.cvg.ait.kyushu-u.ac.jp/ja/research/Underwater_AR_Calib.html

  • [Patent(Industrial Property Rights)] 画像生成処理装置、3次元形状の復元システム、画像生成処理方法およびプログラム2021

    • Inventor(s)
      川﨑 洋
    • Industrial Property Rights Holder
      川﨑 洋
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2021-119944

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi