• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Annual Research Report

Development of underwater active 3D scanning techniques and analysis on underwater structures

Research Project

Project/Area Number 20H00611
Research InstitutionKyushu University

Principal Investigator

川崎 洋  九州大学, システム情報科学研究院, 教授 (80361393)

Co-Investigator(Kenkyū-buntansha) THOMAS DIEGO  九州大学, システム情報科学研究院, 准教授 (10804651)
佐川 立昌  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 研究チーム長 (30362627)
小池 賢太郎  鹿児島大学, 理工学域工学系, 助教 (30781992)
古川 亮  近畿大学, 工学部, 教授 (50295838)
巻 俊宏  東京大学, 生産技術研究所, 准教授 (50505451)
岩口 尭史  九州大学, システム情報科学研究院, 助教 (50845526)
Project Period (FY) 2020-04-01 – 2025-03-31
Keywordsアクティブ3次元計測 / 水中ROV / 水中AUV / 水中SLAM / 水中構造物計測
Outline of Annual Research Achievements

水中での形状計測に対する関心が高まっていることから、本研究では、高密度・高精度に広範囲の水中の3次元形状を計測する手法を開発する。提案手法では、ROVやAUVなどに水中ロボットに、本課題で開発した計測装置を搭載し、移動しながら水中の3次元形状を取得・統合することで、GPSの使えない水中において広範囲の形状計測を実現する。
具体的には、水中3次元計測の課題である、①屈折や光量減衰、ベースライン不足によるアクティブ計測の精度低下、②電波が届かず見通しの悪い水中での自己位置推定の困難さ、さらに③複数の3次元形状を統合・解析手法を提案する。
初年度は、水中アクティブ3次元センサの基礎アルゴリズムの開発および、水中ロボットを用いたテストを屋内プールにて実施し特許出願した。
2021年度は、開発した水中アクティブ3次元センサを用いた性能評価と、広範囲計測のためのアルゴリズム開発および、水中ロボットに3次元センサを設置して水中で形状計測するための実験を屋外(横浜港湾)にて実施した。その結果、屋外では水質が非常に悪いこと、また水中GPSの位置決め精度が空中のGPSなどに対して非常に低いことなどが判明した。そこで、2022年度は、音響ソナー(DVL)を用いた自己位置を初期値として、広域な水中を復元するSLAMにおける基礎アルゴリズムを開発した。さらに、そうして得られた初期値を用いて全体最適化を実現するバンドル調整法を開発した。また、港湾などにおける低画質の水中画像を、より鮮明かつカラーバランスの正しい画像に改善する深層学習手法を新たに開発した。それらの成果は国内外の著名な会議に採択され発表した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

本年度(2022年度)は、以下に述べる大きく3つのテーマで研究開発を行った。それぞれの進捗状況を鑑みるに、概ね順調に進展していると言える。
(A) 光切断法によるライン形状のブロック化によるSLAM手法:提案手法は、光切断法による3次元センサを動かしながら得られた複数フレームの3次元形状を統合することで、広域な水中の地形や構造物を取得するSLAMアルゴリズムである。本年度は、個々の復元におけるスパースな3次元点群と、撮影された画像特徴点を用いて得られた個々のカメラ位置姿勢を初期値として、バンドル調整により全体最適化する手法において、フレーム単位だと形状がスパースなため不安定となることから、40フレーム程度をブロック化することで安定した処理を実現した。成果を、画像の認識・理解シンポジウム(MIRU2022)にて発表した。
(B) 音響ソナーとカメラの自己校正による広域の水中3次元復元:また、港湾など屋外の水中シーンでは透明度が低いことや、堆積物により表面が単一色であることから、撮影画像から特徴点を抽出することが困難な場合が多い。そこで、水中ロボットに音響ソナーを設置して初期位置・姿勢を得るシステムを構築した。音響ソナーと、3次元計測用カメラとの間の位置姿勢の関係は未知のため、これを校正するアルゴリズムを開発した。成果を、情報処理学会CVIM研究会にて発表した。
(C) 深層学習による水中画像の画質改善手法の開発:実際に港湾などにおいて計測した画像を検査に用いるためには、より鮮明かつカラーバランスの正しい画像が必要であることが判明したため、深層学習により水中画像の画質改善を実現する手法を新たに開発した。Neural ArchitectureSearch (NAS)を用いた手法を提案したところ既存手法を上回る性能を示した。成果は国際的に著名なACCV会議に採択され、発表した。

Strategy for Future Research Activity

2022年の港湾における実験の結果、実際の環境においては、水質が悪いことがほとんどであり透明度が著しく低く、アクティブ3次元センサの計測範囲が数メータ以内にとどまることが判明した。また、水中GPSセンサも水中構造物によるマルチパスやベースライン不足などのため不安定であることが判明した。
このため、2023年度は、音響センサ・ソナーを使用することで、水中ロボットのグローバルな位置や姿勢精度を向上・安定化させるアルゴリズムを開発する。さらに、音響センサの一つであるDVLセンサによる速度情報を用いて、これまで開発してきたアクティブ3次元センサの計測結果を安定して統合するアルゴリズムを開発する。具体的には、得られた個々の光切断法による3次元点群と、DVLやIMUで得られた位置姿勢、および音響ソナーで得られた初期形状の全てを用いて、バンドル調整により全体最適化する手法を開発する。
また、昨年度と同様、水中ロボットに3次元センサを設置して水中で形状計測するための実験を実施する。水中ロボットは、九州大にあるBlueRoboticsおよび、東京大学にあるTritonを対象として、九州大学のプールおよび東大巻研究室の管理する実験水槽または平塚・下田の海域試験場にて計測テストやアルゴリズムの検証、精度評価等を実施する。その際に、水中構造物や障害物を検知し、衝突を回避する経路探索る手法を開発する
それらの計測結果を基に、水中構造物の計測・検査システムの開発を行う。前年度に引き続き、現状の港湾構造物の見学や維持管理者との打ち合わせ、さらに現地でのテスト計測を実施し、水中構造物検査の課題を明らかにするとともに、具体的な検査システム開発を進める。

  • Research Products

    (38 results)

All 2023 2022 Other

All Journal Article (17 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 16 results,  Open Access: 6 results) Presentation (16 results) (of which Int'l Joint Research: 3 results,  Invited: 2 results) Book (1 results) Remarks (2 results) Patent(Industrial Property Rights) (2 results)

  • [Journal Article] AutoEnhancer: Transformer on U-Net Architecture Search for Underwater Image Enhancement2023

    • Author(s)
      Tang Yi、Iwaguchi Takafumi、Kawasaki Hiroshi、Sagawa Ryusuke、Furukawa Ryo
    • Journal Title

      The 16th Asian Conference on Computer Vision (ACCV)

      Volume: - Pages: 120~137

    • DOI

      10.1007/978-3-031-26313-2_8

  • [Journal Article] Surface Normal Estimation From Optimized and Distributed Light Sources Using DNN-Based Photometric Stereo2023

    • Author(s)
      Takafumi Iwaguchi, Hiroshi Kawasaki
    • Journal Title

      IEEE/CVF Winter Conference on Applications of Computer Vision (WACV)

      Volume: - Pages: 10 pages

    • DOI

      10.1109/WACV56688.2023.00039

    • Peer Reviewed / Open Access
  • [Journal Article] Auto-augmentation with Differentiable Renderer for High-frequency Shape Recovery2022

    • Author(s)
      Kodai Tokieda; Takafumi Iwaguchi; Hiroshi Kawasaki
    • Journal Title

      26th International Conference on Pattern Recognition (ICPR)

      Volume: - Pages: 7 pages

    • DOI

      10.1109/ICPR56361.2022.9956528

    • Peer Reviewed / Open Access
  • [Journal Article] Self-calibration of multiple-line-lasers based on coplanarity and Epipolar constraints for wide area shape scan using moving camera2022

    • Author(s)
      Genki Nagamatsu; Takaki Ikeda; Takafumi Iwaguchi; Diego Thomas; Jun Takamatsu; Hiroshi Kawasaki
    • Journal Title

      26th International Conference on Pattern Recognition (ICPR)

      Volume: - Pages: 7 pages

    • DOI

      10.1109/ICPR56361.2022.9956128

    • Peer Reviewed / Open Access
  • [Journal Article] 3D endoscope system with AR display superimposing dense and wide-angle-of-view 3D points obtained by using micro pattern projector2022

    • Author(s)
      Michihiro Mikamo, Ryo Furukawa1, Shiro Oka, Takahiro Kotachi, Yuki Okamoto, Shinji Tanaka, Ryusuke Sagawa, Hiroshi Kawasaki
    • Journal Title

      International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC)

      Volume: - Pages: 5 pages

    • DOI

      10.1109/EMBC48229.2022.9871060

    • Peer Reviewed / Open Access
  • [Journal Article] 微分可能レンダリングを用いたすりガラス越しの鏡面反射物体形状復元2022

    • Author(s)
      岩口 尭史, 久保 尋之, 川崎 洋
    • Journal Title

      第25回画像の認識・理解シンポジウム(MIRU2022)

      Volume: - Pages: 4 pages

    • Peer Reviewed
  • [Journal Article] Monocular dynamic SLAM using single-view depth estimation and multiple object tracking2022

    • Author(s)
      Hanwei Zhang, Hideaki Uchiyama, Shintaro Ono, Hiroshi Kawasaki
    • Journal Title

      第25回画像の認識・理解シンポジウム(MIRU2022)

      Volume: - Pages: 4 pages

    • Peer Reviewed
  • [Journal Article] Type-Aware Conversational Gesture Generation Using TED Gesture Libraries2022

    • Author(s)
      Hitoshi Teshima1,Naoki Wake,Diego Thomas,Yuta Nakashima,Hiroshi Kawasaki,Katsushi Ikeuchi
    • Journal Title

      第25回画像の認識・理解シンポジウム(MIRU2022)

      Volume: - Pages: 4 pages

    • Peer Reviewed
  • [Journal Article] Real-time Animatable Avatars with a Rigged Human Outer-shell2022

    • Author(s)
      Takumi KITAMURA, Diego THOMAS, Naoya IWAMOTO, Hiroshi KAWASAKI
    • Journal Title

      第25回画像の認識・理解シンポジウム(MIRU2022)

      Volume: - Pages: 4 pages

    • Peer Reviewed
  • [Journal Article] 能動ステレオ法における複数フレーム計測結果の全体最適化法2022

    • Author(s)
      古川 亮, 三鴨 道弘, 佐川 立昌, 川崎 洋
    • Journal Title

      第25回画像の認識・理解シンポジウム(MIRU2022)

      Volume: - Pages: 4 pages

    • Peer Reviewed
  • [Journal Article] ROBUST CALIBRATION-MARKER AND LASER-LINE DETECTION FOR UNDERWATER 3D SHAPE RECONSTRUCTION BY DEEP NEURAL NETWORK2022

    • Author(s)
      Hanbin Wang Takafumi Iwaguchi Hiroshi Kawasaki
    • Journal Title

      IEEE International Conference on Image Processing (ICIP2022)

      Volume: - Pages: 5 pages

    • DOI

      10.1109/ICIP46576.2022.9897733

    • Peer Reviewed
  • [Journal Article] MOTSLAM: MOT-assisted monocular dynamic SLAM using single-view depth estimation2022

    • Author(s)
      Hanwei Zhang, Hideaki Uchiyama, Shintaro Ono, Hiroshi Kawasaki
    • Journal Title

      IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS)

      Volume: - Pages: 8 pages

    • DOI

      10.1109/IROS47612.2022.9982280

    • Peer Reviewed
  • [Journal Article] Deep Gesture Generation for Social Robots Using Type-Specific Libraries2022

    • Author(s)
      Hitoshi Teshima, Naoki Wake, Diego Thomas, Yuta Nakashima, Hiroshi Kawasaki, Katsushi Ikeuchi
    • Journal Title

      IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS)

      Volume: - Pages: 6 pages

    • DOI

      10.1109/IROS47612.2022.9981734

    • Peer Reviewed
  • [Journal Article] Acquisition and Visualization of Micro-Vibration of a Sound Wave in 3D Space2022

    • Author(s)
      Ryusuke Sagawa, Yusuke Higuchi, Ryo Furukawa, Hiroshi Kawasaki
    • Journal Title

      Journal of Robotics and Mechatronics

      Volume: volume 34, No. 5 Pages: pp 1024--1032

    • DOI

      10.20965/jrm.2022.p1024

    • Peer Reviewed / Open Access
  • [Journal Article] Optimized depth fusion of multiple measurements by 3D endoscope based on active stereo technique2022

    • Author(s)
      Ryo Furukawa, Michihiro,Mikam ,Ryusuke Sagawa, Yuki Okamoto, Shiro Oka, Shinji Tanaka, Hiroshi Kawasaki
    • Journal Title

      The joint 16th AE-CAI, 9th CARE and 5th OR 2.0 workshop on MICCAI 2022

      Volume: - Pages: 14 pages

    • Peer Reviewed
  • [Journal Article] Simultaneous estimation of projector and camera poses for multiple oneshot scan using pixel-wise correspondences estimated by U-Nets and GCN2022

    • Author(s)
      Ryo Furukawa,Michihiro Mikamo,Hiroshi Kawasaki,Ryusuke Sagawa,Shiro Oka,Takahiro Kotachi,
    • Journal Title

      TCIV-Computer Methods in Biomechanics and Biomedical Engineering: Imaging & Visualization

      Volume: Volume 10, No. 5 Pages: pp 540-548

    • DOI

      10.1080/21681163.2022.2155578

    • Peer Reviewed / Open Access
  • [Journal Article] Establishment of line-of-sight optical links between autonomous underwater vehicles: Field experiment and performance validation2022

    • Author(s)
      Weng Yang、Matsuda Takumi、Sekimori Yuki、Pajarinen Joni、Peters Jan、Maki Toshihiro
    • Journal Title

      Applied Ocean Research

      Volume: 129 Pages: 103385~103385

    • DOI

      10.1016/j.apor.2022.103385

    • Peer Reviewed / Int'l Joint Research
  • [Presentation] AutoEnhancer: Search a Transformer-based Network for Underwater Image Enhancement2023

    • Author(s)
      Tang Yi, Iwaguchi Takafumi, Kawasaki Hiroshi, Sagawa Ryusuke, Furukawa Ryo
    • Organizer
      IPSJ SIG-CVIM, Computer Vision and Image Media
  • [Presentation] 実在しない顔画像とその表情アニメーション生成のためのGANと微分可能レンダラーによる3D及びNeRFモデル生成2022

    • Author(s)
      白川 嵩大, Diego Thomas, 川崎 洋
    • Organizer
      情報処理学会コンピュータビジョンとイメージメディア研究会(CVIM)
  • [Presentation] Compact Representation of 3D Human Motion Sequence by Reinforced Soft Arg Max2022

    • Author(s)
      Sun Cheng,Diego Thomas,Hiroshi Kawasaki,Ryogo Ishikawa,Naoki Wake, Katsushi Ikeuch
    • Organizer
      第25回画像の認識・理解シンポジウム(MIRU2022)
  • [Presentation] 複数の十字平面レーザを用いた3次元計測システムの移動による広範囲計測とカメラ位置姿勢の最適化手法2022

    • Author(s)
      池田 貴希, 木原 優輝, 岩口 尭史, Diego Thomas, 高松 淳, 川崎 洋
    • Organizer
      第25回画像の認識・理解シンポジウム(MIRU2022)
  • [Presentation] データ拡張による投影パターン検出の安定化とMRF最適化による対応付の改善によるワンショット三次元形状計測の高精度化2022

    • Author(s)
      原田 寛大, 三鴨 道弘, 古川 亮, 佐川 立昌, 川崎 洋
    • Organizer
      第25回画像の認識・理解シンポジウム(MIRU2022)
  • [Presentation] 建築空間における人の存在が視覚的印象評価に与える影響VR 技術による評価研究2022

    • Author(s)
      遠矢海渡, Thomas Diego, 古賀 靖子, 岩口 尭史, 鍛冶静雄, 落合 啓之, 川崎 洋
    • Organizer
      第25回画像の認識・理解シンポジウム(MIRU2022)
  • [Presentation] マーカレス・モーションキャプチャと光学式モーションキャプチャ間のキャリブレーション手法2022

    • Author(s)
      白川 嵩大,手嶋 仁志,北村 卓弥,ディエゴ トマ,川崎 洋
    • Organizer
      第25回画像の認識・理解シンポジウム(MIRU2022)
  • [Presentation] Random Sequence Modulation of Multiple-Gate of Indirect ToF for Handling Multi-ToF-Camera Interference2022

    • Author(s)
      LUO WENBIN, Takafumi Iwaguchi, Hajime Nagahara, Ryusuke Sagawa, Hiroshi Kawasaki
    • Organizer
      第25回画像の認識・理解シンポジウム(MIRU2022)
  • [Presentation] 音響センサによる自己位置推定と音響ソナーによる3次元計測を用いた自律航行による水中SLAMシステム2022

    • Author(s)
      木原 優輝, 池田 貴希, Tang Yi, 岩口 尭史, Diego Thomas, 高松 淳, 川崎 洋
    • Organizer
      第25回画像の認識・理解シンポジウム(MIRU2022)
  • [Presentation] Deep Gesture Generation for Social Robots Using Type-Specific Libraries2022

    • Author(s)
      Hitoshi Teshima, Naoki Wake, Diego Thomas, Yuta Nakashima, Hiroshi Kawasaki, Katsushi Ikeuchi
    • Organizer
      情報処理学会コンピュータビジョンとイメージメディア研究会(CVIM)
  • [Presentation] 水中SLAMにおける音響ソナーセンサとDVLセンサ間の自己校正手法の提案2022

    • Author(s)
      木原 優輝 池田 貴希, Tang Yi, 岩口 尭史, Thomas Diego, 川崎 洋
    • Organizer
      情報処理学会コンピュータビジョンとイメージメディア研究会(CVIM)
  • [Presentation] 単眼カメラの動的SLAMを用いた運転環境の可視化2022

    • Author(s)
      張 ハンウェイ, 内山 英昭, 小野晋太郎, 川崎 洋
    • Organizer
      第20回ITSシンポジウム2022
  • [Presentation] 深度推定により算出した車間距離を用いた急ブレーキ検出2022

    • Author(s)
      張 ハンウェイ, 野口 遥平, 小野晋太郎, 川崎 洋
    • Organizer
      第20回ITSシンポジウム2022
  • [Presentation] Random Sequence Modulation of Multiple-Gate of Indirect ToF for Handling Multi-ToF-Camera Interference2022

    • Author(s)
      Luo Wenbin, Takafumi Iwaguchi, Hajime Nagahara, Ryusuke Sagawa, Hiroshi Kawasaki
    • Organizer
      第5回イメージセンサとイメージングシステムに関する国際ワークショップ(IWISS2022)
    • Int'l Joint Research
  • [Presentation] 3D Tracking of a Moving Target by an AUV with a Tilt-controlled Multibeam Imaging Sonar2022

    • Author(s)
      Chun S. and Maki T.
    • Organizer
      The 9th KAIST-SJTU-UTokyo Joint Academic Symposium
    • Int'l Joint Research / Invited
  • [Presentation] Autonomous platform systems for underwater observation - Light for the sea, adventures for the robots! -2022

    • Author(s)
      Maki T.
    • Organizer
      Deep Sea AUV Challenges 2022
    • Int'l Joint Research / Invited
  • [Book] 情報工学レクチャーテキスト 11 レクチャー マルチメディア 基礎からわかる音・画像・映像の情報処理2022

    • Author(s)
      川崎 洋, 柳井啓司, 佐川立昌, 森山 剛, 古川 亮
    • Total Pages
      232
    • Publisher
      数理工学社
  • [Remarks] 複数の十字平面レーザの自校正による水中アクティブ3次元計測手法

    • URL

      https://www.cvg.ait.kyushu-u.ac.jp/ja/research/Underwater_Laser_Calib_and_Reconst.html

  • [Remarks] 水中高密度3次元復元のためのDNNによるマーカーベースのキャリブレーション手法

    • URL

      https://www.cvg.ait.kyushu-u.ac.jp/ja/research/Underwater_AR_Calib.html

  • [Patent(Industrial Property Rights)] 3次元形状計測装置2022

    • Inventor(s)
      川崎洋, 古川亮, 長枝浩、他3名
    • Industrial Property Rights Holder
      川崎洋, 古川亮, 長枝浩、他3名
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      2022-111156
  • [Patent(Industrial Property Rights)] 測距装置及び測距方法2022

    • Inventor(s)
      ラ ブンヒン、岩口 尭史、長原 一、佐川 立昌, 川崎 洋
    • Industrial Property Rights Holder
      ラ ブンヒン、岩口 尭史、長原 一、佐川 立昌, 川崎 洋
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      2022-114866

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi