• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Annual Research Report

Development of underwater active 3D scanning techniques and analysis on underwater structures

Research Project

Project/Area Number 20H00611
Research InstitutionKyushu University

Principal Investigator

川崎 洋  九州大学, システム情報科学研究院, 教授 (80361393)

Co-Investigator(Kenkyū-buntansha) 佐川 立昌  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 研究チーム長 (30362627)
小池 賢太郎  鹿児島大学, 理工学域工学系, 助教 (30781992)
古川 亮  広島市立大学, 情報科学研究科, 准教授 (50295838)
巻 俊宏  東京大学, 生産技術研究所, 准教授 (50505451)
高松 淳  奈良先端科学技術大学院大学, 先端科学技術研究科, 准教授 (90510884)
Project Period (FY) 2020-04-01 – 2025-03-31
Keywordsアクティブ3次元計測 / 水中ROV / 水中AUV / 水中SLAM / 水中構造物計測
Outline of Annual Research Achievements

水中での形状計測や解析に対する関心が高まっていることから、本研究では、高密度・高精度に広範囲の水中の3次元形状を計測する手法を開発する。提案手法では、ROVやAUVなど水中ロボットに開発する計測装置を搭載し、移動しながら水中の3次元形状を取得し、これらを位置合わせすることで、GPSの使えない水中においても広範囲の形状を計測する。

具体的には、本研究を通して、水中3次元計測の課題である、①屈折の影響や光量の減衰やベースライン不足による精度低下、②電波が届かず見通しの悪い水中での自己位置推定の難しさ、さらに③複数の3次元形状を統合することや計測結果の解析の困難さの解消を目指す。

初年度は、上記課題を解消するため、主に水中アクティブ3次元センサの基礎アルゴリズム開発および検証実験を実施した。具体的には、水中では中心投影カメラモデルが成り立たないため、ライトフィールドによる補正手法や、大きな歪に対応した近似モデルの2つの手法による解決を実現した。また、プロジェクタの光量の減衰については、i)ラインレーザを用いる共面性復元を水中で使用するできるように変更するための理論構築および実装し実験した。これにより、従来のレーザ復元手法では、1本のラインレーザしか使用できなかったのに対し、共面性による本手法では、より多くのラインレーザを用いたグリッドパターンにより、高精度かつ高密度に3次元復元することができることを確認した。また、並行して、水中ロボットに3次元センサを設置して水中で広範囲の形状計測を実現するための水中ロボット開発やロボットに設置する3次元復元計測装置の開発、およびそれらを用いた実験を実施した。具体的にはROVに、現在開発を進めている水中3次元アクティブセンサを設置して、プールや港湾にて計測テストや精度評価を実施した。これら成果を査読付き会議へ投稿した他、九州大学から特許出願の予定である。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

本年度は、3つのテーマで研究開発を行った。
(A) フェイズマスクによるアクティブ3次元センサ開発:水中で計測をするためには、屈折の影響を解決する必要がある。そこで、屈折の影響を受けにくい、フェイズマスクを用いた3次元復元アルゴルズムを開発した。フェイズマスクは、投影パターンが距離に応じて変化するため、パターンの模様を識別するだけで、対象までの距離をキャリブレーション不要で獲得できる。ただし、パターンの模様や復元アルゴリズムは自明ではないため、これをEnd-to-endによる深層学習で推定した。成果は、国際的に著名なECCVにて採択され発表を行った。
(B)共面性に基づくアクティブ・ステレオ3次元復元アルゴリズムの開発:複数のラインレーザを同時に投影する場合、中心投影では無くなるが、水中であっても平面投影されたレーザは平らなままのため、共面性条件は保存される。この共面性条件を利用したアクティブ3次元復元アルゴリズムを水中に適用した。その際、従来とは異なり、カメラとレーザが同時に動くことから新たな定式化を行い、正しく形状復元できることを確認した。これら成果を査読付き国際会議へ投稿した。また、特許出願予定である。
(C)水槽でのSLAM開発:本手法を連続的に実施し、広い形状を取得する水中SLAMの開発を行った。具体的には、水中ロボットに3次元センサを設置し、水中での形状計測を実現するためのデバイス開発や制御アルゴリズムを開発し、実際に水槽及びプールにて計測実験を実施した。さらに、水中において得られた共面性復元結果を統合するため、初期位置推定アルゴリズムを開発した。具体的には、カメラを中心投影で近似し、水中画像にDirect Sparse Odometry(DSO)を適用した。その際、レーザを除去するため、深層学習によるマスク推定アルゴリズムを開発した。成果を国内会議で発表予定である。

Strategy for Future Research Activity

令和3(2021)年度は、主に前年度に開発した水中アクティブ3次元センサの精度向上や安定化および形状の統合を目指す。精度向上に関しては、使用するラインレーザの検出精度を深層学習により向上させることや、共面性復元後のユークリッドアップグレードを安定化させるための改善をソフトまたハードウェアにて実施する。また、フェイズマスクまたはライトフィールドプロジェクタによる復元の安定化も検討する。形状の統合に関しては、アクティブ3次元センサで得られたスパースな3次元復元結果を、複数フレーム連続して用いて統合するアルゴリズムを開発する。具体的には、前年度に得られたカメラの位置姿勢を用いて、複数形状を統合する手法を開発する。さらに統合した形状同士に矛盾がないように、カメラの位置姿勢や物体の微小位置を最適化するバンドル調整アルゴリズムを開発する。
また、並行して、水中ロボットに3次元センサを設置して水中で形状計測するための実験を実施する。水中ロボットは、奈良先端大学および九州大にあるBlueRoboticsおよび、東京大学にあるTritonを対象として、これらロボットに、研究代表者が開発を進める水中3次元センサを設置して、プールや実験水槽にて計測テストやアルゴリズムの検証、精度評価等を実施する。
さらに、水中構造物の検査システムの開発を継続して行う。前年度に引き続き、現状の港湾構造物の見学や維持管理者との打ち合わせ、さらに現地でのテスト計測を実施する。実験や打ち合わせを通して、水中構造物検査の課題を明らかにするとともに、具体的なシステム開発の計画を立てる。

  • Research Products

    (33 results)

All 2020 Other

All Int'l Joint Research (3 results) Journal Article (15 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 15 results,  Open Access: 5 results) Presentation (10 results) (of which Invited: 2 results) Book (1 results) Remarks (4 results)

  • [Int'l Joint Research] Rice大学/MIT/Microsoft(米国)

    • Country Name
      U.S.A.
    • Counterpart Institution
      Rice大学/MIT/Microsoft
  • [Int'l Joint Research] 北京大学(中国)

    • Country Name
      CHINA
    • Counterpart Institution
      北京大学
  • [Int'l Joint Research] アムステルダム大学(オランダ)

    • Country Name
      NETHERLANDS
    • Counterpart Institution
      アムステルダム大学
  • [Journal Article] Attention R-CNN for Accident Detection2020

    • Author(s)
      Trung-Nghia Le,Akihiro Sugimoto,Shintaro Ono,Hiroshi Kawasaki
    • Journal Title

      The 2020 IEEE Intelligent Vehicles Symposium (IV2020)

      Volume: - Pages: 8 pages

    • DOI

      10.1109/IV47402.2020.9304730

    • Peer Reviewed
  • [Journal Article] Fully Auto-calibrated Active-stereo-based 3D Endoscopic System using Correspondence Estimation with Graph Convolutional Network2020

    • Author(s)
      Ryo Furukawa1 , Shiro Oka2 , Takahiro Kotachi2 , Yuki Okamoto2 , Shinji Tanaka2 , Ryusuke Sagawa3 , and Hiroshi Kawasaki4
    • Journal Title

      IEEE Engineering in Medicine and Biology Society in conjunction with the 43rd Annual Conference of the Canadian Medical and Biological Engineering Society

      Volume: - Pages: pp.4357-4360

    • DOI

      10.1109/EMBC44109.2020.9176417

    • Peer Reviewed / Open Access
  • [Journal Article] PPG3D: Does 3D head tracking improve camera-based PPG estimation?2020

    • Author(s)
      Genki Nagamatsu1 , Ewa Magdalena Nowara2 , Amruta Pai2 , Ashok Veeraraghavan2 and Hiroshi Kawasaki1
    • Journal Title

      IEEE Engineering in Medicine and Biology Society in conjunction with the 43rd Annual Conference of the Canadian Medical and Biological Engineering Society

      Volume: - Pages: pp.1194-1197

    • DOI

      10.1109/EMBC44109.2020.9176065

    • Peer Reviewed / Open Access
  • [Journal Article] 3D IMAGING FOR THERMAL CAMERAS USING STRUCTURED LIGHT2020

    • Author(s)
      Jack Erdozain Jr.,Kazuto Ichimaru,Tomohiro Maeda,Hiroshi Kawasaki,Ramesh Raskar,Achuta Kadambi
    • Journal Title

      2020 IEEE International Conference on Image Processing(ICIP2020)

      Volume: - Pages: pp.2795-2799

    • DOI

      10.1109/ICIP40778.2020.9191297

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] 連続画像から取得した低ランク画像を利用した流し撮り画像合成2020

    • Author(s)
      三鴨道弘 , 川崎洋
    • Journal Title

      第23回画像の認識・理解シンポジウム(MIRU2020)

      Volume: - Pages: 4 pages

    • Peer Reviewed
  • [Journal Article] 屈折プロジェクションマッピングのためのオプティカル フローに基づく深層学習による投影パターン補正2020

    • Author(s)
      岩口 尭史,川崎 洋
    • Journal Title

      第23回画像の認識・理解シンポジウム(MIRU2020)

      Volume: - Pages: 4 pages

    • Peer Reviewed
  • [Journal Article] 符号化開口を鍵とする情報秘匿方式の基礎検討2020

    • Author(s)
      濱崎弘樹, 竹下真悟 , 川崎洋 , 長原一 , 小野智司
    • Journal Title

      第23回画像の認識・理解シンポジウム(MIRU2020)

      Volume: - Pages: 4 pages

    • Peer Reviewed
  • [Journal Article] 時空間レーザースペックルパターンの低次元埋め込みによる物体表面の微小運動の推定2020

    • Author(s)
      樋口雄介 , 古川亮 , 川崎洋 , 佐川立昌
    • Journal Title

      第23回画像の認識・理解シンポジウム(MIRU2020)

      Volume: - Pages: 4 pages

    • Peer Reviewed
  • [Journal Article] FreeCam3D: Snapshot Structured Light 3D with Freely-Moving Cameras2020

    • Author(s)
      Yicheng Wu1 , Vivek Boominathan1 , Xuan Zhao1 , Jacob T. Robinson1 , Hiroshi Kawasaki2 , Aswin Sankaranarayanan3 , and Ashok Veeraraghavan1
    • Journal Title

      16TH EUROPEAN CONFERENCE ON COMPUTER VISION(ECCV2020)

      Volume: - Pages: 17 pages

    • DOI

      10.1007/978-3-030-58583-9_19

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Unsupervised 3D Human Pose Estimation in Multi-view-multi-pose Video2020

    • Author(s)
      Cheng Sun,Diego Thomas,Hiroshi Kawasaki
    • Journal Title

      25th International Conference on pattern recognition (ICPR2020)

      Volume: - Pages: 6 pages

    • Peer Reviewed
  • [Journal Article] Dense Pixel-wise Micro-motion Estimation of Object Surface by using Low Dimensional Embedding of Laser Speckle Pattern2020

    • Author(s)
      Ryusuke Sagawa, Yusuke Higuchi, Hiroshi Kawasaki, Ryo Furukawa, Takahiro Ito
    • Journal Title

      15th Asian conference on computer Vision (ACCV2020)

      Volume: - Pages: 16 pages

    • Peer Reviewed / Open Access
  • [Journal Article] High-Resolution Image Data Collection Scheme for Road Sensing Using Wide-Angle Cameras on General-Use Vehicle Criteria to Include/Exclude Collected Images for Super Resolution2020

    • Author(s)
      Teruhisa Takano, Shintaro Ono, Hiroshi Kawasaki, Katsushi Ikeuchi
    • Journal Title

      International Journal of Intelligent Transportation Systems Research

      Volume: - Pages: 13 pages

    • DOI

      10.1007/s13177-020-00243-0

    • Peer Reviewed / Open Access
  • [Journal Article] Self-calibration of multiple line lasers and a camera for underwater 3D shape reconstruction2020

    • Author(s)
      Genki Nagamatsu, Jun Takamatsu, Hiroshi Kawasaki
    • Journal Title

      The 27th International Workshop on Frontiers of Computer Vision (IW-FCV2021)

      Volume: - Pages: 16 pages

    • Peer Reviewed
  • [Journal Article] Focusing on Discrimination between Road Conditions and Weather in Driving Video Analysis2020

    • Author(s)
      Hanwei Zhang, Hiroshi Kawasaki, Tsunenori Mine, Shintaro Ono
    • Journal Title

      The 27th International Workshop on Frontiers of Computer Vision (IW-FCV2021)

      Volume: - Pages: 12 pages

    • Peer Reviewed
  • [Journal Article] GCN-Calculated Graph-Feature Embedding for 3D Endoscopic System based on Active Stereo2020

    • Author(s)
      Michihiro Mikamo, Hiroshi Kawasaki, Ryusuke Sagawa, Ryo Furukawa
    • Journal Title

      The 27th International Workshop on Frontiers of Computer Vision (IW-FCV2021)

      Volume: - Pages: 14 pages

    • Peer Reviewed
  • [Presentation] Extreme 3D センシング2020

    • Author(s)
      川崎洋
    • Organizer
      第26回画像センシングシンポジウム
    • Invited
  • [Presentation] Auto-calibrated 3D endoscope with GCN-based correspondence search2020

    • Author(s)
      Ryo Furukawa,Shiro Oka,Takahiro Kotachi,Yuki Okamoto,Shinji Tanaka,Hiroshi Kawasaki
    • Organizer
      第23回画像の認識・理解シンポジウム(MIRU2020)
  • [Presentation] PPG3D : 頭部の3次元追跡によるカメラを用いたPPG推定の精度向上2020

    • Author(s)
      永松元気 , Ewa Magdalena Nowara, Amruta Pai, Ashok Veeraraghavan , 川崎洋
    • Organizer
      第23回画像の認識・理解シンポジウム(MIRU2020)
  • [Presentation] ドライブレコーダー画像からの路面の異常事象検出に関する研究2020

    • Author(s)
      中村奨, Zhang Hanwei, 峯恒憲 , 小野晋太郎 , 川崎洋
    • Organizer
      第23回画像の認識・理解シンポジウム(MIRU2020)
  • [Presentation] 高速・小型・高精度・水中など極端環境における3次元計測の課題 -アクティブ光源による解決レシピ-2020

    • Author(s)
      川崎 洋,古川 亮
    • Organizer
      精密工学会画像応用技術専門委員会 2020年度第3回定例研究会
    • Invited
  • [Presentation] Analysis and Classification of Gestures in TED Talks2020

    • Author(s)
      Hitoshi TESHIMA, Naoki WAKE, Diego THOMAS, Yuta NAKASHIMA, Hiroshi KAWASAKI , Katsushi IKEUCHI
    • Organizer
      パターン認識・メディア理解研究会 (PRMU)2020, Vol.120 , No.187
  • [Presentation] ドライブレコーダーデータから深層学習により推定した天候情報を用いた急ブレーキ推定2020

    • Author(s)
      張ハンウェイ, 佐藤祐大, 川崎洋, 峯恒憲, 小野晋太郎
    • Organizer
      第18回ITSシンポジウム2020
  • [Presentation] 深層学習による車載カメラ映像の半自動ラベル付けと交通事故シーンの認識2020

    • Author(s)
      レ チュンギア, 小野晋太郎, 杉本晃宏, 川崎洋
    • Organizer
      第18回ITSシンポジウム2020
  • [Presentation] バックワードプローブによる交通状態推定のための 対向観測手法の検討2020

    • Author(s)
      河合 克哉, 竹之内 篤, 桑原 雅夫, 佐藤 祐大, 張 涵王韋, 峯 恒憲, 川崎 洋, 小野 晋太郎
    • Organizer
      第18回ITSシンポジウム2020
  • [Presentation] 符号化開口を鍵とする情報秘匿方式の基礎検討2020

    • Author(s)
      水俣友希, 石田祥馬, 濱崎弘樹, 川崎洋, 長原一, 小野智司
    • Organizer
      情報処理学会 第83回全国大会
  • [Book] Active Lighting and Its Application for Computer Vision - 40 Years of History of Active Lighting Techniques -2020

    • Author(s)
      Katsushi IkeuchiYasuyuki MatsushitaRyusuke SagawaHiroshi KawasakiYasuhiro MukaigawaRyo FurukawaDaisuke Miyazaki
    • Total Pages
      303
    • Publisher
      springer
    • ISBN
      978-3-030-56577-0
  • [Remarks] ライトフィールドカメラによる屈折フリー画像生成

    • URL

      http://www.cvg.ait.kyushu-u.ac.jp/ja/research/lytro_refraction_undist.html

  • [Remarks] 水中におけるMulti-scaleCNNを用いたパターン投影ステレオ

    • URL

      http://www.cvg.ait.kyushu-u.ac.jp/ja/research/underwater_projectedpatternstereo.html

  • [Remarks] ジオメトリ設定を一般化した水中Structure-from-Motionの研究

    • URL

      http://www.cvg.ait.kyushu-u.ac.jp/ja/research/uncalibrated_sfm_underwater.html

  • [Remarks] 時空間レーザースペックルパターンの低次元埋め込みによる物体表面の微小運動の推定

    • URL

      http://www.cvg.ait.kyushu-u.ac.jp/ja/research/speckle2020.html

URL: 

Published: 2022-03-04  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi