• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Study on improving the level of autonomy of locally operated endoscopic surgical assistant robots

Research Project

Project/Area Number 22H00589
Research Category

Grant-in-Aid for Scientific Research (A)

Allocation TypeSingle-year Grants
Section一般
Review Section Medium-sized Section 90:Biomedical engineering and related fields
Research InstitutionOsaka University

Principal Investigator

西川 敦  大阪大学, 大学院基礎工学研究科, 教授 (20283731)

Co-Investigator(Kenkyū-buntansha) 河合 俊和  大阪工業大学, ロボティクス&デザイン工学部, 教授 (90460766)
鈴木 寿  中央大学, 理工学部, 教授 (10206518)
西澤 祐吏  国立研究開発法人国立がん研究センター, 東病院, 医員 (50545001)
藤田 岳  神戸大学, 医学研究科, 准教授 (90533711)
Project Period (FY) 2022-04-01 – 2027-03-31
Project Status Granted (Fiscal Year 2024)
Budget Amount *help
¥42,640,000 (Direct Cost: ¥32,800,000、Indirect Cost: ¥9,840,000)
Fiscal Year 2025: ¥7,280,000 (Direct Cost: ¥5,600,000、Indirect Cost: ¥1,680,000)
Fiscal Year 2024: ¥5,850,000 (Direct Cost: ¥4,500,000、Indirect Cost: ¥1,350,000)
Fiscal Year 2023: ¥5,590,000 (Direct Cost: ¥4,300,000、Indirect Cost: ¥1,290,000)
Fiscal Year 2022: ¥17,810,000 (Direct Cost: ¥13,700,000、Indirect Cost: ¥4,110,000)
Keywords自律レベル / 手術支援ロボット / 内視鏡画像処理 / 内視鏡カメラ操作 / 臓器把持・牽引 / 経外耳道的内視鏡下耳科手術 / 深層学習 / トロリー問題 / ソロサージェリー
Outline of Research at the Start

手術支援ロボットの導入により、少ない医療スタッフでの内視鏡手術が可能になる一方で、通常の内視鏡手術よりも術者の作業負担はかえって増大する。この問題を解決するため、自動車の自動運転の研究と同様な「手術支援ロボットの自律制御」に関する議論が近年盛んになっている。本研究では、
(1)腹腔鏡手術における助手の臓器把持・牽引タスク
(2)内視鏡耳科手術における術者のカメラ操作タスク
に着目し、これらのタスクを自律的・持続的に達成する内視鏡手術支援ロボットを具現化する。この研究プロセスを通して、メディカルロボティクス分野の未踏課題である「手術支援ロボットの自律レベル向上の方法論」の確立を目指す。

Outline of Annual Research Achievements

(1) ロボット機構の設計と製作:腹腔鏡手術支援臓器把持・牽引ロボットについては、医学的機能と仕様を確認するための小型ステンレス機構を設計・外注試作した。耳科手術支援内視鏡保持ロボットに関しては、前試作機の課題(ロボットのセッティングの難しさ、患者肩部とロボット機構部の干渉の問題)を解決するべく、内視鏡ロボットの初期位置を決める画像認識手法の開発ならびに斜交関節を備えた新しい耳科用内視鏡マニピュレータの設計・試作を行い、これらの成果を順次学会発表した(国際会議2件、国内学会4件)。
(2) 内視鏡画像処理アルゴリズム開発:耳科手術支援内視鏡保持ロボットの自律制御ための基礎情報として、深層学習により最大2本の手術器具のセグメンテーションならびに器具先端位置検出を行う画像処理システムの開発とその評価を行い、1件の国内学会発表を行った。並行して、ステレオ内視鏡の利用に基づく腹腔鏡手術器具3次元位置決めのための産学共同研究も開始し、2件のニュースリリースを行った。
(3) 内視鏡下耳科手術における術者の内視鏡操作の画像解析:2台のカメラを用いて、手術タスク中の術者(ExpertとNovice)の内視鏡操作の様子を常時撮影し、これらの動画と内視鏡映像を徹底的に画像解析することで、ExpertとNoviceの内視鏡操作の違いを定量的に明らかにし、1件の国内学会発表を行った。
(4) 医学会総会(東京国際フォーラム)にて4日間の学術展示、国際学会CORLAS 2023にて(1)-(3)の2023年度前半までの成果を発表し、本研究の全体像を特に医療従事者向けに広く公開した。また、招待講演を通して、異分野の研究者・学生向けに本研究全体を広く紹介した。さらに、昨年度実施したトロリー問題の代数モデル化(術者の意思決定分布再現の土台)を検証するための対話システムのデモ動画をYouTubeに一般公開した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

2022年度実績報告書における「今後(2023年度)の研究の推進方策」は以下の通りであった。
(i) ロボット機構設計・製作:(a)腹腔鏡手術支援臓器把持・牽引ロボットについては、前試作機をベースに小型ステンレス機構を外注試作する。(b)耳科手術支援内視鏡保持ロボットに関しては、前試作機の課題(セッティング時の初期たわみの問題、患者肩部とロボット機構部の干渉の問題)を解決できる新たなロボット機構の設計・試作を行う。(ii)内視鏡画像処理アルゴリズム開発:(a)深層学習により最大2本の手術器具のセグメンテーションを行う内視鏡画像処理システムの構築に注力する。(b) ステレオ内視鏡システム-PC間のインタフェース設計・製作も新たに行う。(iii) 腹腔鏡手術・内視鏡下耳科手術における外科医の動作解析:複数台のカメラならびに各種計測機器を用いて、手術中の外科医の術具・内視鏡操作の様子を内視鏡映像とともに撮影・記録し、データベース化する。並行して、各種動画や計測データを徹底的に解析することで、ロボットに実装可能な外科医の操作スキルの抽出を試みる。
以上3点の実施計画に対する達成度(自己点検評価)は次の通りである。
(i)について:(a)(b)ともに当初の計画どおりの試作機を設計・製作できた。(ii)について:(a)(b)ともに当初の計画以上に進展した。具体的には、(a)最大2本の手術器具セグメンテーションのみならず器具先端検出とその評価まで達成することができた。(b)ステレオ内視鏡システム構築のみならず、同システムをベースにした産学共同研究を立ち上げることができた。(iii)について:ロボットに実装可能な操作スキル抽出までには至っていないが、その土台となるExpertとNoviceの内視鏡操作スキルを定量化することはできた。
以上より、総合して「おおむね順調に進展している」と自己評価する。

Strategy for Future Research Activity

手術支援ロボットの自律レベル向上のための(A)基盤ハードウェア・(B)基盤ソフトウェアの開発を当初の計画どおり引き続き推進するとともに、当初の計画以上に進展があった2つの研究課題(C)(D)にも注力する。
(A)経外耳道的内視鏡下耳科手術(TEES)用内視鏡保持ロボット試作機の開発:2023年度までの試作機を用いた医師評価実験より、臨床医は手技に応じた内視鏡レンズ上のピボット支点変更を行っていることが明らかになったことから、モータ配置角度を可変とする斜交軸の傘型機構および直交座標系の機構を新たに設計試作する。また、本ロボットを足でリーダーフォロワーやon/off操作するデバイスと、ロボットの円滑な設置のための位置姿勢を決める新たな保持アームを考案する。
(B)TEES用内視鏡ロボットの制御と術者の行動記録システム:2023年度に開発したロボット試作機と手術器具先端位置検出画像処理システムを組み合わせて、画像内での器具先端の動きにより手術中にロボット操作ならびにそれらの行動記録を同時に行えるシステムの構築を行う。
(C) 腹腔鏡手術器具の3次元位置決め:ステレオ内視鏡を用いて、手術器具を把持させたロボットに挿入孔を通して器具先端位置から目標位置へ3次元的に高精度で位置決めさせる新しいビジュアルフィードバック制御手法を開発する(産学共同研究)。
(D)トリアージ問題の代数モデル化と内視鏡カメラワーク問題への応用展開:これまでに構築したトロリー問題の代数モデルをベースにして、救急医療分野における医療従事者の究極の行動選択問題であるトリアージ問題をとりあげ、その代数モデル化を行うことで医師の行動選択の本質を詳細分析する。並行して、前年度に引き続き、手術中の術者の器具・内視鏡操作データを徹底的に解析する(知識の抽出を行う)ことで、本代数モデル化手法のカメラワーク問題への応用可能性を検証する。

Report

(3 results)
  • 2023 Annual Research Report
  • 2022 Comments on the Screening Results   Annual Research Report
  • Research Products

    (31 results)

All 2024 2023 2022 Other

All Journal Article (1 results) (of which Open Access: 1 results) Presentation (25 results) (of which Int'l Joint Research: 10 results,  Invited: 1 results) Remarks (5 results)

  • [Journal Article] 耳科手術支援ロボットの開発2023

    • Author(s)
      藤田岳, 上原奈津美, 山下俊彦, 西川敦, 河合俊和, 鈴木寿, 横井純, 柿木章伸, 丹生健一
    • Journal Title

      Nippon Jibiinkoka Tokeibugeka Gakkai Kaiho(Tokyo)

      Volume: 126 Issue: 3 Pages: 181-184

    • DOI

      10.3950/jibiinkotokeibu.126.3_181

    • ISSN
      2436-5793, 2436-5866
    • Year and Date
      2023-03-20
    • Related Report
      2022 Annual Research Report
    • Open Access
  • [Presentation] ロボットはヒト(外科医)にどこまで近づけるか~生体ゆらぎに学ぶ制御からキャリブレーション作業不要のビジュアルフィードバック制御まで~2024

    • Author(s)
      西川敦
    • Organizer
      応用物理学会 2023年度第2回 トータルバイオミメティクス研究会ワークショップ
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] Innovative Techniques for Improving Transcanal Endoscopic Ear Surgery: A Robotic System and Deep Learning-Based Surgical Tool Segmentation2023

    • Author(s)
      Takeshi Fujita, Atsushi Nishikawa, Toshikazu Kawai, Hisashi Suzuki, Natsumi Uehara, Toshihiko Yamashita, Akinobu Kakigi, Ken-ichi Nibu
    • Organizer
      CORLAS 2023, Collegium Oto-Rhino-Laryngologicum Amicitiae Sacrum 2023
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Image recognition of external auditory canal model for controlling ear endoscope robot2023

    • Author(s)
      Takumi Okuya, Toshikazu Kawai, Atsushi Nishikawa, Takeshi Fujita, Natsumi Uehara, Toshihiko Yamashita, Hisashi Suzuki
    • Organizer
      EMBC2023, 45th Annual International Conference of the IEEE Engineering in Medicine and Biology Society
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Endoscope manipulator with gimbals rotation and linear rail mechanism for transcanal endoscopic ear surgery2023

    • Author(s)
      Mikiya Izawa, Kenta Yokoyama, Toshikazu Kawai, Takeshi Fujita, Natsumi Uehara, Toshihiko Yamashita, Atsushi Nishikawa, Hisashi Suzuki
    • Organizer
      CARS2023, Computer Assisted Radiology and Surgery, 37th International Congress and Exhibition
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 内視鏡下耳科手術支援ロボット制御に向けた術者の姿勢・動作の画像解析2023

    • Author(s)
      西田周誠, 松居和寛, 厚海慶太, 藤田岳, 上原奈津美, 山下俊彦, 河合俊和, 鈴木寿, 谷口和弘, 平井宏明, 西川敦
    • Organizer
      第32回日本コンピュータ外科学会大会
    • Related Report
      2023 Annual Research Report
  • [Presentation] ピボット点を切り替える斜交関節を備えた耳科用内視鏡マニピュレータ2023

    • Author(s)
      伊澤樹哉, 河合俊和, 藤田岳, 上原奈津美, 山下俊彦, 西川敦, 鈴木寿
    • Organizer
      第32回日本コンピュータ外科学会大会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 内視鏡下耳科手術支援ロボットの自律化に向けた深層学習を用いた複数手術器具検出2023

    • Author(s)
      丸川可南子, 松居和寛, 厚海慶太, 藤田岳, 上原奈津美, 山下俊彦, 河合俊和, 鈴木寿, 谷口和弘, 平井宏明, 西川敦
    • Organizer
      第32回日本コンピュータ外科学会大会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 外耳道に挿入する耳科内視鏡ロボットの初期位置を決める画像認識手法2023

    • Author(s)
      奥家拓海, 河合俊和, 西川敦, 藤田岳, 上原奈津美, 山下俊彦, 鈴木寿
    • Organizer
      第32回日本コンピュータ外科学会大会
    • Related Report
      2023 Annual Research Report
  • [Presentation] ピボット可動機構を有する内視鏡マニピュレータ2023

    • Author(s)
      伊澤樹哉, 河合俊和, 藤田岳, 上原奈津美, 山下俊彦, 西川敦, 鈴木寿
    • Organizer
      日本機械学会ロボティクス・メカトロニクス講演会2023
    • Related Report
      2023 Annual Research Report
  • [Presentation] 耳科内視鏡ロボットの制御に向けた外耳孔の画像認識2023

    • Author(s)
      奥家拓海, 河合俊和, 西川敦, 藤田岳, 上原奈津美, 山下俊彦, 鈴木寿
    • Organizer
      日本機械学会ロボティクス・メカトロニクス講演会2023
    • Related Report
      2023 Annual Research Report
  • [Presentation] Research on Robot-Assisted Transcanal Endoscopic Ear Surgery2023

    • Author(s)
      Takeshi Fujita, Atsushi Nishikawa, Toshikazu Kawai, Hisashi Suzuki, Natsumi Uehara, Toshihiko Yamashita, Akinobu Kakigi, Ken-ichi Nibu
    • Organizer
      The 15th Asia Oceania ORL-HNS Congress
    • Related Report
      2022 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Surgical Forceps Assistant Manipulator Equipped with Double Gimbals for Laparoscopic Surgery2023

    • Author(s)
      Kenta Yokoyama, Toshikazu Kawai, Yuji Nishizawa, Atsushi Nishikawa, Tatsuo Nakamura
    • Organizer
      2023 IEEE/SICE International Symposium on System Integrations (SII2023)
    • Related Report
      2022 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Research on Robot-Assisted Transcanal Endoscopic Ear Surgery -surgical instrument segmentation using deep learning-2022

    • Author(s)
      Takeshi Fujita, Atsushi Nishikawa, Toshikazu Kawai, Hisashi Suzuki, Natsumi Uehara, Toshihiko Yamashita, Akinobu Kakigi, Ken-ichi Nibu
    • Organizer
      The 4th World Congress on Endoscopic Ear Surgery (EES2022)
    • Related Report
      2022 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Research on robots for TEES and their control2022

    • Author(s)
      Takeshi Fujita, Atsushi Nishikawa, Toshikazu Kawai, Hisashi Suzuki, Natsumi Uehara, Toshihiko Yamashita, Akinobu Kakigi, Ken-ichi Nibu
    • Organizer
      The 4th World Congress on Endoscopic Ear Surgery (EES2022)
    • Related Report
      2022 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Surgical Instrument Segmentation Using Deep Learning for Robot-assisted Transcanal Endoscopic Ear Surgery2022

    • Author(s)
      Takuma Horinouchi, Kazuhiro Matsui, Keita Atsuumi, Takeshi Fujita, Natsumi Uehara, Toshihiko Yamashita, Toshikazu Kawai, Hisashi Suzuki, Yuji Nishizawa, Kazuhiro Taniguchi, Hiroaki Hirai, Atsushi Nishikawa
    • Organizer
      The 18th Asian Conference on Computer Aided Surgery (ACCAS2022)
    • Related Report
      2022 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Operating Interface for Surgical Assistant Robot Based on Orientation of Surgeon’s Forceps Recognized by RGB and Depth Images2022

    • Author(s)
      Yuma Mugitani, Toshikazu Kawai, Yuji Nishizawa, Atsushi Nishikawa, Tatsuo Nakamura
    • Organizer
      The 18th Asian Conference on Computer Aided Surgery (ACCAS2022)
    • Related Report
      2022 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Algebraic Modeling of Trolley Problems on a Boolean Multivalued Logic2022

    • Author(s)
      Jiaqi Peng, Rintaro Mizutani, Kujira Suzuki, Akira Midorikawa, Hisashi Suzuki
    • Organizer
      The 4th International Conference on Industrial Artificial Intelligence (IAI2022)
    • Related Report
      2022 Annual Research Report
    • Int'l Joint Research
  • [Presentation] 手術助手ロボット制御のための Mask R-CNN による鉗子シャフト認識システムの構築2022

    • Author(s)
      麦谷祐真, 河合俊和, 西川敦, 西澤祐吏, 中村達雄
    • Organizer
      第23回計測自動制御学会システムインテグレーション部門講演会
    • Related Report
      2022 Annual Research Report
  • [Presentation] 超音波モータと直流モータで構成するジンバル型耳科手術支援内視鏡マニピュレータ2022

    • Author(s)
      横山健太, 河合俊和, 西川敦, 藤田岳, 上原奈津美, 鈴木寿
    • Organizer
      第23回計測自動制御学会システムインテグレーション部門講演会
    • Related Report
      2022 Annual Research Report
  • [Presentation] 内視鏡下耳科手術を支援する内視鏡テレオペレーションシステム2022

    • Author(s)
      伊澤樹哉, 河合俊和, 岡田史香, 原継真, 藤田岳, 上原奈津美, 西川敦, 鈴木寿
    • Organizer
      第40回日本ロボット学会学術講演会
    • Related Report
      2022 Annual Research Report
  • [Presentation] 内視鏡下耳科手術支援ロボット制御のための深層学習を用いた手術器具セグメンテーション2022

    • Author(s)
      堀ノ内琢磨, 松居和寛, 厚海慶太, 藤田岳, 上原奈津美, 山下俊彦, 河合俊和, 鈴木寿, 谷口和弘, 平井宏明, 西川敦
    • Organizer
      第31回日本コンピュータ外科学会大会
    • Related Report
      2022 Annual Research Report
  • [Presentation] 外耳道内を直動する内視鏡テレオペレーションシステム2022

    • Author(s)
      伊澤樹哉, 河合俊和, 西川敦, 藤田岳, 上原奈津美, 鈴木寿
    • Organizer
      日本機械学会ロボティクス・メカトロニクス講演会2022
    • Related Report
      2022 Annual Research Report
  • [Presentation] 超音波モータとギアレス直流モータで構成する耳科手術支援内視鏡直動システム2022

    • Author(s)
      横山健太, 河合俊和, 西川敦, 藤田岳, 上原奈津美, 鈴木寿
    • Organizer
      日本機械学会ロボティクス・メカトロニクス講演会2022
    • Related Report
      2022 Annual Research Report
  • [Presentation] 鉗子シャフトの画像認識に基づく手術助手ロボットの操作インタフェース2022

    • Author(s)
      麦谷祐真, 河合俊和, 西川敦, 西澤祐吏, 中村達雄
    • Organizer
      日本機械学会ロボティクス・メカトロニクス講演会2022
    • Related Report
      2022 Annual Research Report
  • [Presentation] 耳科手術支援ロボットの開発2022

    • Author(s)
      藤田岳
    • Organizer
      第123回日本耳鼻咽喉科頭頸部外科学会 総会・学術講演会, シンポジウム6「次世代リーダーの育成」
    • Related Report
      2022 Annual Research Report
  • [Remarks] 大阪大学 大学院基礎工学研究科 機能創成専攻 機能デザイン領域 身体運動制御学グループ(西川研究室)

    • URL

      http://hmc.me.es.osaka-u.ac.jp/

    • Related Report
      2023 Annual Research Report 2022 Annual Research Report
  • [Remarks] 大阪工業大学 ロボティクス&デザイン工学部 ロボット工学科 医療ロボティクス研究室(河合研究室)

    • URL

      https://medicalrobotics.ninja-web.net/

    • Related Report
      2023 Annual Research Report 2022 Annual Research Report
  • [Remarks] 中央大学 理工学部 情報工学科 Cybernetics Laboratory (鈴木研究室)

    • URL

      https://sites.google.com/view/machinepsychology/

    • Related Report
      2023 Annual Research Report 2022 Annual Research Report
  • [Remarks] 大阪大学西川研究室とクルーボの医療応用の共同研究を開始しました。(チトセロボティクス)

    • URL

      https://chitose-robotics.com/archives/263710

    • Related Report
      2023 Annual Research Report
  • [Remarks] 【第1報】クルーボの医療応用(大阪大学西川研究室との共同研究)(チトセロボティクス)

    • URL

      https://chitose-robotics.com/archives/264315

    • Related Report
      2023 Annual Research Report

URL: 

Published: 2022-04-19   Modified: 2025-04-17  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi