• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2019 Fiscal Year Annual Research Report

AI-based Computer-Aided-Orthpaedic-Surgery Navigation System

Research Project

Project/Area Number 18F18377
Research InstitutionUniversity of Hyogo

Principal Investigator

小橋 昌司  兵庫県立大学, 工学研究科, 教授 (00332966)

Co-Investigator(Kenkyū-buntansha) HOSSAIN MD BELAYAT  兵庫県立大学, 工学(系)研究科(研究院), 外国人特別研究員
Project Period (FY) 2018-11-09 – 2021-03-31
Keywords手術支援 / 動画像解析 / 人工知能
Outline of Annual Research Achievements

本研究では術者視点で取得した人工膝関節置換術の手術映像からの手術手技工程の自動認識法として2つの手法を提案した.第1の提案手法は多クラス分類に基づいて手術手技工程を認識する方法である.第2の提案手法は,手技工程間の遷移を2クラス分類により検出することで,複数手術の手技工程を認識する手法である.
提案法1では,各手技をクラスとみなし,各フレーム画像から多クラス識別により,手技過程を認識する.識別法として,(提案法1a) Convolutional-LSTM networkに基づく手法,(提案法1b)提案法1aに正規順序性特徴量ベクトルTを導入した手法,(提案法1b) LSTMによる長期特徴量系列ベクトルに基づく手法を提案する.
提案法2では,各手技工程の進行時点を2クラス分類により検出する手法である.各進行時点の検出をTwo-class classification chain model (TCCM)により,検出モデルの切替を異常検知モデルにより行う.
提案手法を評価するため,術者が装着したスマートグラスにより術者視点で撮影された12例の手術映像を使用した.手術はZIMMER BIOMET社のインプラントおよび手術器具を用いた.手術手順書に従い,各映像に対して目視で11種類の手技工程の教師ラベル付けを行った.
多クラス分類に基づいた認識手法(提案法1)は59.9%の汎化精度であった.また,2クラス分類検出を用いた手技工程遷移による複数手技工程の認識法(提案法2)においてTCCMの汎化精度は83.1%,異常検知モデルの汎化結果は0.151 (MAE)であった.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

2つの手法を提案し,第1の手法においては59.9%とやや低い汎化精度であったが,2クラス分類検出を用いた手技工程遷移による複数手技工程の認識法(提案法2)においてTCCMの汎化精度は83.1%,異常検知モデルの汎化結果は0.151 (MAE)と向上できた.

Strategy for Future Research Activity

2つの手法を提案したが,データ数の増加,各モデルのパラメータ最適化を行うことで精度向上を行う.さらに,両手法を融合することで,異常検知モデルの精度改善を行う.さらに,他の有用な特徴量を用いたマルチモーダル学習を検討する.

  • Research Products

    (8 results)

All 2020 2019

All Journal Article (6 results) (of which Int'l Joint Research: 6 results,  Peer Reviewed: 6 results,  Open Access: 2 results) Presentation (2 results)

  • [Journal Article] Surgical Phase Recognition with Wearable Video Camera for Computer-aided Orthopaedic Surgery-AI Navigation System2020

    • Author(s)
      NISHIO Shoichi、HOSSAIN Belayat、NII Manabu、YAGI Naomi、HIRANAKA Takafumi、KOBASHI Syoji
    • Journal Title

      International Journal of Affective Engineering

      Volume: 19 Pages: 137~143

    • DOI

      10.5057/ijae.IJAE-D-19-00018

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] A deep learning approach for surgical instruments detection in Orthopaedic surgery videos using transfer learning2020

    • Author(s)
      Hossain Belayat、Nishio Shoichi、Takafumio Hiranaka、Kobashi Syoji
    • Journal Title

      Proc. SPIE 11315, Medical Imaging 2020: Image-Guided Procedures, Robotic Interventions, and Modeling, 113151M

      Volume: 1 Pages: 1-6

    • DOI

      https://doi.org/10.1117/12.2550670

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Surgical Phase Recognition Method with a Sequential Consistency for CAOS-AI Navigation System2020

    • Author(s)
      Nishio Shoichi、Hossain Belayat、Yagi Naomi、Nii Manabu、Hiranaka Takafumi、Kobashi Syoji
    • Journal Title

      2020 IEEE 2nd Global Conference on Life Sciences and Technologies (LifeTech)

      Volume: 1 Pages: 1-3

    • DOI

      10.1109/LifeTech48969.2020.1570619203

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Workflow Recognition from Knee Surgical Videos: Role of Deep Neural Networks2019

    • Author(s)
      NISHIO Shoichi、HOSSAIN Belayat、NII Manabu、HIRANAKA Takafumi、KOBASHI Syoji
    • Journal Title

      International Symposium on Affective Science and Engineering

      Volume: ISASE2019 Pages: 1~5

    • DOI

      https://doi.org/10.5057/isase.2019-C000028

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Computer-aided system for operating room nurses during knee surgery2019

    • Author(s)
      B. Hossain, S. Nishio, H. Takafumi, and S. Kobashi
    • Journal Title

      6th International Workshop on Advanced Computational Intelligence and Intelligent Informatics

      Volume: 1 Pages: 1-6

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Orthopedic surgery video analysis using object detection towards surgical procedure recognition2019

    • Author(s)
      S. Nishio, B. Hossain, N. Yagi, M. Nii, H. Takafumi, and S. Kobashi
    • Journal Title

      6th International Workshop on Advanced Computational Intelligence and Intelligent Informatics

      Volume: 1 Pages: 1-6

    • Peer Reviewed / Int'l Joint Research
  • [Presentation] Knee replacement surgery phase recognition with wearable camera2020

    • Author(s)
      S. Kobashi, S. Nishio, and B. Hossain
    • Organizer
      International Workshop on Advanced Image Technology 2020
  • [Presentation] スマートグラスを用いた整形外科手術ナビゲーションシステム" 日本医用画像工学会, 2019 久保有輝, "人工上腕骨頭設計のための統計的形状モデル構築2019

    • Author(s)
      西尾 祥一, Moazzem Hossain , 新居 学, 平中 崇文, 小橋 昌司
    • Organizer
      2019年度SOFT関西支部学生研究発表会

URL: 

Published: 2021-01-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi