• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Development of a logical thinking artificial intelligence model for medical imaging combining images and reports

Research Project

Project/Area Number 23K07150
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 52040:Radiological sciences-related
Research InstitutionHokkaido University

Principal Investigator

平田 健司  北海道大学, 医学研究院, 准教授 (30431365)

Co-Investigator(Kenkyū-buntansha) 小川 貴弘  北海道大学, 情報科学研究院, 教授 (20524028)
三宅 基隆  国立研究開発法人国立がん研究センター, 中央病院, 医長 (70544906)
Project Period (FY) 2023-04-01 – 2026-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
Fiscal Year 2025: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2024: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2023: ¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000)
KeywordsAI / FDG-PET/CT / レポート / 自然言語処理 / deep learning / deep neural network
Outline of Research at the Start

画像診断AIの発達は目覚ましいが、画像診断が対象とする多数の疾患をカバーするまでにはまだ時間がかかる。現在のAIは病態を考えるプロセスを省略して診断名に至るが、AIが放射線科医に追いつくためには、人間の思考プロセスを模倣して、現在のAIに欠くロジカルシンキング(論理的思考)を取り入れることが重要であろう。本研究では、放射線科医が画像診断を行うときと同様に、「どこに」「どのような」異常が「どのような患者に」存在するかを明らかにしてから統合診断するAIの構築を目指す。数万件のFDG-PET/CTの画像とレポートの組、ナショナル・データベース、画像と自然言語処理を融合する最新AI技術を利用する。

Outline of Annual Research Achievements

画像診断支援を目的とした人工知能(AI)は目覚ましい発展を続けている。多くの論文は特定の疾患の診断がAIによって実現できたことを成果としている一方で、日常診療における画像診断では、特定の疾患に限定されるのではなく、多臓器・多疾患をカバーする必要がある。現在の画像診断AI研究の主流は、画像を入力とし、病態を考えるプロセスをバイパスして診断に至る方式を取っており、この方法では各疾患に対応したAIを個別に開発する必要があるため、汎用的なAIの完成までに時間がかかる。本研究は、既存の戦略に対する新たなアプローチとして、人間の思考プロセスを模倣し既存のAIに欠くロジカルシンキング(論理的思考)を取り入れる。すなわち、医師が画像診断を行うときと同様に、異常所見の場所と性状に加えて、患者背景の情報を明らかにした上で、総合的に結論を出すAIの構築を目指す。この目的のため、多施設から得られる数万件のFDG-PET/CTの画像とレポートの組と、ナショナル・データベースであるJ-MIDの画像とレポートの組、そして画像解析と自然言語処理を融合するAI技術を使用する。
R5年度の主な成果は3つである。①異常所見を検出した後に解剖学的な部位を明らかにするための基盤技術となる非剛体変形アルゴリズムの開発と精度評価を行った。6パラメーターのアフィン変換および多パラメーターからなる変形場を用いる方法を評価し、一定の傾向を見出した。②本研究では異常所見の検出に正常例のみを学習に用いる予定であるため、normal database構築のために画像診断医が異常なしと診断した症例の抽出を開始した。③公開された画像診断レポートに対してlarge language model (LLM)を用いて主病変や転移の有無などの情報を抽出し、LLMやプロンプトを変化させた際の性能変化について検討し、一定の傾向を見出した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

【研究実績の概要】で述べたとおり、R5年度の主な成果は3つである。1つ目は、異常所見を検出した後に解剖学的な部位を明らかにするための基盤技術となる非剛体変形アルゴリズムの開発と精度評価を行った。異なる患者間のFDG-PET/CTに対して、6パラメーターのアフィン変換および多パラメーターからなるスプライン変形場を用いる方法を評価した。結果として、6パラメーターで安定した精度を得たため、男女ごと、年齢ごとに身体の各部位の糖代謝を比較し、その成果を欧州核医学会で報告した。2つ目は、本研究では異常所見の検出には正常例のみを学習に用いる予定であるため、そのために必要なnormal database構築のため、異常のない症例の抽出を開始した。抽出には画像診断医が作成したレポートを用いている。FDG-PET/CTのレポートで異常なしと診断された症例を選択し、そのレポートと画像の組を匿名化した上で集積している。R5年度は主機関においてこの作業を開始したが、今後は協力機関でも開始する予定である。3つ目は、公開された画像診断レポートに対してlarge language model (LLM)を用いて主病変の良悪性、リンパ節転移の有無、遠隔転移の有無、TNM分類、診断名等の情報を抽出し、LLMやプロンプトを変化させた際の性能変化について検討した。LLMにはChatGPT3.5、ChatGPT4、Google Bardを用いた。その結果、主病変に関する情報は高い精度で検出できたが、TNM分類はレポートに記載がないことも多く抽出に失敗することもあった。この成果は、画像診断レポートの構造化と2次利用に有用であると考えられたため、日本医学放射線学会北日本地方会で発表し、また北海道放射線医学に原著論文として報告した。

Strategy for Future Research Activity

R6年度は、【現在までの進捗状況】で述べたとおり、R5年度の3つの主な成果をそれぞれさらに発展させていくための研究を推進する予定である。1つ目として、異常所見を検出した後に解剖学的な部位を明らかにするための基盤技術となる非剛体変形アルゴリズムの開発と精度評価を行った。6パラメーターのアフィン変換および多パラメーターからなるスプライン変形場を用いる方法を評価し、これまでのところは6パラメーターで安定した結果を得たが、他パラメーターのほうがより柔軟な変形ができると考えられるため、R6年度は最適化関数を調整して多パラメーターによる変形の実現を目指す。また、解剖学的部位を特定するためにCTの臓器セグメンテーションモデルとして公開されているソフトウェア(Moose等)の使用を検討する。2つ目として、今回の研究では異常所見の検出には正常例のみを学習に用いる予定であるため、normal database構築を目指して異常のない症例の抽出を開始した。R5年度は主機関において症例集積、画像匿名化の作業を開始したが、R6年度は協力機関でも開始し、さらに症例数を増加させていく予定である。3つ目として、公開された画像診断レポートに対してlarge language model (LLM)を用いて主病変の良悪性、リンパ節転移の有無、遠隔転移の有無、TNM分類、診断名等の情報を抽出し、LLMやプロンプトを変化させた際の性能変化について検討した。公開されたレポートを用いた理由は、LLMがクラウドベースでありセキュアな環境であることが保証されていないためである。そこでローカルでも使用可能な国産のELYZA等の公開モデルを用いて、実レポートから同様の方法で情報抽出していく予定である。これらに加えて、各施設のレポートから異常所見を表す用語に対するアノテーション作業をR6年度も実施していく。

Report

(1 results)
  • 2023 Research-status Report
  • Research Products

    (5 results)

All 2024 2023

All Journal Article (2 results) (of which Peer Reviewed: 2 results,  Open Access: 1 results) Presentation (3 results) (of which Int'l Joint Research: 1 results)

  • [Journal Article] 大規模言語モデルを用いた読影レポートからの情報抽出:ChatGPT3.5、ChatGPT4 および Google Bard の比較2024

    • Author(s)
      土橋大樹,平田健司,渡邊史郎,竹中淳規,若林直人,木村理奈,工藤與亮
    • Journal Title

      北海道放射線医学雑誌 第 4 巻

      Volume: 4 Pages: 7-12

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] From FDG and beyond: the evolving potential of nuclear medicine2023

    • Author(s)
      Hirata Kenji、Kamagata Koji、Ueda Daiju、Yanagawa Masahiro、Kawamura Mariko、Nakaura Takeshi、Ito Rintaro、Tatsugami Fuminari、Matsui Yusuke、Yamada Akira、Fushimi Yasutaka、Nozaki Taiki、Fujita Shohei、Fujioka Tomoyuki、Tsuboyama Takahiro、Fujima Noriyuki、Naganawa Shinji
    • Journal Title

      Annals of Nuclear Medicine

      Volume: 37 Issue: 11 Pages: 583-595

    • DOI

      10.1007/s12149-023-01865-6

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Presentation] Non-rigid anatomical standardization of whole-body PET/CT identifies variation of FDG distribution with age and sex: an AI-assisted study2023

    • Author(s)
      Kenji Hirata, Shiro Watanabe, Junki Takenaka, Naoto Wakabayashi, Rina Kimura, Toshiyuki Nagai, Takahiro Ogawa, Kohsuke Kudo
    • Organizer
      36th Annual Congress of the European Association of Nuclear Medicine
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] MIP類似アルゴリズムによるFDG-PET体表画像の有用性2023

    • Author(s)
      平田健司、木村理奈、唐明輝、渡邊史郎、竹中淳規、若林直人、杉森博行、吉村高明、工藤與亮
    • Organizer
      第63回日本核医学会学術総会
    • Related Report
      2023 Research-status Report
  • [Presentation] ChatGPTによる読影レポートからの情報抽出の初期検討2023

    • Author(s)
      土橋大樹,平田健司,渡邊史郎,竹中淳規,若林直人,木村理奈,工藤與亮
    • Organizer
      第148回日本医学放射線学会北日本地方会
    • Related Report
      2023 Research-status Report

URL: 

Published: 2023-04-13   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi