• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Application of large language models to medical natural language processing

Research Project

Project/Area Number 23KK0148
Research Category

Fund for the Promotion of Joint International Research (International Collaborative Research)

Allocation TypeMulti-year Fund
Review Section Medium-sized Section 52:General internal medicine and related fields
Research InstitutionKobe University

Principal Investigator

西尾 瑞穂  神戸大学, 未来医工学研究開発センター, 特命講師 (50581998)

Co-Investigator(Kenkyū-buntansha) 藤本 晃司  京都大学, 医学研究科, 特定准教授 (10580110)
松尾 秀俊  神戸大学, 医学部附属病院, 助教 (20878251)
Project Period (FY) 2023-09-08 – 2026-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥21,060,000 (Direct Cost: ¥16,200,000、Indirect Cost: ¥4,860,000)
Fiscal Year 2025: ¥3,770,000 (Direct Cost: ¥2,900,000、Indirect Cost: ¥870,000)
Fiscal Year 2024: ¥9,100,000 (Direct Cost: ¥7,000,000、Indirect Cost: ¥2,100,000)
Fiscal Year 2023: ¥8,190,000 (Direct Cost: ¥6,300,000、Indirect Cost: ¥1,890,000)
Keywords深層学習 / 自然言語処理 / 放射線診断学 / レポート / summarization / 大規模言語モデル / 医療情報
Outline of Research at the Start

大規模自然言語モデル(LLM)は汎用性が高く、Zero shot learningやFew shot learningで多数のタスクに対応可能と言われ、今後の活用が期待される。本研究では、主に放射線医学領域で扱われるテキスト(読影レポート)および画像を対象として、(1)オンプレミス(ローカル環境)で動作するLLMを開発し、(2)医療AI分野における日本語の医療情報の処理性能を改善する基盤モデルの研究を行う。

Outline of Annual Research Achievements

今年度、JMIDと呼ばれる日本医学放射線学会が管理・運用するデータベースを利用できた。JMIDのデータベースから100万件以上の放射線診断レポートを収集し、そのレポートから文章に関する深層学習のtransformerのモデルを作成した。作成したモデルでは、レポートの所見欄から診断欄を自動生成が可能となった。このモデルを評価し、その結果が査読付き英文誌に掲載された。また、transformer・大規模言語モデルの一つであるChatGPTを使って、レポートから肺癌のTNM分類を推定するモデルの作成も行い、NTCIR17でconference paperとして発表した。

胸部単純レントゲン写真からレポートの文章を直接に自動生成するシステムを作成した。作成したモデルはtransformerをベースにしたVision and Languageのモデルで、事前学習済みのtransformerをfine tuningすることでレポートの生成が可能となった。今年度は英語のレポートのみを対象とし、英語の文章としては問題のないレポートが生成出来た。上記に加えて、レポートの文章や医療画像に関する深層学習のモデルを作り、複数の論文が査読付き英文誌に掲載された。

上記の業績の一部はスイスのチューリッヒ大学との国際経共同研究の成果であった。2024年4月からは分担研究者の一人がチューリッヒ大学に留学し、数か月間チューリッヒ大学で共同研究をする予定である。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

進捗として、主に(i)放射線診断レポートについての自然言語処理の研究、(ii)チューリッヒ大学との国際共同研究の結果が論文などに掲載されたこと、(iii)2024年4月から分担研究者がチューリッヒ大学での留学を開始したこと、の三つがあった。これらの点から研究はおおむね順調に進展していると考えられる。

Strategy for Future Research Activity

transformerベースの大規模言語モデルの放射線医学への応用について、チューリッヒ大学との国際共同研究を進める。2024年度は分担研究者が留学しているため、進捗が期待できる。

Report

(1 results)
  • 2023 Research-status Report
  • Research Products

    (9 results)

All 2024 2023 Other

All Int'l Joint Research (1 results) Journal Article (8 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 8 results,  Open Access: 6 results)

  • [Int'l Joint Research] University of Zurich/Dalle Molle Institute(スイス)

    • Related Report
      2023 Research-status Report
  • [Journal Article] Stromal area differences with epithelial-mesenchymal transition gene changes in conjunctival and orbital mucosa-associated lymphoid tissue lymphoma2024

    • Author(s)
      Tagami Mizuki、Kasashima Hiroaki、Kakehashi Anna、Yoshikawa Atsuko、Nishio Mizuho、Misawa Norihiko、Sakai Atsushi、Wanibuchi Hideki、Yashiro Masakazu、Azumi Atsushi、Honda Shigeru
    • Journal Title

      Frontiers in Oncology

      Volume: 14

    • DOI

      10.3389/fonc.2024.1277749

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Development of Pericardial Fat Count Images Using a Combination of Three Different Deep-Learning Models: Image Translation Model From Chest Radiograph Image to Projection Image of Three-Dimensional Computed Tomography2024

    • Author(s)
      Matsunaga Takaaki、Kono Atsushi、Matsuo Hidetoshi、Kitagawa Kaoru、Nishio Mizuho、Hashimura Hiromi、Izawa Yu、Toba Takayoshi、Ishikawa Kazuki、Katsuki Akie、Ohmura Kazuyuki、Murakami Takamichi
    • Journal Title

      Academic Radiology

      Volume: 31 Issue: 3 Pages: 822-829

    • DOI

      10.1016/j.acra.2023.09.014

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Journal Article] Fully automatic summarization of radiology reports using natural language processing with large language models2024

    • Author(s)
      Nishio Mizuho、Matsunaga Takaaki、Matsuo Hidetoshi、Nogami Munenobu、Kurata Yasuhisa、Fujimoto Koji、Sugiyama Osamu、Akashi Toshiaki、Aoki Shigeki、Murakami Takamichi
    • Journal Title

      Informatics in Medicine Unlocked

      Volume: 46 Pages: 101465-101465

    • DOI

      10.1016/j.imu.2024.101465

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Comparison between pystan and numpyro in Bayesian item response theory: evaluation of agreement of estimated latent parameters and sampling performance2023

    • Author(s)
      Nishio Mizuho、Ota Eiji、Matsuo Hidetoshi、Matsunaga Takaaki、Miyazaki Aki、Murakami Takamichi
    • Journal Title

      PeerJ Computer Science

      Volume: 9 Pages: e1620-e1620

    • DOI

      10.7717/peerj-cs.1620

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Computer-aided diagnosis of chest X-ray for COVID-19 diagnosis in external validation study by radiologists with and without deep learning system2023

    • Author(s)
      Miyazaki Aki、Ikejima Kengo、Nishio Mizuho、Yabuta Minoru、Matsuo Hidetoshi、Onoue Koji、Matsunaga Takaaki、Nishioka Eiko、Kono Atsushi、Yamada Daisuke、Oba Ken、Ishikura Reiichi、Murakami Takamichi
    • Journal Title

      Scientific Reports

      Volume: 13 Issue: 1

    • DOI

      10.1038/s41598-023-44818-9

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Nodal infiltration in endometrial cancer: a prediction model using best subset regression2023

    • Author(s)
      Matsumoto Yuka Kuriyama、Himoto Yuki、Nishio Mizuho、Kikkawa Nao、Otani Satoshi、Ito Kimiteru、Yamanoi Koji、Kato Tomoyasu、Fujimoto Koji、Kurata Yasuhisa、Moribata Yusaku、Yoshida Hiroshi、Minamiguchi Sachiko、Mandai Masaki、Kido Aki、Nakamoto Yuji
    • Journal Title

      European Radiology

      Volume: 0 Issue: 5 Pages: 3375-3384

    • DOI

      10.1007/s00330-023-10310-1

    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Journal Article] Zero-shot classification of TNM staging for Japanese radiology report using ChatGPT at RR-TNM subtask of NTCIR-17 MedNLP-SC2023

    • Author(s)
      Mizuho Nishio, Hidetoshi Matsuo, Takaaki Matsunaga, Koji Fujimoto, Morteza Rohanian, Farhad Nooralahzadeh, Fabio Rinaldi, Michael Krauthammer
    • Journal Title

      Proceedings of NTCIR-17

      Volume: 0 Pages: 155-162

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Classification of cancer TNM stage from Japanese radiology report using on-premise LLM at NTCIR-17 MedNLP-SC RR-TNM subtask2023

    • Author(s)
      Koji Fujimoto, Mizuho Nishio, Chikako Tanaka, Morteza Rohanian, Farhad Nooralahzadeh, Michael Krauthammer, Fabio Rinaldi
    • Journal Title

      Proceedings of NTCIR-17

      Volume: 0 Pages: 200-207

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access / Int'l Joint Research

URL: 

Published: 2023-09-12   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi