• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2023 年度 実施状況報告書

医用自然言語処理における大規模言語モデルの応用

研究課題

研究課題/領域番号 23KK0148
研究機関神戸大学

研究代表者

西尾 瑞穂  神戸大学, 未来医工学研究開発センター, 特命講師 (50581998)

研究分担者 藤本 晃司  京都大学, 医学研究科, 特定准教授 (10580110)
松尾 秀俊  神戸大学, 医学部附属病院, 助教 (20878251)
研究期間 (年度) 2023-09-08 – 2026-03-31
キーワード深層学習 / 自然言語処理 / 放射線診断学 / レポート / summarization
研究実績の概要

今年度、JMIDと呼ばれる日本医学放射線学会が管理・運用するデータベースを利用できた。JMIDのデータベースから100万件以上の放射線診断レポートを収集し、そのレポートから文章に関する深層学習のtransformerのモデルを作成した。作成したモデルでは、レポートの所見欄から診断欄を自動生成が可能となった。このモデルを評価し、その結果が査読付き英文誌に掲載された。また、transformer・大規模言語モデルの一つであるChatGPTを使って、レポートから肺癌のTNM分類を推定するモデルの作成も行い、NTCIR17でconference paperとして発表した。

胸部単純レントゲン写真からレポートの文章を直接に自動生成するシステムを作成した。作成したモデルはtransformerをベースにしたVision and Languageのモデルで、事前学習済みのtransformerをfine tuningすることでレポートの生成が可能となった。今年度は英語のレポートのみを対象とし、英語の文章としては問題のないレポートが生成出来た。上記に加えて、レポートの文章や医療画像に関する深層学習のモデルを作り、複数の論文が査読付き英文誌に掲載された。

上記の業績の一部はスイスのチューリッヒ大学との国際経共同研究の成果であった。2024年4月からは分担研究者の一人がチューリッヒ大学に留学し、数か月間チューリッヒ大学で共同研究をする予定である。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

進捗として、主に(i)放射線診断レポートについての自然言語処理の研究、(ii)チューリッヒ大学との国際共同研究の結果が論文などに掲載されたこと、(iii)2024年4月から分担研究者がチューリッヒ大学での留学を開始したこと、の三つがあった。これらの点から研究はおおむね順調に進展していると考えられる。

今後の研究の推進方策

transformerベースの大規模言語モデルの放射線医学への応用について、チューリッヒ大学との国際共同研究を進める。2024年度は分担研究者が留学しているため、進捗が期待できる。

次年度使用額が生じた理由

想定よりも、ワークステーションのGPUの費用を抑えることが出来たため。

備考

業績のうちNTCIR-17のconference paperにはDOIがあるが、入力すると科研費のシステムでエラーが出る。

NTCIR-17のconference paperのDOIは次の二つである。10.20736/0002001283、10.20736/0002001299

  • 研究成果

    (9件)

すべて 2024 2023 その他

すべて 国際共同研究 (1件) 雑誌論文 (8件) (うち国際共著 2件、 査読あり 8件、 オープンアクセス 6件)

  • [国際共同研究] University of Zurich/Dalle Molle Institute(スイス)

    • 国名
      スイス
    • 外国機関名
      University of Zurich/Dalle Molle Institute
  • [雑誌論文] Stromal area differences with epithelial-mesenchymal transition gene changes in conjunctival and orbital mucosa-associated lymphoid tissue lymphoma2024

    • 著者名/発表者名
      Tagami Mizuki、Kasashima Hiroaki、Kakehashi Anna、Yoshikawa Atsuko、Nishio Mizuho、Misawa Norihiko、Sakai Atsushi、Wanibuchi Hideki、Yashiro Masakazu、Azumi Atsushi、Honda Shigeru
    • 雑誌名

      Frontiers in Oncology

      巻: 14 ページ: -

    • DOI

      10.3389/fonc.2024.1277749

    • 査読あり / オープンアクセス
  • [雑誌論文] Development of Pericardial Fat Count Images Using a Combination of Three Different Deep-Learning Models: Image Translation Model From Chest Radiograph Image to Projection Image of Three-Dimensional Computed Tomography2024

    • 著者名/発表者名
      Matsunaga Takaaki、Kono Atsushi、Matsuo Hidetoshi、Kitagawa Kaoru、Nishio Mizuho、Hashimura Hiromi、Izawa Yu、Toba Takayoshi、Ishikawa Kazuki、Katsuki Akie、Ohmura Kazuyuki、Murakami Takamichi
    • 雑誌名

      Academic Radiology

      巻: 31 ページ: 822~829

    • DOI

      10.1016/j.acra.2023.09.014

    • 査読あり
  • [雑誌論文] Fully automatic summarization of radiology reports using natural language processing with large language models2024

    • 著者名/発表者名
      Nishio Mizuho、Matsunaga Takaaki、Matsuo Hidetoshi、Nogami Munenobu、Kurata Yasuhisa、Fujimoto Koji、Sugiyama Osamu、Akashi Toshiaki、Aoki Shigeki、Murakami Takamichi
    • 雑誌名

      Informatics in Medicine Unlocked

      巻: 46 ページ: 101465~101465

    • DOI

      10.1016/j.imu.2024.101465

    • 査読あり / オープンアクセス
  • [雑誌論文] Comparison between pystan and numpyro in Bayesian item response theory: evaluation of agreement of estimated latent parameters and sampling performance2023

    • 著者名/発表者名
      Nishio Mizuho、Ota Eiji、Matsuo Hidetoshi、Matsunaga Takaaki、Miyazaki Aki、Murakami Takamichi
    • 雑誌名

      PeerJ Computer Science

      巻: 9 ページ: e1620~e1620

    • DOI

      10.7717/peerj-cs.1620

    • 査読あり / オープンアクセス
  • [雑誌論文] Computer-aided diagnosis of chest X-ray for COVID-19 diagnosis in external validation study by radiologists with and without deep learning system2023

    • 著者名/発表者名
      Miyazaki Aki、Ikejima Kengo、Nishio Mizuho、Yabuta Minoru、Matsuo Hidetoshi、Onoue Koji、Matsunaga Takaaki、Nishioka Eiko、Kono Atsushi、Yamada Daisuke、Oba Ken、Ishikura Reiichi、Murakami Takamichi
    • 雑誌名

      Scientific Reports

      巻: 13 ページ: -

    • DOI

      10.1038/s41598-023-44818-9

    • 査読あり / オープンアクセス
  • [雑誌論文] Nodal infiltration in endometrial cancer: a prediction model using best subset regression2023

    • 著者名/発表者名
      Matsumoto Yuka Kuriyama、Himoto Yuki、Nishio Mizuho、Kikkawa Nao、Otani Satoshi、Ito Kimiteru、Yamanoi Koji、Kato Tomoyasu、Fujimoto Koji、Kurata Yasuhisa、Moribata Yusaku、Yoshida Hiroshi、Minamiguchi Sachiko、Mandai Masaki、Kido Aki、Nakamoto Yuji
    • 雑誌名

      European Radiology

      巻: 0 ページ: -

    • DOI

      10.1007/s00330-023-10310-1

    • 査読あり
  • [雑誌論文] Zero-shot classification of TNM staging for Japanese radiology report using ChatGPT at RR-TNM subtask of NTCIR-17 MedNLP-SC2023

    • 著者名/発表者名
      Mizuho Nishio, Hidetoshi Matsuo, Takaaki Matsunaga, Koji Fujimoto, Morteza Rohanian, Farhad Nooralahzadeh, Fabio Rinaldi, Michael Krauthammer
    • 雑誌名

      Proceedings of NTCIR-17

      巻: 0 ページ: 155~162

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Classification of cancer TNM stage from Japanese radiology report using on-premise LLM at NTCIR-17 MedNLP-SC RR-TNM subtask2023

    • 著者名/発表者名
      Koji Fujimoto, Mizuho Nishio, Chikako Tanaka, Morteza Rohanian, Farhad Nooralahzadeh, Michael Krauthammer, Fabio Rinaldi
    • 雑誌名

      Proceedings of NTCIR-17

      巻: 0 ページ: 200~207

    • 査読あり / オープンアクセス / 国際共著

URL: 

公開日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi