• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

医用自然言語処理における大規模言語モデルの応用

研究課題

研究課題/領域番号 23KK0148
研究種目

国際共同研究加速基金(海外連携研究)

配分区分基金
審査区分 中区分52:内科学一般およびその関連分野
研究機関神戸大学

研究代表者

西尾 瑞穂  神戸大学, 未来医工学研究開発センター, 特命講師 (50581998)

研究分担者 藤本 晃司  京都大学, 医学研究科, 特定准教授 (10580110)
松尾 秀俊  神戸大学, 医学部附属病院, 助教 (20878251)
研究期間 (年度) 2023-09-08 – 2026-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
21,060千円 (直接経費: 16,200千円、間接経費: 4,860千円)
2025年度: 3,770千円 (直接経費: 2,900千円、間接経費: 870千円)
2024年度: 9,100千円 (直接経費: 7,000千円、間接経費: 2,100千円)
2023年度: 8,190千円 (直接経費: 6,300千円、間接経費: 1,890千円)
キーワード深層学習 / 自然言語処理 / 放射線診断学 / レポート / summarization / 大規模言語モデル / 医療情報
研究開始時の研究の概要

大規模自然言語モデル(LLM)は汎用性が高く、Zero shot learningやFew shot learningで多数のタスクに対応可能と言われ、今後の活用が期待される。本研究では、主に放射線医学領域で扱われるテキスト(読影レポート)および画像を対象として、(1)オンプレミス(ローカル環境)で動作するLLMを開発し、(2)医療AI分野における日本語の医療情報の処理性能を改善する基盤モデルの研究を行う。

研究実績の概要

今年度、JMIDと呼ばれる日本医学放射線学会が管理・運用するデータベースを利用できた。JMIDのデータベースから100万件以上の放射線診断レポートを収集し、そのレポートから文章に関する深層学習のtransformerのモデルを作成した。作成したモデルでは、レポートの所見欄から診断欄を自動生成が可能となった。このモデルを評価し、その結果が査読付き英文誌に掲載された。また、transformer・大規模言語モデルの一つであるChatGPTを使って、レポートから肺癌のTNM分類を推定するモデルの作成も行い、NTCIR17でconference paperとして発表した。

胸部単純レントゲン写真からレポートの文章を直接に自動生成するシステムを作成した。作成したモデルはtransformerをベースにしたVision and Languageのモデルで、事前学習済みのtransformerをfine tuningすることでレポートの生成が可能となった。今年度は英語のレポートのみを対象とし、英語の文章としては問題のないレポートが生成出来た。上記に加えて、レポートの文章や医療画像に関する深層学習のモデルを作り、複数の論文が査読付き英文誌に掲載された。

上記の業績の一部はスイスのチューリッヒ大学との国際経共同研究の成果であった。2024年4月からは分担研究者の一人がチューリッヒ大学に留学し、数か月間チューリッヒ大学で共同研究をする予定である。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

進捗として、主に(i)放射線診断レポートについての自然言語処理の研究、(ii)チューリッヒ大学との国際共同研究の結果が論文などに掲載されたこと、(iii)2024年4月から分担研究者がチューリッヒ大学での留学を開始したこと、の三つがあった。これらの点から研究はおおむね順調に進展していると考えられる。

今後の研究の推進方策

transformerベースの大規模言語モデルの放射線医学への応用について、チューリッヒ大学との国際共同研究を進める。2024年度は分担研究者が留学しているため、進捗が期待できる。

報告書

(1件)
  • 2023 実施状況報告書
  • 研究成果

    (9件)

すべて 2024 2023 その他

すべて 国際共同研究 (1件) 雑誌論文 (8件) (うち国際共著 2件、 査読あり 8件、 オープンアクセス 6件)

  • [国際共同研究] University of Zurich/Dalle Molle Institute(スイス)

    • 関連する報告書
      2023 実施状況報告書
  • [雑誌論文] Stromal area differences with epithelial-mesenchymal transition gene changes in conjunctival and orbital mucosa-associated lymphoid tissue lymphoma2024

    • 著者名/発表者名
      Tagami Mizuki、Kasashima Hiroaki、Kakehashi Anna、Yoshikawa Atsuko、Nishio Mizuho、Misawa Norihiko、Sakai Atsushi、Wanibuchi Hideki、Yashiro Masakazu、Azumi Atsushi、Honda Shigeru
    • 雑誌名

      Frontiers in Oncology

      巻: 14

    • DOI

      10.3389/fonc.2024.1277749

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Development of Pericardial Fat Count Images Using a Combination of Three Different Deep-Learning Models: Image Translation Model From Chest Radiograph Image to Projection Image of Three-Dimensional Computed Tomography2024

    • 著者名/発表者名
      Matsunaga Takaaki、Kono Atsushi、Matsuo Hidetoshi、Kitagawa Kaoru、Nishio Mizuho、Hashimura Hiromi、Izawa Yu、Toba Takayoshi、Ishikawa Kazuki、Katsuki Akie、Ohmura Kazuyuki、Murakami Takamichi
    • 雑誌名

      Academic Radiology

      巻: 31 号: 3 ページ: 822-829

    • DOI

      10.1016/j.acra.2023.09.014

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり
  • [雑誌論文] Fully automatic summarization of radiology reports using natural language processing with large language models2024

    • 著者名/発表者名
      Nishio Mizuho、Matsunaga Takaaki、Matsuo Hidetoshi、Nogami Munenobu、Kurata Yasuhisa、Fujimoto Koji、Sugiyama Osamu、Akashi Toshiaki、Aoki Shigeki、Murakami Takamichi
    • 雑誌名

      Informatics in Medicine Unlocked

      巻: 46 ページ: 101465-101465

    • DOI

      10.1016/j.imu.2024.101465

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Comparison between pystan and numpyro in Bayesian item response theory: evaluation of agreement of estimated latent parameters and sampling performance2023

    • 著者名/発表者名
      Nishio Mizuho、Ota Eiji、Matsuo Hidetoshi、Matsunaga Takaaki、Miyazaki Aki、Murakami Takamichi
    • 雑誌名

      PeerJ Computer Science

      巻: 9 ページ: e1620-e1620

    • DOI

      10.7717/peerj-cs.1620

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Computer-aided diagnosis of chest X-ray for COVID-19 diagnosis in external validation study by radiologists with and without deep learning system2023

    • 著者名/発表者名
      Miyazaki Aki、Ikejima Kengo、Nishio Mizuho、Yabuta Minoru、Matsuo Hidetoshi、Onoue Koji、Matsunaga Takaaki、Nishioka Eiko、Kono Atsushi、Yamada Daisuke、Oba Ken、Ishikura Reiichi、Murakami Takamichi
    • 雑誌名

      Scientific Reports

      巻: 13 号: 1

    • DOI

      10.1038/s41598-023-44818-9

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Nodal infiltration in endometrial cancer: a prediction model using best subset regression2023

    • 著者名/発表者名
      Matsumoto Yuka Kuriyama、Himoto Yuki、Nishio Mizuho、Kikkawa Nao、Otani Satoshi、Ito Kimiteru、Yamanoi Koji、Kato Tomoyasu、Fujimoto Koji、Kurata Yasuhisa、Moribata Yusaku、Yoshida Hiroshi、Minamiguchi Sachiko、Mandai Masaki、Kido Aki、Nakamoto Yuji
    • 雑誌名

      European Radiology

      巻: 0 号: 5 ページ: 3375-3384

    • DOI

      10.1007/s00330-023-10310-1

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり
  • [雑誌論文] Zero-shot classification of TNM staging for Japanese radiology report using ChatGPT at RR-TNM subtask of NTCIR-17 MedNLP-SC2023

    • 著者名/発表者名
      Mizuho Nishio, Hidetoshi Matsuo, Takaaki Matsunaga, Koji Fujimoto, Morteza Rohanian, Farhad Nooralahzadeh, Fabio Rinaldi, Michael Krauthammer
    • 雑誌名

      Proceedings of NTCIR-17

      巻: 0 ページ: 155-162

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Classification of cancer TNM stage from Japanese radiology report using on-premise LLM at NTCIR-17 MedNLP-SC RR-TNM subtask2023

    • 著者名/発表者名
      Koji Fujimoto, Mizuho Nishio, Chikako Tanaka, Morteza Rohanian, Farhad Nooralahzadeh, Michael Krauthammer, Fabio Rinaldi
    • 雑誌名

      Proceedings of NTCIR-17

      巻: 0 ページ: 200-207

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著

URL: 

公開日: 2023-09-12   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi