診断に特化したBERTファインチューニングモデルの開発

• 研究課題/領域番号: 23K11315
• 研究種目: 基盤研究(C)
• 配分区分: 基金
• 応募区分: 一般
• 審査区分: 小区分62010:生命、健康および医療情報学関連
• 研究機関: 千葉大学
• 研究代表者: 横川 大樹 千葉大学, 医学部附属病院, 特任助教 (80779869)
• 研究分担者: 野村 行弘 千葉大学, フロンティア医工学センター, 准教授 (60436491)
• 研究期間 (年度): 2023-04-01 – 2026-03-31
• 研究課題ステータス: 交付 (2023年度)
• 配分額: 4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円); 2025年度: 650千円 (直接経費: 500千円、間接経費: 150千円); 2024年度: 650千円 (直接経費: 500千円、間接経費: 150千円); 2023年度: 3,380千円 (直接経費: 2,600千円、間接経費: 780千円)
• キーワード: BERT / 医中誌 / ファインチューニング / 診断

研究開始時の研究の概要

自然言語処理技術の発展は目覚ましいですが、疾病の診断を自動で行うシステムの開発は未だ発展途上です。自然言語処理モデルであるBERTは、事前学習モデルのファインチューニングによって、特定の目的に特化した言語モデルを構築できます。
この研究では日本語医学学術文献データベースである医中誌Webの180万件の抄録テキストデータを用いたてBERT事前学習モデル（医中誌BERT）を作成します。次に診療録と診断名のデータセットを用いてファインチューニングし、診断に特化したBERTモデル（診断BERT）を作成します。本研究によって病歴に基づいて駆動する自動診断システムや診断支援システムの開発の助けになります。