医療人工知能におけるブラックボックスの解明

2019 年度 実績報告書

• 研究課題/領域番号: 18H05301
• 配分区分: 補助金
• 研究機関: 国立研究開発法人理化学研究所
• 研究代表者: 山本 陽一朗 国立研究開発法人理化学研究所, 革新知能統合研究センター, チームリーダー (00573247)
• 研究分担者: 東條 有伸 東京大学, 医科学研究所, 教授 (00211681) ; 岡田 康志 国立研究開発法人理化学研究所, 生命機能科学研究センター, チームリーダー (50272430) ; 田宮 元 国立研究開発法人理化学研究所, 革新知能統合研究センター, チームリーダー (10317745) ; 赤塚 純 日本医科大学, 医学部, 助教 (20637863)
• 研究期間 (年度): 2018-06-29 – 2021-03-31
• キーワード: 医療人工知能 / 機械学習 / ブラックボックス / 説明可能性

研究実績の概要

本研究の目的は、人工知能（Artificial intelligence: AI）の真の医療応用を目指すために、現代AIの特徴であるディープラーニングによる医療データ分類時における医学的なブラックボックス性を克服することである。ディープラーニングは、精度の高い安定した手法として医療分野において浸透し始めている。しかしながら、医療AIの更なる発展に向けていくつかの課題も浮かび上がってきており、今後のAIに求められる重要な要素として説明可能性やその信頼性が注目を集めている。医療のように人命に直結する分野では、結果に対する説明可能性は必須であり、人工知能の真の医療応用を目指す上で、避けては通れない。
本年度は、前年度に構築した機械学習アルゴリズムの改良を行い、実検体の解析を行った。特に、アルゴリズムの汎用性を高める基礎的な研究として、白血病と合わせて固形がんに対する解析を行うなどの工夫を行い、高解像度の画像に対するオートエンコーダーの中間層を利用して人が理解できる画像情報を出力する技術を開発した。また、複数の異なる医用画像を組み合わせて説明可能なディープラーニング技術を適用することで、画像上の疾患の対象に対するディープラーニングと医師の着眼点の違いを明らかにすることができた。これらの基礎的な結果を考慮しながら、マルチモーダルデータに対するディープラーニングに関する解析法の改良を行い、白血病細胞の細胞画像の解析を行った。

現在までの達成度 (区分)

3: やや遅れている

理由

画像のセッティングの調整が長引き、やや遅れが生じている。一方でプログラムの改良については当初の予定よりも順調に進んでいる。

今後の研究の推進方策

新型コロナウイルス感染症対策の中で研究を効率良く進めていくため、研究分担者とWEB会議などを積極的に使い連携を取りながら研究を進める。また、研究の遅れが生じている部分については、必要に応じて幅広い検体（固形がんなど）の解析を合わせて行うなどの工夫をすることで研究を推進する。

研究成果

• [雑誌論文] Illuminating clues of cancer buried in prostate MR image: deep learning and expert approaches (2019)
  • 著者名/発表者名: Jun Akatsuka, Yoichiro Yamamoto, Tetsuro Sekine, Yasushi Numata, Hiromu Morikawa, Kotaro Tsutsumi, Masato Yanagi, Yuki Endo, Hayato Takeda, Tatsuro Hayashi, Masao Ueki, Gen Tamiya, Ichiro Maeda, Manabu Fukumoto, Akira Shimizu, Toyonori Tsuzuki, Go Kimura and Yukihiro Kondo
  • 雑誌名: Biomolecules 巻: 9(11) ページ: 673
  • DOI: 10.3390/biom9110673
  • 査読あり / オープンアクセス
• [雑誌論文] Automated acquisition of explainable knowledge from unannotated histopathology images (2019)
  • 著者名/発表者名: Yoichiro Yamamoto, Toyonori Tsuzuki, Jun Akatsuka, Masao Ueki, Hiromu Morikawa, Yasushi Numata, Taishi Takahara, Takuji Tsuyuki, Kotaro Tsutsumi, Ryuto Nakazawa, Akira Shimizu, Ichiro Maeda, Shinichi Tsuchiya, Hiroyuki Kanno, Yukihiro Kondo, Manabu Fukumoto, Gen Tamiya, Naonori Ueda and Go Kimura
  • 雑誌名: Nature Communications 巻: 10(1) ページ: 5642
  • DOI: 10.1038/s41467-019-13647-8
  • 査読あり / オープンアクセス
• [雑誌論文] 病理学における人工知能 (2019)
  • 著者名/発表者名: 山本陽一朗
  • 雑誌名: 診断病理 巻: 36 ページ: 73-78
  • 査読あり
• [雑誌論文] 病理学と人工知能～信頼されるAI技術へ (2019)
  • 著者名/発表者名: 山本陽一朗
  • 雑誌名: 実験医学 巻: 37 ページ: 2690-2695
• [学会発表] 医療AIの新たな可能性の探求 (2020)
  • 著者名/発表者名: 山本陽一朗
  • 学会等名: 愛媛大学プロテオサイエンスセンターPROSセミナー
  • 招待講演
• [学会発表] AIから見た、がん細胞～細胞画像に秘められた可能性の探求 (2019)
  • 著者名/発表者名: 山本陽一朗
  • 学会等名: 第16回日本乳癌学会関東地方会
  • 招待講演
• [学会発表] AIと細胞～細胞画像に秘められた可能性の探求 (2019)
  • 著者名/発表者名: 山本陽一朗
  • 学会等名: 第58回日本臨床細胞学会秋期大会
  • 招待講演
• [学会発表] AIから見た、がん細胞～細胞画像に秘められた可能性の探求 (2019)
  • 著者名/発表者名: 山本陽一朗
  • 学会等名: 第4回 がん研細胞検査士養成所教育セミナー
  • 招待講演
• [学会発表] How is AI recognizing cells? The uncharted values of cellular images (2019)
  • 著者名/発表者名: Yoichiro Yamamoto
  • 学会等名: The 78th Annual Meeting of the Japanese Cancer Association
  • 招待講演
• [学会発表] AI技術の基礎から現在と病理AIの最前線 (2019)
  • 著者名/発表者名: 山本陽一朗
  • 学会等名: 第18回日本デジタルパソロジー研究会浜松総会
  • 招待講演
• [学会発表] 人工知能と医療～AIからみた細胞像～ (2019)
  • 著者名/発表者名: 山本陽一朗
  • 学会等名: 第28 回日本交通医学工学研究会学術総会
  • 招待講演
• [学会発表] 人工知能と医療～AIからみた細胞像 (2019)
  • 著者名/発表者名: 山本陽一朗
  • 学会等名: 愛知医科大学大学院医学研究科第１回ファカルティ・ディベロップメント
  • 招待講演
• [学会発表] 病理学におけるAI技術 (2019)
  • 著者名/発表者名: 山本陽一朗
  • 学会等名: 第108回日本病理学会総会
  • 招待講演
• [学会発表] 医療とAI ～現状と展望～ (2019)
  • 著者名/発表者名: 山本陽一朗
  • 学会等名: 第132回中部日本整形外科災害外科学会
  • 招待講演