深層学習における認知的ヒューリスティックスの構成的理解

• 研究課題/領域番号: 24H00709
• 研究種目: 基盤研究(A)
• 配分区分: 補助金
• 応募区分: 一般
• 審査区分: 中区分61:人間情報学およびその関連分野
• 研究機関: 東京大学
• 研究代表者: 佐藤 一誠 東京大学, 大学院情報理工学系研究科, 教授 (90610155)
• 研究分担者: 三森 隆広 早稲田大学, 理工学術院総合研究所(理工学研究所), 次席研究員 (40760161) ; 河崎 史子 東京大学, 定量生命科学研究所, 助教 (40822911)
• 研究期間 (年度): 2024-04-01 – 2029-03-31
• 研究課題ステータス: 交付 (2024年度)
• 配分額: 47,190千円 (直接経費: 36,300千円、間接経費: 10,890千円); 2024年度: 5,070千円 (直接経費: 3,900千円、間接経費: 1,170千円)
• キーワード: 機械学習 / 深層学習 / ショートカット学習 / 認知ヒューリスティックス / バイアス

研究開始時の研究の概要

本研究では、深層学習における認知的ヒューリスティックスの構成的理解を目的とする。ここでは、深層学習モデルに備わった暗黙的な予測の規則を深層学習の認知的ヒューリスティックスと呼ぶことにする。人間の場合と同様に認知的ヒューリスティックスは、学習の効率化の観点からは多くの場面で役立つ一方で、認知的偏見（認知バイアス）を生み出す可能性がある。機械学習ではこのようなバイアスにより、ベンチマークデータセット内では予測性能が高く汎化能力が高いように学習できているように見せかけて、実運用時に大きな間違いを侵す可能性があり、これは科学や医療などの分野で大きな問題になりうる。