深層学習における認知的ヒューリスティックスの構成的理解

• Project/Area Number: 24H00709
• Research Category: Grant-in-Aid for Scientific Research (A)
• Allocation Type: Single-year Grants
• Section: 一般
• Review Section: Medium-sized Section 61:Human informatics and related fields
• Research Institution: The University of Tokyo
• Principal Investigator: 佐藤 一誠 東京大学, 大学院情報理工学系研究科, 教授 (90610155)
• Co-Investigator(Kenkyū-buntansha): 三森 隆広 早稲田大学, 理工学術院総合研究所(理工学研究所), 次席研究員 (40760161) ; 河崎 史子 東京大学, 定量生命科学研究所, 助教 (40822911)
• Project Period (FY): 2024-04-01 – 2029-03-31
• Project Status: Granted (Fiscal Year 2024)
• Budget Amount: ¥47,190,000 (Direct Cost: ¥36,300,000、Indirect Cost: ¥10,890,000); Fiscal Year 2024: ¥5,070,000 (Direct Cost: ¥3,900,000、Indirect Cost: ¥1,170,000)
• Keywords: 機械学習 / 深層学習 / ショートカット学習 / 認知ヒューリスティックス / バイアス

Outline of Research at the Start

本研究では、深層学習における認知的ヒューリスティックスの構成的理解を目的とする。ここでは、深層学習モデルに備わった暗黙的な予測の規則を深層学習の認知的ヒューリスティックスと呼ぶことにする。人間の場合と同様に認知的ヒューリスティックスは、学習の効率化の観点からは多くの場面で役立つ一方で、認知的偏見（認知バイアス）を生み出す可能性がある。機械学習ではこのようなバイアスにより、ベンチマークデータセット内では予測性能が高く汎化能力が高いように学習できているように見せかけて、実運用時に大きな間違いを侵す可能性があり、これは科学や医療などの分野で大きな問題になりうる。