Bias Mitigation for Deep Neural Networks by Concept-based Image Descriptors

• Project/Area Number: 23H00497
• Research Category: Grant-in-Aid for Scientific Research (A)
• Allocation Type: Single-year Grants
• Section: 一般
• Review Section: Medium-sized Section 61:Human informatics and related fields
• Research Institution: Osaka University
• Principal Investigator: 中島 悠太 大阪大学, データビリティフロンティア機構, 教授 (70633551)
• Co-Investigator(Kenkyū-buntansha): GARCIA・DOCAMPO NOA 大阪大学, データビリティフロンティア機構, 特任助教(常勤) (80870005)
• Project Period (FY): 2023-04-01 – 2028-03-31
• Project Status: Granted (Fiscal Year 2024)
• Budget Amount: ¥46,800,000 (Direct Cost: ¥36,000,000、Indirect Cost: ¥10,800,000); Fiscal Year 2024: ¥8,190,000 (Direct Cost: ¥6,300,000、Indirect Cost: ¥1,890,000); Fiscal Year 2023: ¥13,260,000 (Direct Cost: ¥10,200,000、Indirect Cost: ¥3,060,000)
• Keywords: 深層学習 / バイアス / 社会的バイアス / バイアス低減

Outline of Research at the Start

ディープニューラルネット（DNN）は医療や犯罪捜査など社会基盤としての応用が期待される一方で、社会的バイアスを持つことが知られはじめている。例えばDNNが犯罪捜査に使われた場合、社会的マイノリティ（人種など）に対する不利な判定につながり、社会基盤として実装する前に必ず解決するべき重大な問題である。本研究では学習によって得られる複数の視覚パターンの組み合わせで画像を表現するという新しいDNNのパラダイムを提案した上で、視覚パターンとDNNモデルの出力の関係からバイアスを定量化する手法を構築し、DNNモデルが持つバイアスを低減する手法を確立する。