視覚パターンによる画像記述を用いたディープニューラルネットのバイアスの低減

2023 Fiscal Year Comments on the Screening Results

• Project/Area Number: 23H00497
• Research Category: Grant-in-Aid for Scientific Research (A)
• Allocation Type: Single-year Grants
• Section: 一般
• Review Section: Medium-sized Section 61:Human informatics and related fields
• Research Institution: Osaka University
• Principal Investigator: 中島 悠太 大阪大学, データビリティフロンティア機構, 教授 (70633551)
• Co-Investigator(Kenkyū-buntansha): GARCIA・DOCAMPO NOA 大阪大学, データビリティフロンティア機構, 特任助教(常勤) (80870005)
• Project Period (FY): 2023-04-01 – 2028-03-31

Summary of the Research Project

本研究は、深層学習に基づく画像認識が、学習データの偏りや手動ラベル付の誤りにより「騙されてしまい」、結果として犯罪捜査等で深刻な社会的バイアスを生じさせるという問題への取り組みである。既存の深層ニューラルネットの内部表現が多元のベクトルであり、人が一見しただけでは判らない。この多元ベクトルを画像にかえ可視化することで問題を解消するというアイデアに基づいている。

Scientific Significance and Expected Research Achievements

本研究は、データの量的・質的構造に反映された人間の偏見が深層学習によってAIシステムにも反映してしまう問題に対する解決策を探る研究であり、社会的有用性が高い。また、説明可能なAIを実現するための研究としての価値も高い。方法論に関する説明はわかりやすく、実現可能性があると認められた。研究能力、準備状況ともの良好である。