2019 Fiscal Year Research-status Report

人工知能がもたらす結果に対する一般の人々の責任判断：判断の心理過程と文化差

Research Project

Project/Area Number	19K03215
Research Institution	Waseda University
Principal Investigator	膳場百合子早稲田大学, 理工学術院, 教授 (00548886)
Project Period (FY)	2019-04-01 – 2024-03-31
Keywords	AI / 因果認知 / 責任判断 / 主体性認知 / 感情認知
Outline of Annual Research Achievements	本研究は、人工知能（以下AI）が引き起こした被害に対し、一般の人々が誰にどれだけ責任があると考え、どのような責任処理（問題の解決）を望ましいと考えるか、特に日本人の判断にどのような特徴があるかを検討するものである。5年間の研究期間を通じて３つの日米比較調査を計画しており、①「AIのとらえ方」の文化差の検討、②「AIが関与した問題に対して誰をどのような根拠で人々が非難するか」の文化差の検討、③「AIが引き起こした問題に対し人々がどのような処理を望むか」の文化差の検討を行う計画である。初年度である本年度は、①～③全体にまたがる文化差の概要を把握するために事前に行っていた予備調査を分析し、①以降の実査の準備を行った。【予備調査の知見】AIと人間と組織がそれぞれ同じ被害をもたらした場合、被害に対する一般の人々の責任判断がどう異なるかをweb調査によるシナリオ実験で日米比較した。その結果、AIが被害をもたらした場合は（人間や組織がもたらした場合に比べ）、人々は行為者を責めず、監督者を責める（組織のトップや行政機関などを責める）傾向が文化共通に見られた。また、いずれの文化でも、AIに責任能力（善悪を判断してそれに基づき行動する能力）や責任があると判断する人々は、AIに「感情を経験する心理的能力」を知覚する傾向が見られた。文化差としては、行為者の種類に関わらず、日本人はアメリカ人に比べ、因果的に離れた対象に責任を知覚しやすく、因果的に近い対象に責任を知覚しにくい傾向が見られた。また、これと関連して、日本人はアメリカ人に比べ、直接行為者に焦点を絞った問題解決を好まないことも確認された。
Current Status of Research Progress	Current Status of Research Progress 3: Progress in research has been slightly delayed. Reason 本年度は当初の計画では①の調査を行う予定であったが、全体の予備調査の分析に時間がかかり、①の調査に入ることができなかった。①の調査の出だしが遅れてしまったが、予備調査の分析結果を、学会発表してフィードバックも得たため、①以降の本調査で加えるべき変数について再考することができた。
Strategy for Future Research Activity	予備調査の分析結果と、学会で得たフィードバックから、当初の計画段階では考えていなかった観点をいくつか得たため、それらの観点を含めた実査を行っていく予定である。【調査１：AIのとらえ方に関する文化比較調査】当初の計画ではAIそのものの性質（AIの主体性の強さやAIの心的能力に関する人々の認知）に焦点を絞って文化差を調べる予定であった。しかし、学会で「AIの活動に誰が責任を負うべきかについての考え方も文化によって異なる可能性がある」という観点を得たため、「AIとAIを取り巻く人間社会の関係性（どのような関係であるか、および、どのような関係であるべきか、の両方）」も含めたAI観の文化比較調査を実施したいと考えている。【調査２：AIが関与した問題に対する責任判断（非難の判断）の文化比較調査】当初の計画では、因果推測の文化差（アジア人は遠因に注意を払う傾向がある）や、規範の厳しさの文化差（アジア人は規範からの逸脱を許容しない傾向がある）に焦点をあててAIが関与した出来事に対する責任判断の日米の文化差を調べる予定であった。しかし、予備調査から、文化差だけでなく、文化共通性もかなりあることが分かったため、普遍的なパターンについて当初計画していたよりも詳しく調べていくことを目指す予定である。特に、AIに対しては人や組織に対する責任判断には見られない特殊なパターンが日米共通で見られたため、そのメカニズムについて詳しく調べていく予定である（「感情経験能力」の認知と「責任」の認知がどのようにして結びついているのか調べる予定）。【調査３：AIが関与した問題に対して人々が望む処理の文化比較調査】上の調査２の説明に書いたとおり、AIが関与した出来事への判断は、文化共通な部分も多そうなので「人々が望む問題処理」の調査でも、文化差だけでなく、普遍的なパターンも十分に焦点をあてて分析していく予定である。
Causes of Carryover	本研究は、5年間を通じて３つの文化比較調査を予定しており、当初の予定では、初年度は1つ目のweb調査を実施する予定であった。しかし、1つ目の調査に先だって全体的な文化差の概要を把握するための事前調査を行っており、その分析に時間を要したため、初年度は1つ目の本調査の開始に至らなかった。事前調査は学会発表し、フィードバックも得たため、それらを踏まえて本調査を2年目に開始する予定である。