• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

An empirical investigation of the expectations of AI's ethical decisions

Research Project

Project/Area Number 22K20320
Research Category

Grant-in-Aid for Research Activity Start-up

Allocation TypeMulti-year Fund
Review Section 0110:Psychology and related fields
Research InstitutionWaseda University (2023)
Saitama Prefectural University (2022)

Principal Investigator

Tanibe Tetsushi  早稲田大学, 文学学術院, 講師(テニュアトラック) (20964480)

Project Period (FY) 2022-08-31 – 2024-03-31
Project Status Completed (Fiscal Year 2023)
Budget Amount *help
¥2,730,000 (Direct Cost: ¥2,100,000、Indirect Cost: ¥630,000)
Fiscal Year 2023: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2022: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Keywords人工知能 / 自動運転 / 規範 / 公正感 / 自動運転車 / 倫理的判断 / 社会規範
Outline of Research at the Start

本研究は、人々が人工知能(AI)に期待する倫理的判断を実証的に検討する。
人間の日常的な意思決定は必ずしも一貫した倫理的規則に従っておらず、たとえば自動車の運転では周囲の車の流れに合わせるために法定速度を破るように、状況に応じて従うべき規則を使い分けている。自動運転のようにAIが人間の判断を代行するようになると、このような柔軟な倫理的判断をAIも行うべきなのかという問題が生じる。本研究では、人々がAIに対して抱く期待を明らかにすることで、社会的に受容される技術開発を進めるための基礎データを提示する。

Outline of Final Research Achievements

This study quantitatively examined the responses of the general public, who are not AI experts, to artificial intelligence (AI) judgments related to ethical issues. Study 1 investigated the evaluation of self-driving car behavior in the presence of contradictory norms related to car speed (compliance with legal speed and matching to the surrounding flow (actual speed)). The results showed a tendency to judge that compliance with legal speed is preferable in self-driving compared to driving by humans. Study 2 showed that when AI judgments were biased by gender, the negative impression may be alleviated compared to when humans make similar judgments. However, the effect sizes were small in both studies, and the robustness of the results remains to be examined.

Academic Significance and Societal Importance of the Research Achievements

本研究の成果は、AIの開発や社会実装を社会的に受容される形で進めていく際に参照できる経験的な知見を提供する点で社会的意義があると考えられる。人間とAIでは期待される判断内容が必ずしも同じではないことや、同じ判断をしても異なった印象を与えうるという結果は、AIの判断にどの程度の柔軟性を持たせるかという設計上の問題や、AIに判断を任せてよい範囲を見極めるという運用上の問題を検討する際に役立つことが期待できる。また学術的な意義としては、倫理的判断の内容が同じでも判断主体が人か否かによって適切さの評価が変わることを定量的手法によって確認し、倫理に関して人々が持っている判断基準を解明することに貢献した。

Report

(3 results)
  • 2023 Annual Research Report   Final Research Report ( PDF )
  • 2022 Research-status Report
  • Research Products

    (1 results)

All 2023

All Presentation (1 results)

  • [Presentation] 規範が競合する場面での人工知能の判断に対する市民の期待2023

    • Author(s)
      谷辺哲史
    • Organizer
      日本グループ・ダイナミックス学会第69回大会
    • Related Report
      2023 Annual Research Report

URL: 

Published: 2022-09-01   Modified: 2025-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi