• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2017 Fiscal Year Annual Research Report

Updating the concept of morality based on science

Research Project

Project/Area Number 16H03341
Research InstitutionNagoya University

Principal Investigator

久木田 水生  名古屋大学, 情報学研究科, 准教授 (10648869)

Co-Investigator(Kenkyū-buntansha) 神崎 宣次  南山大学, 国際教養学部, 教授 (50422910)
村上 祐子  東北大学, 文学研究科, 准教授 (80435502)
戸田山 和久  名古屋大学, 情報学研究科, 教授 (90217513)
Project Period (FY) 2016-04-01 – 2019-03-31
Keywords機械倫理 / 人工道徳 / 機械の道徳化 / 道徳心理学 / 道徳感情
Outline of Annual Research Achievements

2017年度においては主に次の調査を行った。(1)計算社会科学、社会心理学、人工知能、論理学などの分野における道徳性に関する研究の動向についての調査。(2)哲学・倫理学分野において伝統的に受け入れられてきた、道徳性についての理解が(1)と照らして妥当であるかの調査。これらの調査の結果として、従来の倫理学、哲学の伝統において支配的だった合理主義的な道徳観の限界が明らかになった。倫理学・哲学においては伝統的に倫理的な判断は人間に特有の理性を働かせることで可能になるという前提が受け入れられてきた。しかしながら様々な自然科学の分野における道徳性についての研究では、人間は道徳的な感情を発達のかなり早い段階から持っていること、動物でも不公平な取り扱いを認識してそれに対する忌避感を持つこと、人間にとって功利主義的な見方はかならずしも自然ではないこと、人間の政治的な思想や信条が政治とは関係ない嗜好や選好と強い相関を持っていることなどが明らかになっている。こういった知見を総合して考えると、従来の理性に基づく道徳的判断、道徳的行為という見方は人間の現実とはかなりかけ離れていると考えざるを得ない。そこで私たちは、より現実に即した道徳性の概念を構築することを試みた。そこでは合理的な思考、論理的な思考のみならず、感情や新体制、自然的社会的環境、他者との関係、利用できるテクノロジーなど様々な要因がかかわっている。私たちの新しいモデルでは特に道徳的判断と道徳的行為におけるテクノロジーの役割に焦点を当てている。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

2017年の目標は、(1)倫理学・哲学において伝統的に受け入れられてきた道徳性概念と近年の科学的知見に照らして検討すること、(2)人工知能やロボットに道徳性を持たせるためにはどのような道徳性のモデルが適切であるかを考察することを目標にした。(1)に関しては、倫理学・哲学の分野で受け入れられてきた道徳性の概念が人間の合理性、論理的な思考能力に重きを置いている一方で、近年の科学的知見は道徳的判断や道徳的行動における否認知的な要素の重要性を明らかにしていることが分かった。(2)に関しては、情動や身体性、環境的・社会的要因を組み込んだモデルが必要であろうということが明らかになった。それによって機械に道徳性を持たせるという試みが、おそらく極めて困難であり、そもそも「機械に道徳性を持たせる」という問題のフレーミングが不適切である可能性についても分かってきた。技術的な問題をどのような言葉表現で表現するか(問題のフレーミング)は重要である。そのことによって当該の技術が社会にどのように受け止められるかが左右されるからである。不適切なフレーミングは無用な誤解や混乱を生みかねない。近年の人工知能をめぐる状況はこのことを明らかにしている。よって我々は道徳性という論争を引き起こしやすい主題について、適切なフレーミングがどのようなものであるかを考えなければいけないだろう。そこで私たちは「機械倫理」や「人工道徳」といったキーワードや研究のアジェンダそのものを問い直す必要を感じている。

Strategy for Future Research Activity

次年度は科学的知見を取り入れた道徳性のモデルをより具体的に構築していく。そのうえで道徳に関する問いがどこまで科学によって答えられるのか、道徳性に関する適切な概念はどのようなものか、科学によって明らかになっていない道徳性の側面はどのようなものかを明らかにする。また人工知能やロボットに道徳性を実装する可能性についてもより具体的に考察を進めていく予定である。ただし今年度の研究で分かってきたように、人工知能やロボットに関しては、研究上の問題をどのようにフレーミングするかということが、技術についての適切な理解にとって重要である。したがって次年度は、「機械倫理」や「人工道徳」といった研究プロジェクトのアジェンダそのものの問い直しを行っていく予定である。また来年は倫理学の研究者を集めて道徳性の未来について考え、議論する「モラル・ハッカソン」という研究集会を開催する予定である。

  • Research Products

    (17 results)

All 2018 2017 Other

All Journal Article (4 results) Presentation (12 results) (of which Int'l Joint Research: 4 results,  Invited: 7 results) Remarks (1 results)

  • [Journal Article] Trends in Ethics of Artificial Intelligence2018

    • Author(s)
      MURAKAMI Yuko
    • Journal Title

      IEICE ESS Fundamentals Review

      Volume: 11 Pages: 155~163

    • DOI

      https://doi.org/10.1587/essfr.11.3_155

  • [Journal Article] 麦とペッパー:テクノロジーと人間の相互作用2017

    • Author(s)
      久木田水生
    • Journal Title

      人工知能

      Volume: 32 Pages: 653-659

  • [Journal Article] Ethics of Information Education for Living with Robots2017

    • Author(s)
      Murakami Yuko、Tatsumi Takeo、Otani Takushi、Harada Yasunari
    • Journal Title

      ORBIT Journal

      Volume: 1 Pages: 1-13

    • DOI

      https://doi.org/10.29297/orbit.v1i1.21

  • [Journal Article] Philosophy and Higher Education in Japan2017

    • Author(s)
      Yuko Murakami
    • Journal Title

      Tetsugaku

      Volume: 1 Pages: 184-196

  • [Presentation] AIと技術倫理2017

    • Author(s)
      久木田水生
    • Organizer
      電子・電気・情報関係学会東海支部連合大会2017
    • Invited
  • [Presentation] When HAL kills, stop asking who is to blame2017

    • Author(s)
      Minao Kukita
    • Organizer
      CEPE/Ethicomp 2017
    • Int'l Joint Research
  • [Presentation] Buridan's Asimo: Difficulties in mechanisation of moral competence2017

    • Author(s)
      Minao Kukita
    • Organizer
      ?Society for Philosophy of Technology
    • Int'l Joint Research
  • [Presentation] 共生か寄生か?-人とロボットの哲学と倫理2017

    • Author(s)
      久木田水生
    • Organizer
      静岡哲学会第40回大会シンポジウム「情報技術の展開と哲学」
    • Invited
  • [Presentation] 高等教育における科学哲学、分析哲学、科学基礎論2017

    • Author(s)
      村上祐子
    • Organizer
      日本科学史学会大会
    • Invited
  • [Presentation] 人工知能と哲学のインタラクション:天文学モデルは適用可能か?2017

    • Author(s)
      村上祐子
    • Organizer
      理研iTHEMS ASTRO-AI ワーキンググループ研究会
    • Invited
  • [Presentation] 学際領域と哲学:哲学教育でいかに対応すべきか?2017

    • Author(s)
      村上祐子
    • Organizer
      日本哲学会
    • Invited
  • [Presentation] 人工知能・論理・哲学2017

    • Author(s)
      村上祐子
    • Organizer
      東北大学材料科学研究所数学連携グループセミナー
    • Invited
  • [Presentation] 多層行為論理の意味論2017

    • Author(s)
      村上祐子
    • Organizer
      電気情報通信学会技術・社会・倫理研究会
  • [Presentation] ICT Demands Conceptual Restructuring of Science2017

    • Author(s)
      Yuko Murakami
    • Organizer
      Society for Social Studies of Science 2017
    • Int'l Joint Research
  • [Presentation] Ethics of Information Education for Living with Robots2017

    • Author(s)
      Yuko Murakami, Takeo Tatsumi, Takushi Otani, Yasunari Harada
    • Organizer
      Ethicomp 20177
    • Int'l Joint Research
  • [Presentation] 機械と価値観:人工知能倫理の観点から2017

    • Author(s)
      村上祐子
    • Organizer
      学際研究プログラム「ヨッタスケールデータの科学技術:情報の量と質の両面を扱う文理連携型研究によるパラダイムシフト」全体会議
    • Invited
  • [Remarks] Morality mod Science

    • URL

      http://www.is.nagoya-u.ac.jp/dep-ss/phil/kukita/morality-mod-science.html

URL: 

Published: 2019-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi