対話知能システムの研究開発及び社会実装のための法社会規範の研究

• Project Area: Studies on intelligent systems for dialogue toward the human-machine symbiotic society
• Project/Area Number: 19H05694
• Research Category: Grant-in-Aid for Scientific Research on Innovative Areas (Research in a proposed research area)
• Allocation Type: Single-year Grants
• Review Section: Complex systems
• Research Institution: Keio University
• Principal Investigator: 新保 史生 慶應義塾大学, 総合政策学部(藤沢), 教授 (20361355)
• Co-Investigator(Kenkyū-buntansha): 長島 光一 帝京大学, 法学部, 講師 (20787056) ; 呉羽 真 山口大学, 国際総合科学部, 講師 (80750215) ; 原田 伸一朗 静岡大学, 情報学部, 教授 (90547944)
• Project Period (FY): 2019-06-28 – 2024-03-31
• Project Status: Granted (Fiscal Year 2023)
• Budget Amount: ¥95,420,000 (Direct Cost: ¥73,400,000、Indirect Cost: ¥22,020,000); Fiscal Year 2023: ¥18,720,000 (Direct Cost: ¥14,400,000、Indirect Cost: ¥4,320,000); Fiscal Year 2022: ¥18,720,000 (Direct Cost: ¥14,400,000、Indirect Cost: ¥4,320,000); Fiscal Year 2021: ¥18,720,000 (Direct Cost: ¥14,400,000、Indirect Cost: ¥4,320,000); Fiscal Year 2020: ¥18,720,000 (Direct Cost: ¥14,400,000、Indirect Cost: ¥4,320,000); Fiscal Year 2019: ¥20,540,000 (Direct Cost: ¥15,800,000、Indirect Cost: ¥4,740,000)
• Keywords: ロボット / AI / 社会規範 / 法制度 / ELSI / 対話メディア / 対話知能 / ロボット法 / 対話知能システム / 情報法 / 情報学 / 倫理学

Outline of Research at the Start

本研究計画では、(1)社会制度（倫理・社会的受容性）、(2)法制度（法令その他の規範）、(3)ELSIの統合（Ethical, Legal and Social Issuesの統合）により、「ロボット法」として機械と共生する社会に必要な社会制度の研究を行う。
機械と共生する社会の到来を見据えたロボット法研究を行うことで、人間と機械の対話における新しい自律型のメディアの研究開発において検討が必要な課題を解明するとともに、社会への実装にあたって検証及び解決が必要な問題を明らかにする。

Outline of Annual Research Achievements

各国の研究者をはじめとするステークホルダーとの意見交換を行い、研究成果の報告や国際会議での議論によりイニシアティブ獲得に必要なロボット法の礎を築くことを目指すことや、国際機関へのルール形成のための取り組みの必要性を提唱するとともに、国際標準となり得る基本理念や原則の定立を目指していた。ところが、コロナウイルス感染症拡大に伴い国内外の会議開催及び参加機会を著しく喪失し、当初予定していた研究活動を遂行することができない局面が生じた。
対面による活発な意見交換に基づく研究活動が制約される一方で、オンライン環境による研究活動としてA04班人間機械社会規範研究グループとしての研究報告及び議論の機会を複数回設けることができた。本グループは、対話ロボットの社会的受容に必須となる倫理・社会制度の新知見を提示し、新しい社会規範の原則をまとめたロボット法の確立を目指しているため、市民参加型のイベントを実施することで社会的受容性に係る課題の検討を実施している。参加型のタウンミーティングを開催し、広く一般市民とロボットと共生する社会の規範について考える企画を行う予定であった。ところがコロナ禍により集客イベントが行えなくなったため、日本科学未来館の協力を得て、Youtubeライブによるトークイベントを開催した。また、マルチメディア振興センターと共催のワークショップも開催することができた。
トークイベントでは、一般参加の聴衆が自由にコメントを述べ質問をするなど、インタラクティブで活発な議論がなされた。一般参加者には幅広い年齢層の参加者かつ専門性も多様であり、幅広い層の参加者同士の意見交換もなされていた。少し先の未来に確実に起こりうる法律問題に光を当て、わかりやすく解説し、さらに様々な立場の人々が考え意見を交換する機会を提供することができ、人間機械共生社会における社会規範の醸成に寄与したと思われる。

Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

研究の実施内容として、①ELSIのように抽象的に検討が必要な課題の提示にとどまらず、エビデンスに基づく研究成果の公表と、エビデンスとなり得る研究、分野横断的に汎用的に適用・活用可能な研究成果としての認知、社会の具体的な問題の解決を通じた新しい社会的・公共的価値の創出のために実現可能な研究の方法論の探索、②間接的な影響ではなく、政策の検討・提案・決定への直接的な成果の反映、研究組織や研究コミュニティ形成のあり方の研究、③シティミーティングの実施によるステークホルダーからのフィードバックに基づく研究、④対外的に研究プロジェクトの意義及び対話知能を活用した社会における諸課題を包括的、総合的に研究する成果を公表、⑤総合的かつ包括的な論点整理や問題点の確認を実施することで、検討が必要な課題を体系的に整理を実施した。
到達目標については、①個別検討課題の研究の実施、②ワークショップやシンポジウム等開催による研究者との討議・情報発信、③国際的イニシアティブ獲得のための活動（国外の大学・研究機関との研究協力体制の整備）、④第4次産業革命に向けた研究及び施策提言の中核的な役割を担っている国外の研究者との共働により、本研究成果を報告するとともに、相互の研究協力体制を確立、⑤個別事例の単なる分析や断片的な問題把握にとどまることがないように、総合的かつ包括的な論点整理や問題点の確認を実施し当該研究の完了を目指す、⑥法学研究者及び法曹関係者に特化した報告者及び参加者から構成される情報ネットワーク法学会のロボット法研究会の開催により、個別課題の精査が可能な研究体制の構築と研究成果の公表により、政策立案等への専門的知見の直接投入が可能な法学研究環境の構築を目指すという目標を設定していたが、これらの目標については、当初予定していた研究活動を遂行することができない局面が生じた。

Strategy for Future Research Activity

対話知能学における法・倫理原則について、日本政府がAI利用に関して定めた基本ルール（原則）とアシモフのロボット三原則の対応関係を確認した上で、新たなロボット原則では，現在のAI技術における原則ではなく、将来ロボットがより人間に近い機能を持つようになったときの原則の検討を行う。また、法・倫理原則の検討実施方法として、公募班の研究者との連携により、将来にわたって汎用的な原則となりうるものを模索する「アシモフを超えろ！プロジェクト」を実施予定。
対話知能学における法令遵守実施手順の策定に向けた研究を実施する。A01-A03班との連携による具体的な実施事項として、日本科学未来館と対話知能学プロジェクトを定期的に開催し、一般の参加者に対話知能学の研究内容の詳細を解説し意見を聴取することで社会的受容性の検討も実施する。そのために、各研究班との連携により、引き続き日本科学未来館の協力を得てオンラインでのトークイベントを開催する。

Research Products

• [Int'l Joint Research] CLIC/Northeastern University School of Law(米国)
• [Journal Article] The changes of personal information protection environment and the related legal systems (2020)
  • Author(s): 新保 史生
  • Journal Title: The Journal of Information Science and Technology Association Volume: 70 Issue: 5 Pages: 224-230
  • DOI: 10.18919/jkg.70.5_224
  • NAID: 130007838680
  • ISSN: 0913-3801, 2189-8278
  • Year and Date: 2020-05-01
  • Peer Reviewed / Open Access
• [Journal Article] Have Our General AI Principles Worked? (2020)
  • Author(s): 新保 史生
  • Journal Title: Journal of Information and Communications Policy Volume: 3 Issue: 2 Pages: 53-70
  • DOI: 10.24798/jicp.3.2_53
  • NAID: 130007824681
  • ISSN: 2432-9177, 2433-6254
  • Year and Date: 2020-03-30
  • Open Access
• [Journal Article] Lethal Autonomous Weapon Systems (LAWS) Confronting the Robot Law Perspectives (2020)
  • Author(s): SHIMPO Fumio
  • Journal Title: IEICE ESS Fundamentals Review Volume: 13 Issue: 3 Pages: 217-230
  • DOI: 10.1587/essfr.13.3_217
  • NAID: 130007779358
  • ISSN: 1882-0875
  • Year and Date: 2020-01-01
  • Open Access
• [Journal Article] 中小企業における個人情報保護への取り組み (2020)
  • Author(s): 新保史生
  • Journal Title: 日本政策金融公庫調査月報 Volume: 2020(7) Pages: 36-41
  • Open Access
• [Journal Article] AIによる自治体の業務改革と行政サービスの充実に向けた検討のあり方 (2020)
  • Author(s): 新保史生
  • Journal Title: 自治体法務研究 Volume: 62(秋) Pages: 23-23
  • Open Access
• [Journal Article] Legal Accountability Issues Related to the Utilisation of Life-Logs (2020)
  • Author(s): Fumio Shimpo
  • Journal Title: WMSCI 2020 - 24th World Multi-Conference on Systemics, Cybernetics and Informatics, Proceedings Volume: 3 Pages: 30-36
  • Peer Reviewed / Open Access
• [Journal Article] バーチャルYouTuberの人格権・著作者人格権・実演家人格権 (2020)
  • Author(s): 原田伸一朗
  • Journal Title: 静岡大学情報学研究 Volume: 26 Pages: 53-64
  • NAID: 120007004197
  • Open Access
• [Journal Article] キャラクター・アダプテーション：マンガ・アニメの実写化に対する拒否反応 (2020)
  • Author(s): 原田伸一朗
  • Journal Title: 翻訳の文化／文化の翻訳 Volume: 16 Pages: 35-50
  • NAID: 120007027610
  • Open Access
• [Journal Article] システム開発・システム保守紛争から見た電子カルテの法的課題 (2020)
  • Author(s): 長島光一
  • Journal Title: 帝京法学 Volume: 34(1) Pages: 191-246
  • NAID: 120007131998
  • Open Access
• [Journal Article] 法の可視化と情報の伝達のための法教育――学生の創造性を発揮するためのメディアの活用 (2020)
  • Author(s): 長島光一
  • Journal Title: 情報処理センター年報（帝京大学） Volume: 22 Pages: 103-117
  • NAID: 120006901804
  • Open Access
• [Journal Article] The Importance of `Smooth` Data Usage and the Protection of Privacy in the Age of AI, the IoT and Autonomous Robots (2020)
  • Author(s): Shimpo Fumio
  • Journal Title: Kluwer Law International Global Privacy Law Review Volume: vol.1 No.1 Pages: 49-54
  • Peer Reviewed
• [Journal Article] 地方自治体におけるＡＩ・ＲＰＡの利用に伴う業務の効率化への期待と懸念 (2020)
  • Author(s): 新保 史生
  • Journal Title: 彩の国さいたま人づくり広域連合 彩の国さいたま人づくり広域連合 政策情報誌「Think-ing」 Volume: 第２１号 Pages: 35-41
  • Open Access
• [Journal Article] 自律型致死兵器システム(LAWS)に関するロボット法的視点からの考察 (2020)
  • Author(s): 新保 史生
  • Journal Title: 電子情報通信学会 電子情報通信学会 基礎・境界ソサイエティ誌（Fundamentals Review:FR） Volume: 第13巻 第3号 Pages: 217-230
  • NAID: 130007779358
  • Open Access
• [Journal Article] キャラクターの氏名権 (2020)
  • Author(s): 原田伸一朗
  • Journal Title: 翻訳の文化／文化の翻訳 Volume: 15 Pages: 1-5
• [Journal Article] ニセ科学・ニセ医学に対抗するための民事訴訟戦略 (2020)
  • Author(s): 長嶋光一
  • Journal Title: 消費者法ニュース Volume: 122 Pages: 29-31
• [Journal Article] 環境訴訟における検証の意義 (2020)
  • Author(s): 長嶋光一
  • Journal Title: 拓殖大学論集 Volume: 22(2) Pages: 163-184
• [Journal Article] 民事手続を題材とする法教育―「ふるさとを返せ津島訴訟」との交流から―」 (2019)
  • Author(s): 長嶋光一
  • Journal Title: 帝京法学 Volume: 31(1) Pages: 1-103
• [Presentation] 「人間機械社会規範研究グループ」研究概要説明 (2020)
  • Author(s): 石黒浩, 河原達也, 東中竜一郎, 杉山弘晃, 新保史生, 塩瀬隆之
  • Organizer: 新学術領域 「対話知能学」 シンポジウム
• [Presentation] ロボット共生社会に向けた法的課題の検証 (2020)
  • Author(s): 新保 史生
  • Organizer: 電子情報通信学会 クラウドネットワークロボット研究会 (CNR)
  • Invited
• [Presentation] ＡＩ・自律型ロボットの進化に伴う法的課題の総覧 (2020)
  • Author(s): 新保 史生
  • Organizer: 日本情報経営学会 「AI人工物の監理」研究プロジェクト研究会
  • Invited
• [Presentation] AI・ロボットを用いることに伴う「原則」策定の取り組みの現状と課題 (2020)
  • Author(s): 新保 史生
  • Organizer: 第4回 AI倫理会議
  • Invited
• [Presentation] 新学術領域研究「人間機械共生社会を目指した対話知能システム学」第3回ワークショップ「AI・ロボットと人の共生社会における対話知能学の可能性」 (2020)
  • Author(s): 石黒浩、新保史生、田中絵麻、藍沢志津
  • Organizer: 世界で進展する超スマート化・日本はどうする？ －国家AI戦略の世界動向と人とAIの共生の可能性
• [Presentation] 新型コロナウィルス対策への対話知能学活用の可能性と課題について (2020)
  • Author(s): 新保 史生
  • Organizer: 第2回対話ロボットの社会実装と法律問題に関するワークショップ
• [Presentation] 知能ロボットと暮らす未来にはどんなルールが必要ですか？――対話知能学プロジェクト×日本科学未来館 (2020)
  • Author(s): 石黒浩, 新保史生
  • Organizer: 対話知能学プロジェクト×日本科学未来館
• [Presentation] バーチャルなキャラに「権利」は必要？――対話知能学プロジェクト×日本科学未来館 (2020)
  • Author(s): 石黒浩, 新保史生, 原田伸一朗
  • Organizer: 対話知能学プロジェクト×日本科学未来館
• [Presentation] コロナ禍におけるロボット利用 (2020)
  • Author(s): 新保 史生,石黒 浩,河原 達也,東中 竜一郎,杉山 弘晃,野村 竜也,長島 光一
  • Organizer: 新学術領域「対話知能学」2020年度公開シンポジウム
• [Presentation] 日米欧三極のイニシアティブによる信頼性が確保された個人データの自由な越境流通の促進に向けて (2020)
  • Author(s): 新保史生,佐脇紀代志,宍戸常寿,大門学,片山建,鈴木俊哉,坂下哲也
  • Organizer: CEATEC 2020
  • Invited
• [Presentation] The Principal Japanese AI and Robot Strategy - Significance and Legal Implications (2020)
  • Author(s): Fumio Shimpo
  • Organizer: The 3rd International Symposium on Symbiotic Intelligent Systems: “A New Era towards Responsible Robotics and Innovation”
  • Int'l Joint Research
• [Presentation] 対話知能システムの研究開発及び社会実装のための法社会規範の研究 (2020)
  • Author(s): 新保史生,石黒浩,加藤隆之,原田伸一朗,長島 光一
  • Organizer: 情報ネットワーク法学会第２０回研究大会
• [Presentation] Legal Accountability Issues Related to the Utilisation of Life-Logs (2020)
  • Author(s): Fumio Shimpo
  • Organizer: The 24th World Multi-Conference on Systemics, Cybernetics and Informatics: WMSCI 2020C
  • Int'l Joint Research
• [Presentation] バーチャルYouTuberの肖像権：CGアバターの「肖像」に対する権利 (2020)
  • Author(s): 原田伸一朗
  • Organizer: 2020年度春季情報通信学会大会
• [Presentation] ロボットの数え方：ネットワークロボット・AIシステムの責任単位 (2020)
  • Author(s): 原田伸一朗
  • Organizer: 情報ネットワーク法学会第20回研究大会第6回ロボット法研究会
• [Presentation] 肖像権のマルチモーダル化：アンドロイド・CGアバターの「姿」「動き」「声」の肖像権 (2020)
  • Author(s): 原田伸一朗
  • Organizer: 2020年度秋季情報通信学会大会
• [Presentation] バーチャルキャラクターの人格権：VTuber、あつ森から考える (2020)
  • Author(s): 原田伸一朗
  • Organizer: 清泉女学院第4回AI倫理会議
• [Presentation] ロボットの保護と社会的受容性に向けた法政策 (2020)
  • Author(s): 長島光一
  • Organizer: 情報ネットワーク法学会「第６回ロボット法研究会」
• [Presentation] ロボットの保護・利用に関する法・倫理・政策 (2020)
  • Author(s): 長島光一
  • Organizer: 帝京法学会（学内研究会）
• [Presentation] 日本人とロボット――テクノアニミズム論への批判 (2020)
  • Author(s): 呉羽真
  • Organizer: 京都生命倫理研究会2021年度3月例会
• [Presentation] How Should Countries Regulate Privacy? (2020)
  • Author(s): Shimpo Fumio
  • Organizer: The Center for Law, Innovation and Creativity (CLIC) at Northeastern University School of Law
  • Int'l Joint Research / Invited
• [Presentation] ロボット共生社会に向けた法的課題の検証 (2020)
  • Author(s): 新保 史生
  • Organizer: 電子情報通信学会 クラウドネットワークロボット研究会 (CNR)
  • Invited
• [Presentation] ＡＩ・自律型ロボットの進化に伴う法的課題の総覧 (2020)
  • Author(s): 新保 史生
  • Organizer: 日本情報経営学会 「AI人工物の監理」研究プロジェクト研究会
  • Invited
• [Presentation] データ移転をめぐる国内外における制度的枠組みの構図 (2019)
  • Author(s): 新保 史生
  • Organizer: 日本安全保障貿易学会(JAIST)
  • Invited
• [Presentation] 医療保障におけるイノベーションと AI の活用をめぐる法的課題 (2019)
  • Author(s): 新保 史生
  • Organizer: 第25回 医療経済研究機構シンポジウム
  • Invited
• [Presentation] AI・ロボットの進化に伴う法と倫理の交錯 (2019)
  • Author(s): 新保 史生
  • Organizer: 2019年情報ネットワーク法学会研究大会第1分科会
• [Presentation] 対話ロボットの社会実装と法律問題 (2019)
  • Author(s): 新保 史生
  • Organizer: 新学術領域研究「人間機械共生社会を目指した対話知能システム学」第１回ワークショップ
• [Presentation] ＡＩと安全保障における新局面 - 自律型兵器の国際的規制に向けた取り組みを中心に - (2019)
  • Author(s): 新保 史生
  • Organizer: 情報法制学会 第3回研究大会
• [Presentation] ＡＩ原則は機能するか？ - AI・ロボットを用いることに伴う原則策定の取り組みから法定事項としての位置づけへ - (2019)
  • Author(s): 新保 史生
  • Organizer: 情報通信法学研究会 ＡＩ分科会(令和元年度第1回）
• [Presentation] バーチャルYouTuberの人格権および著作者人格権 (2019)
  • Author(s): 原田伸一朗
  • Organizer: 情報ネットワーク法学会第19回研究大会
• [Presentation] システム開発紛争から見た電子カルテの法的課題 (2019)
  • Author(s): 長嶋光一
  • Organizer: 日本医事法学会
• [Presentation] コミュニケーションにまつわるロボットの倫理的・社会的問題 (2019)
  • Author(s): 呉羽真
  • Organizer: 2019年情報ネットワーク法学会研究大会第1分科会
• [Remarks] 慶應義塾大学研究者情報データベース
  • URL: https://k-ris.keio.ac.jp/html/100012484_ja.html
• [Remarks] 人間機械共生社会を目指した対話知能システム学
  • URL: https://www.commu-ai.org/
• [Funded Workshop] Communicative Intelligent Systems and Related Legal Issues Workshop (2019)