2020 Fiscal Year Research-status Report
Dependability Assurance of Machine Learning Systems by DevOps Assurance Cases
| Project/Area Number |
20K11753
|
|---|
| Research Institution | Nihon University |
|---|
Principal Investigator |
松野 裕 日本大学, 理工学部, 准教授 (70534220)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
関 弘翔 日本大学, 理工学部, 助手 (00755043)
高井 利憲 奈良先端科学技術大学院大学, 先端科学技術研究科, 客員准教授 (10425738)
|
|---|
| Project Period (FY) |
2020-04-01 – 2023-03-31
|
| Keywords | アシュアランスケース / 機械学習システム / DevOps / SysML / モニタリング |
|---|
| Outline of Annual Research Achievements |
学習システムのディペンダビリティ保証を研究目的とする。ディープラーニング、機械学習技術の実用化が本格化しつつある中、機械学習システムのディペンダビリティ保証は重要な課題になっている。しかしディープラーニングの出力が間違った場合、原因となったネットワーク部分を特定することは難しく、特定できたとしてもその値の持つ意味の説明も難しい。そのため演繹的に正しさを保証することは困難である。ディープラーニングが応用されている自動運転システムは、関係する法律や規制、国際規格から、運用時における環境まで、ダイナミックな変化の中で実用化が進んでいる。本研究では機械学習システムをダイナミックな変化においてそのディペンダビリティを保証するための手法とツールを開発する。本年度ではNII石川准教授と共同研究をしている機械学習システムの開発と運用を一体として安全性を保証する手法であるDevOpsアシュアランスケースをもとに、Tier4社などの自動運転会社の自動運転システムを事例に、DevOpsアシュアランスケースを用いたユースケースを作成し、自動運転に関わる個人、団体へプレゼンを行い、DevOpsアシュアランスケースの社会実装を目指す。
DevOpsアシュアランスケースは、システム保証の手法であるアシュアランスケースを開発時(Development)と運用時(Operation)に一体で活用できるよう、拡張したものである。2020年度は、開発時のSysMLモデルと連携するため、Astah System Safety Toolからのインポート機能を実装し、さらにPythonコードで書かれた機械学習システムのモニタリング連携機能を実装した。自動運転を開発している企業と定期的に打ち合わせを行い、具体的な自動運転システムに対して提案手法のユースケースを構築した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
ツールの初期バージョンを開発し、具体的な自動運転システムに対するユースケースを構築した。また研究室の入退室管理システムを学生が開発し、モニタリングを含めたDevOpsアシュアランスケースをSysMLモデル、STAMP/STPAモデルを開発時に記述した。研究の初期成果として研究会発表を２件行った。また国際会議論文を１本投稿中であり、順調に研究が進んでいる。
|
| Strategy for Future Research Activity |
本年度は、昨年試作した、研究室における顔認証システムを実際に運用し、システムの挙動をDevOpsアシュアランスケースによりモニタリングする。自動運転会社との共同研究においては、要求分析の段階から新たなシステムを開発し、運用時におけるモニタリングも含めて実施し、DevOpsアシュアランスケースの実例とする。自動運転システムに対しては、自動運転シミュレーターとDevOpsアシュアランスケースツールを連携させ、自動運転におけるユースケースを作成する。研究成果はSOTIFなどの国際規格に反映できるよう、企業と連携していく予定である。
|
| Causes of Carryover |
コロナ感染の拡大により、出張をすることができなかったことが主な理由である。来年度は大学全体で海外出張が禁止されていることから、海外出張経費として当初計上していた予算は、開発しているツールの改良、それらツールを用いたワークショップの開催などに充てていく予定である。
|
Research Products
(3 results)
