2021 Fiscal Year Research-status Report
Establishment of Accident Analysis Method for Sociotechnical System by System Theory
| Project/Area Number |
21K21301
|
|---|
| Research Institution | National Institute of Informatics |
|---|
Principal Investigator |
金子 朋子 国立情報学研究所, アーキテクチャ科学研究系, 特任研究員 (60906345)
|
|---|
| Project Period (FY) |
2021-08-30 – 2023-03-31
|
| Keywords | 事故分析手法 / STAMP S&S / 安全性 / セキュリティ / AI / DNN / 自動運転 / リスクマネジメント |
|---|
| Outline of Annual Research Achievements |
2021年度は，CASTの分析手順の検証を通じて，モデリングと分析手法の応用検討を行った．【研究項目１：CASTの分析手順の有効性検証】として,デジタル社会は，組織，サービス，システム，ソフトウェアの各層によって成り立ち，社会全体の仕組みを統合的に考えることが複雑な対象を捉えやすくなると考え，STAMP S&S の5階層モデルにより品質属性を相互作用として分析した．特にサービス層とリンクするステークホルダ層の識別と相互作用の分析による安全性の確保をスマートシティ事例に基づき研究した．
また,【研究項目２：CASTのセキュリティ適用方法の確立】として,安全性分析手法のサイバーセキュリティ・インシデントへの応用研究を実施．その結果, サイバーセキュリティ攻撃経路がシステム理論に基づく制御構造で表せることを見出した．産業総合研究所に対する攻撃事例で分析したCyber-Security Incident Analysis by Causal Analysis using System Theory (CAST)は国際会議に採択された．
さらに【研究項目３：ソフトウェア起因の事故分析】として， AIの中でも不確実性の高いDNN (Deep Neural Network）システムにおけるリスクをリスクアセスメント,リスク対応,リスク評価を含めたリスクマネジメント全体の枠組みに従った安全論証を研究した．特にDNN開発時に「修正対策時において,重要な場面での動作を担保できない」という問題を解決するために, システム運用段階でのリスクを捉えて, DNN モデルでリスクの高い重要なシーンに含まれるラベルの精度を改善することで重要な場面での動作を担保できることを目指し,この改善の仕組みの具体化を図る研究を実施した.
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
研究活動はおおむね順調に進展した．その理由は,本科研費研究の内定から2021年度の半年ほどの短期間において,査読付学術論文１件，国際会議採録1件，書籍等出版物1件，招待講演5件を実施するなど充実した研究成果を出せているからである.
|
| Strategy for Future Research Activity |
2021年度は主にDNNを含んだシステムを対象にリスクマネジメントの手順を用いて,安全性を確保するための方法を自動運転の事例で検討してきた.その全体像を論証形式で示し,各手順における課題と解決のための方法とその意義をモデル化するように心がけたが,システムレベルの安全分析を単体のDNNモデル開発につなげ,各DNNモデル開発プロセスを改善しDNN自体の改善技術につなげるためには,さらなる研究の具体化が必要である.
そこで2022年度はDNNに限らずAIを含んだシステムにおいて従来の単体モデルの精度だけではシステム全体の評価はできないという課題に真っ向から取り組み,システム理論に基づき、全体俯瞰でリスクを測ること,ハザード要因から改善すべき点を見出すこと,ハザード要因と外部条件を踏まえて,先行指標を定め,最適な対策立案,問題解決につなげていくことを目指す. 特に複雑なAIシステムにおいて,人間の同期的思考に模して,的確な判断ができる構造を探求していく.そしてこの方式によって改善を繰り返せるAIシステムの仕組みの構築を目指していく.
|
| Causes of Carryover |
新型コロナウイルス感染症対策のため、予定していた国内学会、国際会議のおけるリアルな発表ができなくなったため、旅費、人件費・謝金がなくなり、使用額に乖離が生じた.
|
Research Products
(11 results)
