| 研究実績の概要 |
2021年度は，CASTの分析手順の検証を通じて，モデリングと分析手法の応用検討を行った．【研究項目１：CASTの分析手順の有効性検証】として,デジタル社会は，組織，サービス，システム，ソフトウェアの各層によって成り立ち，社会全体の仕組みを統合的に考えることが複雑な対象を捉えやすくなると考え，STAMP S&S の5階層モデルにより品質属性を相互作用として分析した．特にサービス層とリンクするステークホルダ層の識別と相互作用の分析による安全性の確保をスマートシティ事例に基づき研究した．
また,【研究項目２：CASTのセキュリティ適用方法の確立】として,安全性分析手法のサイバーセキュリティ・インシデントへの応用研究を実施．その結果, サイバーセキュリティ攻撃経路がシステム理論に基づく制御構造で表せることを見出した．産業総合研究所に対する攻撃事例で分析したCyber-Security Incident Analysis by Causal Analysis using System Theory (CAST)は国際会議に採択された．
さらに【研究項目３：ソフトウェア起因の事故分析】として， AIの中でも不確実性の高いDNN (Deep Neural Network）システムにおけるリスクをリスクアセスメント,リスク対応,リスク評価を含めたリスクマネジメント全体の枠組みに従った安全論証を研究した．特にDNN開発時に「修正対策時において,重要な場面での動作を担保できない」という問題を解決するために, システム運用段階でのリスクを捉えて, DNN モデルでリスクの高い重要なシーンに含まれるラベルの精度を改善することで重要な場面での動作を担保できることを目指し,この改善の仕組みの具体化を図る研究を実施した.
|
| 今後の研究の推進方策 |
2021年度は主にDNNを含んだシステムを対象にリスクマネジメントの手順を用いて,安全性を確保するための方法を自動運転の事例で検討してきた.その全体像を論証形式で示し,各手順における課題と解決のための方法とその意義をモデル化するように心がけたが,システムレベルの安全分析を単体のDNNモデル開発につなげ,各DNNモデル開発プロセスを改善しDNN自体の改善技術につなげるためには,さらなる研究の具体化が必要である.
そこで2022年度はDNNに限らずAIを含んだシステムにおいて従来の単体モデルの精度だけではシステム全体の評価はできないという課題に真っ向から取り組み,システム理論に基づき、全体俯瞰でリスクを測ること,ハザード要因から改善すべき点を見出すこと,ハザード要因と外部条件を踏まえて,先行指標を定め,最適な対策立案,問題解決につなげていくことを目指す. 特に複雑なAIシステムにおいて,人間の同期的思考に模して,的確な判断ができる構造を探求していく.そしてこの方式によって改善を繰り返せるAIシステムの仕組みの構築を目指していく.
|
