2023 Fiscal Year Research-status Report
A safety analysis method for software including black box part, such as machine learning software
| Project/Area Number |
22K04616
|
|---|
| Research Institution | University of Yamanashi |
|---|
Principal Investigator |
高橋 正和 山梨大学, 大学院総合研究部, 教授 (20403446)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
渡辺 喜道 山梨大学, 大学院総合研究部, 教授 (00210964)
|
|---|
| Project Period (FY) |
2022-04-01 – 2025-03-31
|
| Keywords | ハザード / ハザード解析 / STPA / FMEA / AI機能 |
|---|
| Outline of Annual Research Achievements |
令和5年度は、複雑な構成を有するシステムのハザード発生原因を分析する手法について研究した．主要な成果は以下の通りである．
(1)階層化STPAの提案： システム開発の上流工程において，システムを構成する要素（以降，コンポーネント）の間の相互作用により発生するハザードの原因分析を行う手法であるSystem-Theoretic Process Analysis（以降，STPA）をシステムの全開発工程に適用できるように拡張した．通常のSTPAでは取り扱うコンポーネントの個数は5-6個程度が推奨されている．しかし，これでは多数のコンポーネントからなる複雑なシステムのハザードの原因を分析することができない．そこで，コンポーネントを階層的に記述できるようにSTPAを拡張した．その結果，システム開発の進展に伴い，各コンポーネントを段階的に詳細化と追加をして定義していくことで，全開発工程でハザード解析をシームレスに行うことができるようになった．
(2)AIを用いたシステムのFMEAの提案： システムに対して，発生する可能性のある故障を網羅的に検討する手法であるFailure Mode and Effects Analysis（以降，FMEA）をAI技術を用いた機能を含むシステムの故障解析に適用する方法を提案した．AI技術を用いた機能で起こりうる故障モード（判断結果の誤りの種類）を分類し，リスト化した．そのリストを用いて，FMEAを行うことで，システムが生じる故障を予測できるようにした．
(3)AIを用いたシステムの品質モデルの提案： 様々な産業，業務ドメインのソフトウェアに含まれるAI技術を利用した機能に対して求められる品質特性をドメインごとに分類と整理をした．さらに，ドメインごとに重点品質特性に対してSTPAやFMEAを実施する方法を検討した．
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
令和5年度は複雑な構成のシステム向けのSTPA，AI機能を含むシステムのFMEA，ドメインごとのAI機能に求められるAIの品質特性について研究した．以上のことから，複雑かつAI機能を含むシステムのハザード解析ができるようになった．今後は，これらの手法を様々な実システムに適用し，提案した手法の評価を行う．さらに，問題点があれば，上述の研究結果に反映させる．これにより提案手法の有効性を高めていく．
さらに，システムの機能が共鳴することで想定外の大きな出力が生じることでシステムの安全が脅かされるような状況となる可能性があるかを分析する手法であるFunctional Resonance Analysis Method（以降，FRAM）についての調査を開始した．今後はFRAMを複雑かつAI機能を有するシステムに適用する方法を検討する．
令和5年度の進捗は，ほぼ当初の計画通りである．ただし，FRAMに関する調査と研究が，先行研究や適用事例が少ないためやや遅れている．
|
| Strategy for Future Research Activity |
令和6年度は本研究の最終年度であるため，以下の方針で研究を行う．
(1)複雑な構成でAI機能を有するシステムのハザード解析： 本項目については令和5年度までに実施した成果を融合し，実システムのハザード解析を実施する．適用する実システムは組込みシステムを想定している．これは，組込みシステムの場合，複雑な機能に起因する故障（例えば，多重割込み発生時の処理の不具合，想定外の入力データによる計算結果の不具合，システムの資源の取り合いによる処理の遅延による不具合など）のハザード解析を必要としているためである．さらに，近年ではAI機能を搭載した自動運転車やドローンなどが開発されるようになり，AI機能の計算結果に起因するハザードが問題となっているためである．
(2)複雑な構成でAI機能を有するシステムへのFRAMの適用： 上記で例示したハザードの発生は，必ずしもコンポーネント本体の不具合だけとは限らない．例えば，想定外のタイミングで，同時に複数の機能の出力が過剰となり，それらの出力を用いてシステムの制御を行った結果，システムが不安全な状態に陥るような状況（通常は同時に計算結果が得られることが無いと仮定してシステムが設計されていると仮定）について，FRAMを用いてハザード発生の可能性を予測する方法を研究する．
|
| Causes of Carryover |
令和５年度は新型コロナウィルスの影響のために，海外および国内の出張（国際会議，研究会などへの出張）ができなかったことで，使用額に差が生じた．加えて，大学業務（工学部の組織改編への対応，所属学科の学科長など）のために研究成果に係る論文の執筆本数，投稿数が少なかったことで，使用額に差が生じた．
令和６年度は，上記の期間内に研究した内容を国際会議や研究会に積極的に投稿し、参加する．５月初旬の時点で国際会議に１本の論文を投稿し、２本目の論文を執筆中である．今年度中に，後２本程度を執筆する予定である．さらに，そこで得られた指摘を反映した学術論文誌に投稿する予定である．
|
