システム思考とレジリエンスエンジニアリングを用いた安全性分析の試行
ダウンロード数： 108回
発表場所 : SQiP研究会
主査 : 金子 朋子（国立情報学研究所）
副主査 : 髙橋 雄志（日本AI システムサービス）
アドバイザー : 佐々木 良一（東京電機大学）
執筆者 : 吉田 篤（東芝） 、藤原 真哉(NTT コミュニケーションズ) 、里富 豊（リコーITソリューションズ） 、鎌田 桂太郎(アイホン) 、黒田 知佳(テックエンジンソリューションズ) 、松崎 美保(TIS) 、西 啓行(富士通) 、大森 裕介(エプソンアヴァシス)
副主査 : 髙橋 雄志（日本AI システムサービス）
アドバイザー : 佐々木 良一（東京電機大学）
執筆者 : 吉田 篤（東芝） 、藤原 真哉(NTT コミュニケーションズ) 、里富 豊（リコーITソリューションズ） 、鎌田 桂太郎(アイホン) 、黒田 知佳(テックエンジンソリューションズ) 、松崎 美保(TIS) 、西 啓行(富士通) 、大森 裕介(エプソンアヴァシス)
紹介文 :
自動運転は社会的期待が大きい技術だが、安全性において多くの課題を抱えている。その解決のために実際に起きた事故から学ぶことは重要である。
本研究は2018年3月に米国アリゾナ州で発生したUberの自動運転システムの人身事故報告書をSTAMPモデルを用いた事故分析手法CAST(Casual Analysis using System Theory)とハザード分析手法STPA（System-Theoretic Process Analysis)とレジリエンスエンジニアの機能共鳴手法FRAM の3つの分析手法を用いて改めて分析したものである。さらに新たに社会、組織、人を含んだシステム全体を捉えるために5階層モデルの考え方を適応することを試みた。いずれも大変新規性の高い取り組みである。
論文とともに具体的な分析の一連の証跡、分析手順、結果など、利用価値の高い付録も収録しているので、ぜひ活用してほしい。
自動運転は社会的期待が大きい技術だが、安全性において多くの課題を抱えている。その解決のために実際に起きた事故から学ぶことは重要である。
本研究は2018年3月に米国アリゾナ州で発生したUberの自動運転システムの人身事故報告書をSTAMPモデルを用いた事故分析手法CAST(Casual Analysis using System Theory)とハザード分析手法STPA（System-Theoretic Process Analysis)とレジリエンスエンジニアの機能共鳴手法FRAM の3つの分析手法を用いて改めて分析したものである。さらに新たに社会、組織、人を含んだシステム全体を捉えるために5階層モデルの考え方を適応することを試みた。いずれも大変新規性の高い取り組みである。
論文とともに具体的な分析の一連の証跡、分析手順、結果など、利用価値の高い付録も収録しているので、ぜひ活用してほしい。
概要 :
経時的な問題の抽出や要素間の関係性の図示、成功要因からの安全性分析技術で想定外を想定できるということを仮定し、AI を含んだシステムの安全性の検証を行った。実際に起きた自動運転レベル3 の事故を事例にシステム理論の事故モデルSTAMP に基づく事故分析手法CAST とリスク分析手法STPA、並びにレジリエンスエンジニアリングに基づくリスク分析手法FRAM の3 つの分析手法を効率的に運用することで想定外を想定した安全性向上を目指した。これらはそれぞれ異なる特徴をもち、1 つの事例に適用し比較した事例はない。さらにCAST 分析に、新たに5 階層モデルの考え方を適応することを試みた。その結果、これらの分析手法により事故報告書にない改善勧告を導出することができた。
経時的な問題の抽出や要素間の関係性の図示、成功要因からの安全性分析技術で想定外を想定できるということを仮定し、AI を含んだシステムの安全性の検証を行った。実際に起きた自動運転レベル3 の事故を事例にシステム理論の事故モデルSTAMP に基づく事故分析手法CAST とリスク分析手法STPA、並びにレジリエンスエンジニアリングに基づくリスク分析手法FRAM の3 つの分析手法を効率的に運用することで想定外を想定した安全性向上を目指した。これらはそれぞれ異なる特徴をもち、1 つの事例に適用し比較した事例はない。さらにCAST 分析に、新たに5 階層モデルの考え方を適応することを試みた。その結果、これらの分析手法により事故報告書にない改善勧告を導出することができた。
