28. 列車前方監視AIによる判断ミス時の要因推定手法

　鉄道において、これまで目視によって行われていた診断や判断業務の省力化・自動化のために、列車前方から撮影した画像にAIを適用する取り組みが進められています。
　さらに、今後、列車前頭に要員が乗務しない自動運転時の安全性の判断業務等への活用を想定すると、万一、AIの判断ミスによって事故等が起きた場合に、その要因の把握は極めて重要ですが、現状では適当な手法がありません。
　そこで、列車前方の支障物を検知するための前方監視システムを対象として、検知対象の見逃し等のAIの判断ミスの要因を推定する手法を開発しました。。

　開発した手法では、撮影方法等に起因するミスを調べる入力画像の検査、AIの認識方法の違い等に起因するミスを調べるAI自体の能力の検査、学習データの偏り等に起因するミスを調べる学習データの検査の３段階に分けて、要因を推定する手法を開発しました（図１）。
　入力画像の検査では、画像処理によりブレや明るさ等を変更して、AIが検知する条件を探索することで、画像の撮影条件設定等に影響する判断ミスの要因を推定します（図２）。
　AI自体の能力の検査では、種類や仕組みが異なる複数のAIの能力を比較し、検知できる条件を探索することで要因を推定します。
　学習データの検査では、画像特徴量の分布や類似画像検索により、判断ミスが起きた状況と類似の特徴を持つ画像が学習データ中に含まれる割合等を解析し、学習データの偏りを確認します。
　215時間の前方監視映像から危険な状況の評価用データ約75,000枚を作成し、その中でAIが見逃した画像2,668枚に対して開発した手法を適用したところ、見逃しの要因を全て推定できました。

　AIの判断ミスによって事故等が発生した際には、この要因推定手法により、検討すべき対策のターゲットを絞ることができます。
　また、AIを用いたシステム開発時の性能確認にも活用できます。