ブラックボックス

AI外観検査の判断がブラックボックスであることに対する立ち向かい方新着!!

「ISO 13485（医療機器の品質マネジメントシステム）に準拠しているが、外観検査にAIを使う場合、AIモデルはどう管理すればよいのか？」「自動車部品の検査にAIを導入したいが、判断基準の根拠を品質文書として明確にできるのか？」

当社には、このような問い合わせをいただくことがあります。共通しているのは、既存の品質マネジメントシステム（QMS）の枠組みのなかで、AIをどう位置づけ、何を管理文書として残せばよいのかわからない、という戸惑いです。

ISO 13485は医療機器の設計・製造に関わる厳格なQMS規格であり、トレーサビリティや変更管理への要求が非常に高い。自動車業界では、検査の判定根拠を工程FMEAや検査基準書に紐づけて管理する文化が根付いています。いずれも「なぜそう判定したのか」の根拠を文書で示すことを前提とした世界です。そこにブラックボックスと呼ばれることもあるAIを持ち込もうとしたとき、管理の「つなぎ方」がわからなくなるのは自然なことです。