外観検査AIの"管理できること・できないこと"を理解する
── ISO/IEC 42001に基づく運用管理の実践

「ISO 13485（医療機器の品質マネジメントシステム）に準拠しているが、外観検査にAIを使う場合、AIモデルはどう管理すればよいのか？」「自動車部品の検査にAIを導入したいが、判断基準の根拠を明確にできるのか？」

当社には、このような問い合わせをいただくことがあります。共通しているのは、既存の品質マネジメントシステム（QMS）の枠組みのなかで、AIをどう位置づけ、運用し、何を管理文書として残せばよいのかわからない、という戸惑いです。

ISO 13485は医療機器の設計・製造に関わる厳格なQMS規格であり、トレーサビリティや変更管理への要求が非常に高い。自動車業界では、検査の判定根拠を工程FMEAや検査基準書に紐づけて管理する文化が根付いています。いずれも「なぜそう判定したのか」の根拠を明確にし、文書で示すことを前提とした世界です。そこにブラックボックスと呼ばれることもあるAIを持ち込もうとしたとき、管理の「つなぎ方」がわからなくなるのは自然なことです。

本記事では、この問いに対する一つの答えとして、外観検査AIにおいて人が管理できる項目を整理し、ISO/IEC 42001の考え方に沿ってどう管理すればよいかを具体的に解説します。前回のコラム「AI外観検査を正しく選定・運用するための「AI規格・ガイドライン」実践ガイド」の続編として、今回は導入済み・運用中の方を対象に、管理の「中身」にフォーカスします。

この記事でわかること

• AIに対して「管理できること」と「管理できないこと」の本質的な違い。
• 外観検査AIを現場で適切に管理するための具体的な管理項目とその内容。
• ISO 13485や自動車業界のQMSとAI管理を「つなぐ」考え方のヒント。
• 運用ルールを整備することが、精度維持・向上においてなぜモデルの作り込みと同等以上に重要なのか。

前提：AIに対して「管理できること」と「管理できないこと」を区別する

外観検査AIを正しく運用するためにまず重要なのは、人が管理できる範囲と、そうでない範囲を正確に理解することです。この区別なしに管理ルールを設計しようとすると、実態に即さない過剰な期待や、逆に見落とした管理項目による品質リスクが生じます。

管理できないこと（＝受け入れるべき不確かさ）

代表的な例を挙げると、まず「生産される全製品に対する検査精度の事前保証」があります。日々の生産ラインを流れる製品のうち、どのような異常品がどの程度の頻度で発生するかは、現実には事前に把握できません。したがって、「あらゆる製品に対して常に〇〇%の精度を保証する」という管理は原理的に不可能です。

次に、AIモデル内部のパラメータ（重み）の一つひとつを管理することも現実的ではありません。ニューラルネットワークは数百万から数億に及ぶパラメータで構成されており、その個々の値を人が意味として理解・追跡するのは不可能です。

この点に関連して、「説明可能AI（XAI：eXplainable AI）を使えばAIの判断根拠を可視化できるのでは？」という声を聞くことがあります。XAIには段階があり、整理して理解することが重要です。

第一段階として、「AIがどの領域に注目して判定したか」をヒートマップで可視化する技術はすでに実用レベルに達しており、当社製品を含む一部の外観検査AIにも実装されています。判定結果とあわせて「どこが異常として検出されたか」を視覚的に確認できるこの機能は、現場での運用確認や検査員の判断補助として実際に役立ちます。

一方、XAIが本質的に目指す領域、すなわち「なぜAIはその箇所を異常と判断したのか」という論理的根拠まで人が検証・保証できる形で説明する技術は、研究としては進んでいるものの、外観検査AIのような産業用途において品質管理の記録として標準的に運用できる実績・方法論はまだ確立されていません。ヒートマップが「どこを見たか」を示すのに対し、「なぜそう判断したか」の説明はAIモデルの内部構造に踏み込む話であり、現時点では人が管理・保証できる手段として位置づけるには時期尚早です。

XAIの発展は今後の外観検査AIの管理手段を大きく変える可能性を持っています。しかし現時点での運用管理の答えは、AIの内部説明に頼ることではなく、人が管理できるプロセスを設計・記録することにある、というのが本記事の立場です。

管理できること（＝人が意図的にコントロールできる変数）

一方、人が定義・記録・改善できる管理項目は明確に存在します。端的に言えば、「決められた対象物を検査したとき、正しく検査結果が得られるかどうか」を確かめるプロセスとその基準を設計・管理することがその中心です。

ISO/IEC 42001が求めるのはまさにこの発想です。「AIは完全ではない」という前提に立ったうえで、人が管理できる項目を確実に管理し、継続的に改善し続けるためのマネジメントシステムを構築すること。それがAI特有の不確かさに向き合う正しい姿勢です。

外観検査AIにおける具体的な管理項目

以下では、外観検査AIの運用において管理すべき主要な項目を個別に解説します。各項目はISO/IEC 42001における「データガバナンス」「リスク管理システム」「人間による監視」「継続的な記録保持」などの要求事項に対応しています。

① 学習データの管理

AIの検査精度は、何を学習させるかで大きく左右されます。学習データの管理では、まず「どの画像を学習に使うか」の選定基準を明文化することが基本です。良品・不良品それぞれの定義と、採用する画像の条件（撮影条件・品質基準など）をドキュメント化します。

また、学習用データと検証用データを明確に分離して管理することは、AIの性能を正しく評価するための大前提です。前回コラムでも触れたとおり、学習に使ったデータだけで性能を確認するレポートは信頼できません。

さらに、データのバージョン管理も不可欠です。「いつ、どのデータを使って学習したか」を記録しておくことで、精度の変化が起きたときに原因を追跡できます。現場で未知の欠陥が発生した際のデータ収集・追加フローも、事前にルール化しておく必要があります。

加えて、ラベリング（画像への正解付け）を誰が行い、誰が確認・承認するかの担当者と承認者の設定も重要です。属人化すると担当者の異動や退職で品質基準が揺らぐリスクがあります。

② 学習パラメータの管理

AIの学習を実行する際には、エポック数（Epochs）や学習率など、ソフトウェア上で設定できるパラメータが存在します。これらは内部の重みパラメータとは異なり、人が意図的に設定・変更できる管理対象です。

管理の要点は、どのパラメータ設定で学習した結果が現在本番で動いているかを台帳として記録しておくことです。変更履歴も含めて管理することで、性能変化との因果関係を後から分析できるようになります。

重要なのは、パラメータの変更を誰でも自由に行える状態にしないことです。変更には承認フローを設け、「何のために変更したか」「変更後に性能を確認したか」を記録する運用を徹底します。

③ 判定閾値の管理

AIの推論は「この画像が不良品である確率〇〇%」という形で出力されます。この数値に対して「どのラインを超えたらNGと判定するか」を定めるのが閾値（しきい値）です。

閾値の設定は、一見エンジニアのチューニング作業に見えますが、実態は「どこまでの見逃しを許容し、どこまでの過検出（Overkill）を許容するか」という品質方針の意思決定です。現場・品質保証担当・管理者が合意したうえで設定し、その根拠を文書化します。

閾値を変更する場合も、承認フローと変更記録が必要です。「少し数値を変えただけ」という認識で非公式に変更されると、後から性能トラブルの原因が追えなくなります。

④ 学習結果の採用基準と再学習の運用管理

新たにAIを学習させた結果が出たとき、どのような評価指標で合格とみなし、本番適用を承認するかのルールが必要です。適合率・再現率・F値などの指標を用いて合格基準を定め、誰が何を確認して承認するかの手順を明文化します。

また、再学習をいつ実施するかのトリガー定義も重要な管理項目です。例えば「定期的（月次・四半期ごと）に実施する」「現場で新種の欠陥が確認されたとき」「日常検証で判定精度の低下が検出されたとき」など、条件を事前にルール化しておきます。

前回コラムでも触れた「ループバック方式」の考え方もここに関連します。現場でAIが自動的に追加学習するような仕組みは、管理外の変化を招くリスクがあるため、再学習は必ず管理下で実施し、承認を経てから本番反映するフローを維持することが推奨されます。

⑤ AI推論の確からしさの検証方法と判定基準

「AIが現在も正しく動作しているか」を日常的・定期的に確認する仕組みが必要です。これはISO/IEC 42001が要求する「人間による監視」の実践的な形です。

具体的には、あらかじめ結果が既知の検証用サンプル画像（良品・不良品のマスター画像）を用意し、始業時や定期的なタイミングで推論結果を確認する手順を設けます。目視検査における「限度見本」に近い位置づけです。

確認の結果をどう評価するかの判定基準（例：「既知の不良品画像が全てNGと判定されること」など）を文書化したうえで、検証記録を保管します。もし基準を外れた結果が出た場合の対応フロー（生産停止・再学習検討など）もあわせて定めておきます。

品質マネジメントの観点から加えるべき管理項目

上記の管理項目に加え、ISO 9001的なQMS観点との接続を考えると、以下の項目も整備する必要があります。

不適合品発生時の処置方法

AIが見逃した不良品が後工程や市場で発見された場合の是正・再発防止フローを定めます。「何が起きたのか」「なぜ見逃したのか」「どう対処するか」を記録し、必要に応じて再学習や閾値見直しにつなげます。

操作者への教育と権限管理

AIシステムを操作できる担当者の範囲（権限設定）、教育すべき内容（操作手順・日常検証方法・異常時対応）と教育記録の管理を整備します。誰でも操作できる状態は管理のブラックボックスを生みます。

変更管理（カメラ・照明・ソフトウェアのアップデート等）

AIの判定に影響を与える可能性のある変更は、変更前後でのAI再検証を義務付ける必要があります。カメラや照明の交換・位置変更、ソフトウェアのバージョンアップなどは「ハードウェアの話」と切り離されがちですが、これらは推論結果に直接影響します。変更管理のルールを設けることで、知らないうちに精度が変わっていたという事態を防げます。

ISO 13485・自動車業界のQMSと照らし合わせて：「ブラックボックス問題」への回答

ここまで、外観検査AIにおいて人が管理できる項目を具体的に整理してきました。これを踏まえて、冒頭で挙げた問い──「AIはブラックボックスだから、既存のQMSに組み込んで管理できない」──に対して、正面から答えます。

結論から言えば、「AIはブラックボックスだから管理できない」は誤解です。確かに、ニューラルネットワーク内部の重みパラメータを一つひとつ人が解釈することは不可能です。しかし、管理とはモデルの内部を解明することではありません。ISO 13485が求めるトレーサビリティも、自動車業界が工程FMEAや検査基準書に求める判断根拠も、その本質は「何を入力条件として・どのプロセスを経て・どの基準で判定したか」を文書で追跡できることです。そしてこれは、本記事で整理した管理項目をそのまま当てはめることで、AIにおいても実現できます。

具体的に対応関係を整理すると、次のようになります。ISO 13485が要求する設計・開発の変更管理は、学習パラメータの変更履歴管理・再学習後の承認フローが対応します。検証・バリデーション記録は、学習結果の採用基準と日常検証の記録が担います。トレーサビリティは、学習データのバージョン管理と推論ログの保管によって確保できます。自動車業界で求められる判断根拠の文書化については、閾値の設定根拠・検証用サンプルの定義・合否判定基準をセットで文書化することが、その回答になります。

重要なのは、「AIがなぜそのピクセルをNGと判断したか」という推論の内部根拠は示せなくても、「どのデータで学習し・どの閾値で・どのような検証を経てこのモデルを運用しているか」というプロセスの根拠は完全に文書化できる、という点です。規格が求めているのは前者ではなく後者です。目視検査においても「検査員の脳内でどう判断したか」は文書化できませんが、「どの限度見本を基準に・どの訓練を受けた担当者が・どの手順で検査したか」は管理できます。AIの管理もこれと同じ構造です。

したがって、ISO 13485や自動車業界のQMSをすでに運用している企業がAIを導入する場合に必要なのは、管理の枠組みをゼロから作り直すことではありません。既存のQMS文書体系──変更管理手順書・検証記録様式・教育訓練記録──に、本記事で整理したAI固有の管理項目（学習データ台帳・パラメータ変更記録・閾値設定根拠書・検証手順書）を追加・接続することが、現実的かつ正しいアプローチです。

まとめ：「管理できる項目を確実に管理する」ことの意味

AIモデルの精度を高めることは、もちろん重要です。しかし、どれほど高精度なモデルを構築しても、現場で使い続けていくなかで精度を維持・向上させるための運用ルールがなければ、その精度は時間とともに劣化します。

AIには本質的な不確かさが伴います。それを認識したうえで、管理できる項目を洗い出し、明文化し、記録し、改善し続けること。それが、ISO/IEC 42001が「AIマネジメントシステム」として求めていることの本質です。

本記事で整理した管理項目を改めて俯瞰すると、いずれも「人が判断・記録・改善できる変数」です。AIに任せるのではなく、AIを使う人間の側が主体的に管理の枠組みを設計する。その視点こそが、AIを現場で信頼できるツールとして使い続けるための根幹です。

あなたの現場では、何を、誰が、どのように管理していますか？まずその問いを起点に、管理の抜け漏れを棚卸しすることをお勧めします。

外観検査AIの運用管理体制の整備や、ISO/IEC 42001への対応に不安がある方は、ぜひ当社へご相談ください。現場の実態に即した運用ルールの設計を共に考えます。