責任は3つの層に分けて考える
AIの誤判定で不良品が顧客に届いた場合、責任の問題は1つではありません。誰に対して、どの根拠で責任を負うかによって、次の3つの層に分かれます。
層1と層2は、AIを使ったかどうかで変わりません。製造物責任法は、製品に欠陥があり、それによって生命・身体・財産に損害が生じた場合に、製造業者に過失がなくても責任を負わせる仕組みです。検査をAIで行ったか人で行ったかは、欠陥の有無の判断には関係しません。顧客との品質協定も、検査工程の手段ではなく出荷品の品質を約束しています。
AIで変わるのは層3だけです。そして層3は、契約で何も決めていなければ、発注側がほとんど求償できない形になっているのが普通です。AIベンダーの標準契約書は、性能を保証しないこと、損害賠償を委託料の範囲に限ることを定めていることが多いからです。
考え方1：AIを「最終判断」に使うかを先に決める
責任の所在を左右する最大の要素は、AIの判定をそのまま出荷判定に使うのか、人の判定を補助するのに使うのかです。この設計は技術の問題ではなく、品質保証の方針として決めるものです。
| 設計 | AIの役割 | 人の役割 | 誤判定時の論点 |
|---|---|---|---|
| A：スクリーニング | 明らかな良品を通し、疑わしいものを人に回す | 疑わしいものを最終判定 | AIが良品とした中の見逃しが問題になる |
| B：ダブルチェック | 人の判定に加えてAIも判定 | 両方の結果を見て最終判定 | 責任は人の判定に残る。AIは見逃しを減らす役割 |
| C：自動判定 | 良否をAIが最終判定 | 定期的な抜き取りと監視 | AIの性能の管理そのものが品質保証の対象になる |
設計Aは省人化の効果が大きい一方、「AIが良品と判定したもの」に見逃しがあると、人の目を一度も通らずに流出します。そこで、AIが良品とした中から一定数を抜き取って人が確認する運用を加えるのが一般的です。3つの設計の詳しい比較はAIと人の役割分担の3パターンを参照してください。
考え方2：ベンダーとの責任分界を契約と運用で決める
層3の分担は、契約書と運用の取り決めの両方で決めます。AIの誤判定の原因は、モデルの欠陥とは限らないからです。照明が切れていた、カメラの位置がずれていた、学習に使っていない新しい品番を流していた、といった運用側の原因であれば、ベンダーに責任を問うのは難しくなります。
契約で決めておくべきことは次のとおりです。
- AIの性能をどの条件で測ったか（評価データ、品番、撮像条件）と、その条件を外れた場合の扱い
- 精度劣化を検知したときの通知と対応の義務。どちらが監視し、どちらが再学習するか
- ベンダーの作業の誤り（設定ミス、誤ったモデルの配布）による損害の扱いと上限
- 原因調査に必要なログ・画像の保存と、調査への協力義務
考え方3：事故の後に説明できる記録を残す
流出が起きたときに顧客や当局へ説明できるかどうかは、記録の有無で決まります。フィジカルAIの課題としても、改ざんできない形のログによる説明可能性が挙げられています。外観検査AIでも同じで、少なくとも次の記録をロットに紐付けて残します。
- 判定に使ったモデルの版と、その版の評価結果
- 判定の閾値と、閾値を変更した履歴（誰が、いつ、なぜ）
- 判定対象の画像と判定スコア（保存期間は製品の保証期間を目安に決める）
- 撮像条件の点検記録（照明・カメラの日常点検）
- 人の確認・抜き取りの記録
画像の保存は容量の負担が大きいため、全数を長期保存できない場合は、不良判定と境界付近のスコアの画像を優先して残し、良品判定の画像は抜き取りで残す、といった優先順位を決めておきます。保存期間を決めずに古いものから自動で消える設定のままにしていると、流出が判明したときには該当ロットの画像が残っていない、ということが起こります。
これらはMESのロット実績に紐付けておくと、流出が判明したときに対象ロットと同じ条件で判定された範囲をすぐに特定できます。設計は外観検査AIの判定結果をMESに戻す方法とモデルの版管理を扱った工場向けMLOpsで扱っています。
よくある質問
AIベンダーに製造物責任を問うことはできますか
外観検査AIのソフトウェアは、通常は製造物責任法の対象となる「製造物」（動産）に当たらないと考えられています。そのため、ベンダーへの責任追及は主に契約に基づくものになります。AIが組み込まれた検査装置を購入した場合は、装置としての扱いになる余地があり、個別の判断が必要です。
人の目視検査も見逃しがあるのに、AIだけ厳しく管理する必要がありますか
人の検査にも見逃しはありますが、人は異常な状況に気づいて手を止めることができます。AIは学習していない状況でも自信を持って誤判定することがあるため、条件の監視と抜き取り確認で補う必要があります。人の検査の実績も測っておくと、AIの管理水準を現実的に決められます。
経済産業省でAIの責任について議論は進んでいますか
総務省の資料（2025年12月）によると、経済産業省は「AI利活用における民事責任の在り方に関する研究会」を設けています。結論や指針が示された場合は、自社の取り決めを見直してください。
この記事に出てくる用語
この記事を書いた人
DELMIA Apriso を中核とした MES / 製造DX の導入・運用・人材育成と、製造業向けAIの調査・開発・教育を手がけるITコンサルティング企業。ISO 9001:2015 / ISO 27001:2022 認証取得。 日本・中国・米国で製造業のMES・データ基盤・AI導入を手がけた実務者が、欧米・中国の一次情報にあたって書いています。
