原則より「判断の場面」で考える
AI推進法に基づく適正性指針（2025年12月決定）は、AIガバナンス、透明性、安全性、事業継続、関係者への配慮の5分野を扱っています。NIST AI RMFやISO/IEC 42001も、公平性や説明可能性などの原則を挙げています。しかし、工場でAIを使う人が直面するのは「この場合どうするか」という具体的な判断で、原則を読んでも答えは出ません。
そこでこの記事では、製造業で判断に迷いやすい5つのケースを取り上げます。どのケースにも唯一の正解はありませんが、判断の手がかりと、誰が決めるべきかは示せます。
ケース1：AIで検査を自動化したら、見逃しが人より少し増えた
外観検査をAIに置き換えたところ、検査員の負担は大きく減ったが、評価データでの見逃し率は人の検査よりわずかに高かった、という状況です。省人化の効果を取るか、見逃しの増加を許さないか、という判断になります。
判断の手がかりは、見逃した不良が誰にどんな影響を与えるかです。外観上の軽微なキズであれば、顧客と合意した品質水準の中で判断できます。一方、保安部品や安全に関わる欠陥であれば、人の検査より悪くなることは許容しにくいです。この判断は、AIの担当者ではなく品質保証部門が、顧客との品質協定を踏まえて決めます。AIと人の組み合わせで人の検査以上の水準にする設計も検討します（AIと人の役割分担の3パターン）。
ケース2：作業分析AIのデータで、作業の遅い人がわかってしまった
工程改善のために導入した作業動画の分析で、特定の作業者の作業時間が長いことがわかりました。上司はこの情報を指導や配置に使いたいと考えています。
導入時に「個人の評価には使わない」と説明していたなら、使うべきではありません。目的を変える場合は、労使の協議と本人への説明が先です。また、作業時間が長い理由が、経験の浅さ、体格に合わない治具、別の作業の割込みなど、本人以外にあることも多いです。個人を責める前に、工程の側の要因を調べるのが改善活動の原則でもあります。EUではこの種の利用は高リスクに当たります（作業者を監視するAIの規制）。
ケース3：AIで作った文書やAIで検査した製品を、顧客に何と説明するか
生成AIで下書きした技術資料を顧客に提出する、AI検査に切り替えた製品を納入する、という場面で、AIの関与をどこまで伝えるかが問題になります。
検査方法の変更は、顧客との品質協定で届出の対象になっていることがあり、その場合は伝える義務があります。技術資料については、内容の正確さに自社が責任を持つ限り、AIで下書きしたこと自体を毎回伝える必要は通常ありません。ただし、顧客がAIの利用について確認を求めている場合や、顧客の情報をAIに入力した場合は、正直に答えられる状態にしておく必要があります。取引先からの確認への準備は顧客監査・取引先からのAI利用確認への対応で扱っています。
ケース4：AIの判定が、特定の品番やラインで偏っている
外観検査AIの過検出が、特定の色の製品や、特定のラインで撮影した画像に集中している、という状況です。製造業での「公平性」は、人に対する差別よりも、こうした条件による性能の偏りとして現れます。
偏りは、学習データの中でその条件の画像が少なかった、照明やカメラの条件が違う、といった原因で起きます。全体の精度が合格ラインを満たしていても、条件ごとの性能を分けて確認しないと気づけません。評価の段階で、品番、ライン、シフト、季節などの条件ごとに見逃し率と過検出率を分けて測ることを、評価の手順に入れておきます。
ケース5：AIの提案を現場が覆したが、結果的にAIが正しかった
予知保全AIが警報を出したが、保全担当者が経験から問題なしと判断して運転を続け、その後に故障した。あるいは逆に、AIの提案に従ったら問題が起きた。どちらの場合も、責任の所在と、次にどうすべきかで現場が迷います。
人が最終判断をする設計にしている以上、人がAIの提案を覆す権限は守る必要があります。そのうえで、覆したときに理由を記録する仕組みを作ります。記録が溜まれば、AIが正しかった場面と人が正しかった場面を後から分析でき、AIの改善にも、人の判断基準の見直しにも使えます。結果だけを見て個人を責める運用にすると、現場はAIに従うだけになり、人が判断する意味がなくなります。
よくある質問
AI倫理の方針を作る必要はありますか
大企業では方針を公表する例が増えていますが、まず必要なのは、上の5つのような具体的な場面での判断基準です。方針だけを作っても、現場の判断には結びつきません。
製造業のAIで「公平性」はどのくらい問題になりますか
人に関するAI（採用、評価、配置）では差別の問題として重要です。品質や設備のAIでは、条件による性能の偏りとして現れ、品質のばらつきや見逃しにつながるため、品質管理の問題として扱うのが実務的です。
この記事に出てくる用語
この記事を書いた人
DELMIA Apriso を中核とした MES / 製造DX の導入・運用・人材育成と、製造業向けAIの調査・開発・教育を手がけるITコンサルティング企業。ISO 9001:2015 / ISO 27001:2022 認証取得。 日本・中国・米国で製造業のMES・データ基盤・AI導入を手がけた実務者が、欧米・中国の一次情報にあたって書いています。
