役割分担は3つの型に分けられる
製造業でAIと人の役割を分ける設計は、次の3つの型に整理できます。違いは、最終判定を誰が下すかと、人が見る件数です。
| 型 | 流れ | 最終判定 | 人の確認件数 | 向く場面 |
|---|---|---|---|---|
| A. 全数AI＋抜き取り人 | AIが全数を判定し、人は抜き取りでAIの判定を監査する | AI | 少ない | 判定基準が明確で、AIの性能が安定している工程 |
| B. AI一次判定＋人の最終判定 | AIが疑わしいもの（またはグレーゾーン）を選び、人が最終判定する | 人 | 中程度 | 導入初期、限度見本が曖昧な不良、安全部品 |
| C. 人の判断支援 | AIは情報や候補を示すだけで、判断と操作は人が行う | 人 | 全件 | 保全の診断、計画の立案、生成AIによる文書作成 |
A. 全数AI＋抜き取り人
AIが全数を判定し、人は一定の割合で抜き取ってAIの判定が正しいかを監査します。人の工数は最も少なくなりますが、AIの見逃しはそのまま流出につながるため、品質保証の責任をAIの判定に預けることになります。
この型を選ぶ条件は、判定基準が明確で、評価データで見逃し率が品質保証の求める水準を満たし、撮像条件などが安定していることです。抜き取り監査の結果は、AIの精度劣化を早く見つける監視の役割も果たします。監査で見逃しが見つかったら、しきい値の見直しや再学習につなげる手順を決めておきます。
B. AI一次判定＋人の最終判定
AIが「疑わしい」と判定したもの、あるいはスコアがグレーゾーンに入ったものだけを人が確認し、最終判定を下します。人が全数を見ていた従来の検査に比べて確認件数を減らしつつ、最終判定の責任は人に残せます。
導入初期や、限度見本が人によって揺れる不良、安全にかかわる部品に向きます。人が下した判定をMESの検査実績にAIのスコアと一緒に記録すれば、再学習のデータになり、AIに任せる範囲を段階的に広げられます。しきい値の引き方は見逃しと過検出のトレードオフを参照してください。
注意点は、AIが「良品」と判定したものに見逃しがあっても、人はそれを見ないことです。AIの良品判定側にも抜き取り監査を残すと、この穴を塞げます。
C. 人の判断支援
AIは異常の兆候、過去の類似事例、候補となる計画や文書の下書きを示すだけで、判断と操作は人が行います。予知保全で「この軸受に異常の兆候がある」と知らせ、保全担当が点検の要否を決める使い方や、生成AIが過去の不具合報告から原因の候補を挙げ、技術者が検証する使い方がこれに当たります。
AIエージェントが設備や業務システムに書き込む場合も、この型を基本にします。Deloitteは2025年9月のレポートで、製造業のエージェント活用に調達担当・生産技術者・生産計画担当による承認ゲートを置くことを推奨し、産業機械・航空宇宙防衛では作業時間の81%以上が今後も人間主導で残ると推計しています。エージェントの承認設計はHuman-in-the-loopの設計で扱っています。
型の選び方：責任と工数のどちらを優先するか
型は次の2つの問いで選びます。
- 見逃しが出たとき、品質保証としてAIの判定を根拠に説明できるか。できないならA型は選ばない
- 人の確認件数を、現場の工数で吸収できるか。吸収できないならC型は検査には向かない
多くの工場では、B型で始めてデータとAIの性能が安定してからA型へ移る、という段階的な進め方をとります。移るときの判断基準（見逃し率、監査の結果、期間）を最初に決めておくと、いつまでもB型にとどまる事態を防げます。逆に、A型で運用していても、新しい品種の立ち上げや材料の変更の直後は一時的にB型に戻すなど、状況に応じて型を行き来する運用も有効です。
型ごとに記録しておくデータ
どの型でも、人とAIの判定をMESの検査実績に残しておくと、型の見直しや再学習の根拠になります。記録する項目は次のとおりです。
| 記録項目 | A型 | B型 | C型 |
|---|---|---|---|
| AIのスコアと判定 | 全数 | 全数 | 提示した内容 |
| 人の判定 | 抜き取り分 | 確認した分 | 最終判断 |
| 人とAIの判定の不一致 | 監査で見つかった分 | 確認した分 | 提示を採用しなかった理由 |
| モデルの版数・しきい値 | 全数 | 全数 | 提示時点 |
不一致の記録は特に重要です。A型では見逃しの兆候に、B型ではグレーゾーンを狭める学習データに、C型ではAIの提示が現場の判断とずれている箇所の発見に使えます。
よくある質問
最初から全数AIにしてはいけませんか
評価データで見逃し率が品質保証の求める水準を満たし、撮像条件などが安定しているなら可能です。ただし導入直後は想定外の不良が出やすいため、一定期間は人の確認を並行させるのが安全です。
人の確認件数を減らすにはどうすればよいですか
グレーゾーンを狭めることです。人の判定を学習データに戻して再学習する、撮像条件を改善してスコアの分布の重なりを減らす、の2つが効きます。
AIの判定ミスで不良が流出したら誰の責任ですか
社内では、AIを工程に組み込むと決めた品質保証の責任者が説明責任を負うのが一般的です。ベンダーとの責任分担は契約で決めるため、AI開発契約の論点も確認してください。
この記事に出てくる用語
この記事を書いた人
DELMIA Apriso を中核とした MES / 製造DX の導入・運用・人材育成と、製造業向けAIの調査・開発・教育を手がけるITコンサルティング企業。ISO 9001:2015 / ISO 27001:2022 認証取得。 日本・中国・米国で製造業のMES・データ基盤・AI導入を手がけた実務者が、欧米・中国の一次情報にあたって書いています。
