モデルのコードは全体のごく一部
MLOpsは、機械学習モデルの開発から本番運用、再学習までを継続的に回すための仕組みと体制を指します。Googleの研究者らによる論文「Hidden Technical Debt in Machine Learning Systems」（NeurIPS 2015）は、実際の機械学習システムのうち機械学習のコードはごく一部で、周辺のインフラの方がはるかに大きく複雑だと指摘しました。同論文は技術的負債として、1つを変えると全体が変わる性質（CACE）、データ依存、フィードバックループ、つなぎのコード、設定の負債、外部環境の変化を挙げています。
工場ではこれに、製造業ならではの要件が加わります。
| 一般的なMLOpsの論点 | 工場で追加される要件 |
|---|---|
| モデルの版管理 | どのロット・シリアルをどの版で判定したかを品質記録に残す |
| データドリフトの監視 | 材料ロット・季節・品種切替による変化を、MESの履歴と突き合わせる |
| 再学習の自動化 | 再学習は工程変更と同じ変更管理の対象。承認なしに切り替えない |
| A/Bテスト | 品質判定では本番での実験が難しい。シャドー運用で比較する |
| 閾値の調整 | 現場が閾値を変える権限と、その記録 |
版管理する4つの対象
工場のAIで版を管理する対象は、モデルだけではありません。判定結果は次の4つの組合せで決まるので、どれか1つでも記録が欠けると、後から判定を再現できません。
- 学習データとラベル：どの期間・どのラインのデータを、どの判定基準のラベルで使ったか
- 特徴量の定義と前処理：画像の切り出し位置、振動の周波数帯、集計の時間窓など
- モデル：学習済みの重みと、学習時の設定
- 閾値と判定ルール：良否を分ける閾値、グレーゾーンを人に回す範囲
この4つをまとめて1つの「判定構成の版」として登録し、版番号を付けるのが実務的です。ラベルの版の考え方は製造AIの正解ラベルで扱っています。
判定結果をロット履歴に記録する
判定結果をMES（またはトレーサビリティを持つ品質システム）に記録するときは、最低限、次の項目を1レコードに入れます。
- ロット番号またはシリアル番号、工程、設備（エッジ機）
- 判定日時、判定結果、判定スコア
- 判定構成の版番号
- 人の再判定があった場合はその結果、再判定者、日時
この記録があれば、後から「判定構成v3.1に問題があった」と分かったときに、その版で判定したロットを特定して再検査の範囲を絞れます。記録がなければ、期間で範囲を決めるしかなく、対象が大きく広がります。判定結果の戻し方はAIの推論結果をMESに書き戻すで詳しく扱っています。
切り替えはシャドー運用から段階的に
新しいモデルや閾値をいきなり本番に入れるのではなく、次の段階で切り替えます。
- シャドー運用：新しい版を本番と並行して動かし、判定結果は記録だけして使わない。現行の版や人の判定との差分を分析する
- 限定適用：1ライン・1品種など範囲を限って新しい版の判定を使う。再判定率と見逃しを監視する
- 全面適用：承認を得て対象を広げる。旧版はロールバック用に保持する
監視する指標
本番で監視する指標は、モデルの精度そのものより、精度の低下を早く示す代理指標が中心になります。正解ラベルは後からしか分からないためです。
- 判定スコアの分布：平均やばらつきが急に変わったら、撮像条件や材料の変化を疑う
- 不良判定率と人の再判定で覆った率：再判定で覆る率が上がっていれば、モデルが現状に合っていない
- 入力データの統計：画像の明るさ、センサ値の範囲、欠損率
- 推論時間とエッジ機の稼働状況
ドリフトの種類と検知の方法はAIモデルのドリフト監視、再学習の承認手続きはAIモデルの再学習を誰がいつ回すかで扱います。
よくある質問
品質監査でモデルの版の記録を求められることはありますか？
顧客監査や規制対応で、自動判定の仕組みとその変更管理の説明を求められる場面は増えています。医薬品や医療機器のように、システムのバリデーションが求められる業種では特に重要です。記録がない状態で説明するのは困難です。
再学習は自動化すべきですか？
データの収集と学習・評価の実行は自動化して構いません。本番への切り替えは、評価結果を人が確認して承認する手続きを残すのが工場では一般的です。品質判定に使うモデルを無承認で切り替えるのは、工程を無断で変更するのと同じリスクがあります。
小さな工場でもここまで必要ですか？
すべてを最初から作る必要はありません。最低限、判定結果に版番号を付けて記録すること、閾値の変更を記録することの2点は、1台目から実施してください。後から追加するのは難しい部分です。
この記事に出てくる用語
AIは「データ基盤」で決まる
PoCは成功したのに本番で止まる。原因の多くはモデルではなく、MESと設備データの側にある 全130本
- MESとAIの関係：ロット・作業指示・品質判定がAIの精度を決める理由
- 製造業AIが本番で止まる7つの理由：PoCは成功したのにラインに載らない構造
- 製造業のAI-OCR：紙の検査記録・点検表・ミルシートをデータ化する手順
- データ基盤の段階的導入ロードマップ：ユースケースから逆算する8ステップ
この記事を書いた人
DELMIA Apriso を中核とした MES / 製造DX の導入・運用・人材育成と、製造業向けAIの調査・開発・教育を手がけるITコンサルティング企業。ISO 9001:2015 / ISO 27001:2022 認証取得。 日本・中国・米国で製造業のMES・データ基盤・AI導入を手がけた実務者が、欧米・中国の一次情報にあたって書いています。
