定石はAIを安全機能の外に置くこと
AIロボットセルの安全設計で、現時点の定石ははっきりしています。AIは「何をどこへ動かすか」の判断を担い、人を守る安全機能は、AIから独立した従来の安全PLC・安全センサ・安全リレーで構成します。AIがどんな指令を出しても、安全機能が速度・力・領域を監視し、逸脱すれば止める構成です。
この構成をとる理由は、機能安全の規格にあります。
| 規格 | 内容 | AIとの関係 |
|---|---|---|
| IEC 61508 | 電気・電子・プログラマブル電子の安全関連系の機能安全。安全度水準（SIL）で要求を表す | 決まった仕様どおりに動くことを、設計手法と検証で示す前提。学習で振る舞いが決まるAIの評価方法は定めていない |
| ISO 13849 | 機械の制御システムの安全関連部。パフォーマンスレベル（PL）で要求を表す | ロボットセルの安全機能で広く使われる。同じくAIを安全機能に使う前提にはなっていない |
| ISO/IEC TS 22440 | AI固有のリスクを扱う新しい技術仕様 | 機能安全とAIのリスクをつなぐ位置づけとして、NVIDIAの安全システムの解説で言及されている |
IEC 61508やISO 13849の考え方では、安全機能の仕様を定め、それを満たすことを設計と試験で示します。学習したAIは、同じような入力でも微妙に違う出力を返すことがあり、どんな入力でも安全な出力を返すことを網羅的に示すのは困難です。そのため、AIを安全機能の中に入れると、既存規格の枠組みで安全を説明できなくなります。
中間層：AIの指令を補正する技術
AIと安全機能の間に、AIの指令をリアルタイムに点検・補正する層を置く研究も進んでいます。日立は2026年9月14日、フィジカルAI向けのガードレール技術を発表しました。ナレッジグラフで危険を分析し、Control Barrier Function（制御バリア関数）で制御指令をリアルタイムに補正する仕組みです。公開仕様にもとづく評価で主要ハザード22件のうち20件を抽出し、自動運転のシミュレーションでは従来の緊急停止制御に比べて過剰停止を89%減らしたとしています（MONOist、2026年10月5日）。
こうした技術は、安全機能による停止の手前で危険な動作を避け、止まりすぎによる稼働率の低下を抑える狙いがあります。ただし、この層自体を機能安全として認証する方法は確立途上で、現時点では「安全機能の代わり」ではなく「安全機能の手前の対策」と位置づけるのが妥当です。
AI固有リスクの規格と、安全システムの統合
NVIDIAは2026年9月21日、フィジカルAI向けのフルスタック安全システム「NVIDIA Halos」のロボティクス展開を解説しました（同社発表）。
- IGX Thor：機能安全向けの演算部（安全アイランド）を持ち、IEC 61508とISO 13849への適合を目標とする
- Halos Core for IGX：安全関連のソフトウェア基盤
- アウトサイドイン安全：ロボット自身のセンサではなく、施設に設置した外部カメラで全体を監視する設計
- 検査機関：Halos AI Systems Inspection LabがANABからISO/IEC 17020の検査機関として認定
この発表は、機能安全の規格（IEC 61508、ISO 13849）と、AI固有リスクの規格（ISO/IEC TS 22440）を組み合わせて安全ケースを組み立てる方向を示しています。安全ケースとは、「なぜこのシステムは十分に安全と言えるのか」を、主張・根拠・証拠の構造で示す文書のことです。
安全ケースの組み立て方
(4)はAI特有の要素です。AIのモデルを再学習・更新すると、ロボットの振る舞いが変わります。安全機能がAIから独立していても、更新後に過剰停止が増えたり、作業者がそれを嫌って安全装置を無効化したりする運用上のリスクがあります。モデルの更新を設備の変更管理として扱う考え方はAIモデルの再学習を誰がいつ回すかで扱っています。
欧州向けの装置では、学習で振る舞いが変わる安全機能を持つ機械に第三者評価を求めるEU機械規則への対応も必要です。詳しくはEU機械規則2023/1230とAI搭載ロボットを参照してください。規格改訂の全体像はISO 10218:2025改訂の要点で整理しています。
よくある質問
AIで人を検知して減速させる機能は安全機能にできますか
AIの画像認識だけで人を検知して減速させる機能を、規格上の安全機能として認証するのは、現時点では難しいと考えるのが一般的です。認証済みの安全センサ（レーザスキャナなど）で安全機能を構成し、AIの検知は補助として使う構成が現実的です。
ISO/IEC TS 22440はどんな規格ですか
AI固有のリスクを扱う技術仕様として、NVIDIAの安全システムの解説で言及されています。機能安全の規格とどのように組み合わせて使うかは、規格本文と認証機関の運用を確認してください。
中小企業でも安全ケースを作る必要がありますか
文書の形式は規模に応じて簡素にできますが、リスクアセスメントと、安全機能がAIから独立していることの確認は、規模にかかわらず必要です。システムインテグレーターに、安全機能の構成図と検証記録を納品物に含めるよう求めてください。
この記事に出てくる用語
この記事を書いた人
DELMIA Apriso を中核とした MES / 製造DX の導入・運用・人材育成と、製造業向けAIの調査・開発・教育を手がけるITコンサルティング企業。ISO 9001:2015 / ISO 27001:2022 認証取得。 日本・中国・米国で製造業のMES・データ基盤・AI導入を手がけた実務者が、欧米・中国の一次情報にあたって書いています。
