プレスリリース

プレス発表 AISI、「AIロボティクスに関するセーフティ評価観点ガイド」を公開

公開日：2026年7月23日

AIセーフティ・インスティテュート
独立行政法人情報処理推進機構

AIロボットの安全な社会実装を促進

AIセーフティ・インスティテュート（AISI、所長：村上明子）の事業実証ワーキンググループの一つであるロボティクスサブワーキンググループ（以下、SWG）は、AIを活用したロボットの安全な社会実装を促進するため、「AIロボティクスに関するセーフティ評価観点ガイド」（以下、本ガイド）を公開しました。
本ガイドは、AIを活用し、人と空間を共有しながら移動、対話、搬送等を行うAIロボットを対象に、AIの利用に伴って新たに生じ得るリスクを特定・評価し、その結果に応じてリスク低減策を検討するための観点を示すものです。ロボットメーカー、ロボットSIer、コンポーネントメーカー等、AIロボティクスの開発・提供・運用に関与する事業者が、AIセーフティに配慮したサービス・製品の開発、設計、提供、運用を行う際に本ガイドを活用し、AIロボットの安全な社会実装が促進されることを期待します。

AIロボティクスに関するセーフティ評価観点ガイドの公開

背景と目的

近年、ロボティクス分野では、AIの活用範囲が拡大しています。
特に、サービス業界で利用されるサービスロボットや産業用ロボットの一種である協働ロボットにおいては、従来の制御技術に加え、「認識・判断・行動」の一連の処理を担うAIの役割が高まっています。例えば、飲食店等で稼働する搬送ロボットや遠隔操作型の配送ロボットなどでは、障害物回避や経路生成だけでなく、利用者との自然なインタラクション、状況に応じた判断、人間による適切な介入などが重要です。

一方で、AIによる認識や判断の誤り、利用者への心理的影響、データやログの扱い、説明可能性・検証可能性の確保など、従来の機械安全や機能安全に加えて考慮すべき新たな課題も顕在化しています。

そこで、ロボティクスSWGでは、「カフェ搬送ロボット」「遠隔操作型小型配送ロボット」をユースケースとして、AIロボティクス特有のリスクを整理し、事業者がAIセーフティの観点から評価やリスク低減策の検討を行えるよう、本ガイドを策定しました。

ガイドの主な特長

本ガイドは、主に以下の特長を有します。

1. AIロボティクス特有のリスクを整理

本ガイドでは、AIロボットの利用により生じ得るリスクを、物理的リスク、心理的リスク、社会的リスクの三つの類型で整理しています。衝突・接触等の物理的な危害に加え、威圧的な発話や利用者に不安・不快感を与える挙動などの心理的な影響、差別的な扱いや偽・誤情報の拡散などの社会的な影響など、人とロボットが空間や利用状況を共有することで生じ得るリスクを対象としています。

2. 実務者向けに9項目の評価観点を提示

本ガイドでは、カフェ搬送ロボットや遠隔操作型小型配送ロボットを想定ユースケースとして取り上げ、AISIが策定した「AIセーフティに関する評価観点ガイド」も参考に、AIロボットの安全性を評価する際に確認すべき観点を9項目に整理して示しています。これにより、AIロボットの設計・開発・提供・運用において、どのような観点を確認すべきかを把握しやすくしています。

これらの項目の整理にあたっては、飲食店等における商品搬送ロボットや、遠隔操作可能な配送ロボットを主なユースケースとして想定しています。

SWGの参加組織

国立研究開発法人産業技術総合研究所（SWGリーダー）、株式会社IHI、川崎重工業株式会社、サイバネットMBSE株式会社、セイコーエプソン株式会社、一般社団法人セーフティグローバル推進機構、一般財団法人日本品質保証機構、パナソニックホールディングス株式会社、株式会社日立製作所、株式会社Forcesteed Robotics、富士通株式会社、株式会社ベリサーブ、三菱電機株式会社、株式会社村田製作所、ロボット革命・産業IoTイニシアティブ協議会AI利活用安全性検討SWG
株式会社三菱総合研究所（SWG事務局）