プレスリリース

プレス発表 2025年度AISI事業実証WG報告会においてAIセーフティ評価の実証活動を報告

AIセーフティ・インスティテュート
独立行政法人情報処理推進機構

公開日：2026年3月11日

AIセーフティ・インスティテュート（AISI、所長：村上明子）は、2026年3月10日（火曜日）、AISI事業実証ワーキンググループ(WG)における各サブワーキンググループ(SWG)の活動についての報告会を開催し、各ドメインにおけるAIセーフティ評価の実証結果について報告を行いました。
当日は、SWGに参画する各団体、並びにAISI関係府省庁等から総勢100名余りの関係者が（オンライン参加含め）出席して、2025年度の活動進捗を共有するとともに、次年度の事業実証のさらなる展開に向けて、SWGを超えた情報共有と活発な意見交換を行いました。

2025年度 AISI事業実証WG報告会を開催しました

概要

2025年4月より開始されたAISI事業実証WGにおける各SWGの2025年度の活動状況を報告するとともに、次年度のAISI事業実証WGのさらなる展開に向けて、関係者間の情報共有の場として報告会を開催しました。

会場の様子

本報告会における主な発表内容

内閣府齊藤企画官

日本では生成AIの利活用やAI投資が諸外国に比べて低水準にあるとの現状認識のもと、「まずは徹底的にAIを使ってみる」ことを起点に、そこから得られた課題を開発に生かすサイクルを回していく方針。あわせて、AI法の指針やAI基本計画を踏まえ、AISIの技術的評価機能を抜本的に強化する。組織や体制の見直しに加え、実証的な技術評価等を推進していく。しかし、AISI単独の努力だけでは日本のAIガバナンス向上は難しいため、事業実証WGに参加する各分野の皆様や関連コミュニティと共に、日本におけるAI利活用とガバナンス推進をより一層盛り上げていきたい。

AISI 西村事務局長

AISIがこれまでまとめてきた様々なガイド等を社会実装に繋げていくには、民間のドメイン・エキスパートが参画し議論を行う本WGの活動は、非常に大きな価値がある。1月には広島で開催されたグローバルフォーラムで、国際的にも事業実証WGの活動について発信を行うことができた。幅広い関係者の方々と共に活動するこの事業実証WGの枠組みを、今後さらに拡大していきたいと考えている。

AISI 村上所長

世界で最もAIを開発・活用しやすい国に向けてのキーポイントは『信頼できるAI』にある。来年度、AISIは体制を増強し、他から与えられた基準ではなく日本として、あるいは業界独自の評価指標を策定し、AISI自らAIを『評価する』能力を獲得するための抜本的な機能強化を進めている。また、フィジカルAIやAIエージェント等の評価環境を構築し、皆さんに利用してもらう事を検討している。AIセーフティ評価の仕組みを作っているのは事業実証WGメンバーの皆さんであり、今年度同様、皆さんの熱い思いを持って一緒にやっていきましょう。

各SWGの活動および実証報告

ヘルスケアSWG

AISIの評価観点ガイドの10観点に基づき、ヘルスケア領域における信頼できるAIの社会実装に向けた検討を進め、ヘルスケア領域におけるAIセーフティ評価観点ガイドを作成し、公表する予定となっている。また、実際の以下のユースケースを評価対象とした実証実験を行った。

退院時サマリ作成支援の実証結果：ユースケース特有のリスクを洗い出し、対策したプロンプトや機構による改善の有効性を確認。
個人向けチャットボットの実証結果：AISIの10観点に基づく評価を通じ、評価観点やプロンプトの見直し・修正を行うフレームを構築することができた。
医療LLMの実証結果：医療特有の敵対的攻撃データによる評価を通じ、医療特化型基盤モデル単体の制御限界と多層防御の重要性を確認。

ロボティクスSWG

2025年度は、AI・ロボット・人・社会を主要なリスク要因として評価シナリオ・評価観点を検討し、下記のユースケースを対象に、実証フィールドでの実機評価を行った。その成果をガイドとして取りまとめている。

遠隔操作型小型車の自律移動の実証結果：遠隔監視と自律移動が併存する運用において、人とAIの責任分界や介入判断、公道を含む公共空間での安全な自律移動の評価を実施。今後の本格的なフィジカルAI分野での評価に向け先行的な評価を行った。
カフェ搬送ロボットの実証結果：対話や例外対応を含む実機評価を通じてAI起因の追加リスクを可視化し、運用・例外シナリオにて、心理的・社会的受容を含む補強すべき評価観点を整理した。
AIロボットにおけるリスクアセスメント：AI+ロボット向けにモデリング言語（SafeML）を使ってリスクの三段構造を創り、カフェ搬送ロボットのユースケースを対象にリスクアセスメント実施のためのプロセスを作成した。

データ品質SWG

AIセーフティを支えるデータ品質の確保に向けて、データ品質マネジメントガイドブックの改訂に加え、現場で簡易に自己評価できるチェックリストを策定し、実務への適用検証を通じてデータ品質管理の実装を後押ししている。

官報データを用いた実証：官報データでチェックリストの有効性を検証するとともに、データ品質レベル（構造化方法）の違いがAIの読み取り精度に影響することを実証的に確認した。

適合性評価SWG

既存の適合性評価制度を整理するとともに、Joint Certificationなどについても分析し、国際標準化（SC42等）の活動と連動する形で、人とAIの協働（HMT：Human-Machine Teaming）を踏まえた新たな評価制度の枠組みについて議論し、「変化し続ける評価対象：AI」に対する適合性評価の在り方や今後の課題を、報告書として取りまとめる。

報告会について

名称: AISI事業実証WG報告会

開催日時: 2026年3月10日（火曜日）14時30分～ 17時00分

開催場所: 株式会社三菱総合研究所会議室

参加者: 事業実証WGおよび各SWGの関係者、関係府省庁（オブザーバー）

プログラム

時刻	概要	登壇者
14時30分	開会挨拶	内閣府科学技術・イノベーション推進事務局人工知能政策推進室企画官齊藤大地氏 AISI事務局長西村卓氏
14時40分	事業実証WGの成果について	WG運営事務局（三菱総合研究所）丸田佳織氏 AISI事務局二村和明氏
14時50分	ヘルスケアSWG活動報告ヘルスケア実証報告	Ubie株式会社政策渉外参事井上真夢氏 Ubie株式会社 Chief AI Officer 風間正弘氏株式会社Awarefy 代表取締役小川晋一郎氏 SherLOCK株式会社代表取締役築地テレサ氏
15時20分	ロボティクスSWG活動報告ロボティクス実証報告	国立研究開発法人産業技術総合研究所ウェルビーイング実装研究センター副研究センター長中坊嘉宏氏川崎重工業株式会社技術開発本部システム技術開発センターシステム基盤技術開発部特別主席研究員蓮沼仁志氏サイバネットMBSE株式会社 Senior Researcher 三好崇生氏
15時55分	データ品質SWG活動報告データ品質実証報告	独立行政法人情報処理推進機構デジタル基盤センターデジタルエンジニアリング部データスペースグループ坂元哲平氏独立行政法人国立印刷局官報部ベース・レジストリグループ主任専門官阿部隆弘氏 SAS Institute Japan株式会社 Asia Pacific Consulting AI Practice マネージャー Pulung Waskito 氏
16時15分	適合性評価SWG活動報告	AISI 標準チーム髙村博紀氏
16時30分	質疑応答・全体ディスカッション・総評	独立行政法人情報処理推進機構デジタル基盤センターセンター長平本健二氏
16時40分	基調講演「AIセーフティ・インスティテュート 2026年度以降の活動の方向性について」	AISI 所長村上明子氏
17時00分	閉会

各SWGの参加組織（発表組織に続いて五十音順）

ヘルスケアSWG: Ubie株式会社、株式会社Awarefy、味の素株式会社、SB Intuitions株式会社、シミックホールディングス株式会社、SherLOCK株式会社、日本デジタルヘルス・アライアンス（JaDHA）、株式会社MICIN

ロボティクスSWG: 国立研究開発法人産業技術総合研究所、株式会社IHI、川崎重工業株式会社、サイバネットMBSE株式会社、一般社団法人セーフティグローバル推進機構、一般財団法人日本品質保証機構、パナソニックホールディングス株式会社、株式会社日立製作所、富士通株式会社、三菱電機株式会社、ロボット革命・産業IoTイニシアティブ協議会AI利活用安全性検討SWG

データ品質SWG: 独立行政法人情報処理推進機構、ウイングアーク1st株式会社、株式会社NTTデータ、株式会社NTTデータバリュー・エンジニア、兼松株式会社、独立行政法人国立印刷局、SAS Institute Japan株式会社、国立研究開発法人産業技術総合研究所、日本電気株式会社、富士通株式会社、PwC Japan 有限責任監査法人、株式会社Preferred Networks

適合性評価SWG: AIセーフティ・インスティテュート、国立研究開発法人産業技術総合研究所、一般社団法人情報マネジメントシステム認定センター（ISMS-AC）、独立行政法人製品評価技術基盤機構 NITE認定センター、一般財団法人日本規格協会（JSA）、公益財団法人日本適合性認定協会（JAB）、一般財団法人日本品質保証機構（JQA）