プレスリリース

プレス発表： AISI、「ヘルスケア領域におけるAIセーフティ評価観点ガイド」を策定

AIセーフティ・インスティテュート
独立行政法人情報処理推進機構

公開日：2026年4月3日

Trustworthy AI（信頼できるAI）の実現に向け、ヘルスケア領域における実務観点でのAIセーフティ評価の実装プロセスを体系化

AIセーフティ・インスティテュート（AISI、所長：村上明子）の事業実証ワーキンググループ（以下、事業実証WG）の一つであるヘルスケアサブワーキンググループ（以下、SWG）は、ヘルスケア領域における生成AI技術の安全な社会実装を加速させるため、「ヘルスケア領域におけるAIセーフティ評価観点ガイド」（以下、本ガイド）を策定しました。
本ガイドは、AISIが策定したAIセーフティに関する評価観点ガイドを参考に、医療・ヘルスケア特有の機微性やリスクを反映した、実務者向けの具体的な評価手法を提示するものです。

ヘルスケア領域におけるAIセーフティ評価観点ガイドの公開

背景と目的

近年、生成AIは医師の業務効率化や患者コミュニケーションの支援など、ヘルスケア分野に大きなイノベーションをもたらしています。一方で、ハルシネーション（誤情報の生成）による健康被害のリスクや、高度なプライバシー保護、セキュリティの確保など、ヘルスケア領域特有の課題が山積している状況です。
2025年12月に閣議決定された人工知能基本計画では、具体的な取組として医療・ヘルスケア分野におけるAIの開発・実証・導入・社会実装の促進が明記されました。また、2026年1月に開催された「Hiroshima Global Forum for Trustworthy AI」で議論されたように、国際社会においても「Trustworthy AI（信頼できるAI）」の実現が重要課題となっています。
今般、ヘルスケアSWGでは事業者が開発・設計段階から安全性を担保し、ビジネス価値と安全・安心を両立できる環境の整備を目的に活動し、本ガイドを策定しました。

ガイドの主な特長

本ガイドは、専門家が少ない企業でも容易に活用できるよう、以下の特長を有します。

1. AIライフサイクルに沿った5つのフェーズ毎の評価ポイント

AIライフサイクルに沿った、プロダクト設計、モデル選定、プロダクト実装、プロダクト検証、プロダクト導入・運用の5つのフェーズで、それぞれ何を評価すればよいのか、ポイントをまとめています。

2. 10項目の多角的な評価観点と具体的なリスクの想定

AIセーフティに関する評価観点ガイドから、それらをヘルスケア領域に適用した際にはどのような観点が必要なのか、具体的に10項目を掲載しています。また、「医療・健康に関する誤った情報や危険な情報の提供により、患者の生命・健康に直接的な被害をもたらし得る」など、それらの観点での評価を怠ることによって想定されるリスクも併記しています。これらは普遍的なものからヘルスケア領域特有のリスクまでカバーしており、AI活用に際してのリスクマネジメントにも役立ちます。

また、本ガイドの評価観点に基づいたAIセーフティ評価を実施できるよう、具体例（プロンプト、エージェントスキル等）を掲載した実践ガイドも今後、公開する予定です。

SWGの参加組織

Ubie株式会社（SWGリーダー）、株式会社Awarefy、味の素株式会社、SB Intuitions株式会社、シミックホールディングス株式会社、SherLOCK株式会社
日本デジタルヘルス・アライアンス（JaDHA）、株式会社MICIN、公益財団法人東京財団、株式会社三菱総合研究所（SWG事務局）