社会・産業のデジタル変革

  1. トップページ
  2. 社会・産業のデジタル変革
  3. AI（Artificial Intelligence）の推進
  4. AIセキュリティ

AIセキュリティ

公開日：2023年12月20日

最終更新日：2026年1月28日

独立行政法人情報処理推進機構
セキュリティセンター

AIは高度な処理能力を持つ一方で、不正アクセスやデータの盗難・漏洩、破壊といったサイバー脅威だけでなく、倫理面や偽造のリスクなど、従来とは異なる多様な脅威にさらされています。世界中でリスク管理のための対策や議論が進められています。

AIのセキュリティ面の課題

  • AIセキュリティマネジメント
  • サプライチェーン攻撃・漏洩・改ざんリスク
  • 学習モデルへの攻撃
  • 学習データ改ざん・汚染
  • 個人情報・営業秘密漏洩
  • 偽情報、誤情報

これらのセキュリティの課題以外に、信頼できるAIの活用をするためには以下の事項等の検討が必要になります。

  • 性能
  • 説明性
  • コンプライアンス
  • 倫理性

IPAのセキュリティへの取り組み

お問い合わせ先

IPA セキュリティセンター

  • E-mail

    isec-ai-infoアットマークipa.go.jp

更新履歴

  • 2026年1月28日

    サイト構成の見直しを行い、ページタイトルを「AIのためのセキュリティ、セーフティ」から「AIセキュリティ」に変更しました。
    AIセーフティ・インスティテュート（AISI）に関する情報は、AISIウェブサイトをご覧ください。

  • 2024年2月15日

    「AIのセーフティへの取り組み」にAIセーフティ・インスティテュートの設立について追加

  • 2024年2月2日

    「AIのセーフティへの取り組み」を追加

  • 2023年12月20日

    公開