AIセキュリティ

AIは高度な処理能力を持つ一方で、不正アクセスやデータの盗難・漏洩、破壊といったサイバー脅威だけでなく、倫理面や偽造のリスクなど、従来とは異なる多様な脅威にさらされています。世界中でリスク管理のための対策や議論が進められています。

AIのセキュリティ面の課題

• AIセキュリティマネジメント
• サプライチェーン攻撃・漏洩・改ざんリスク
• 学習モデルへの攻撃
• 学習データ改ざん・汚染
• 個人情報・営業秘密漏洩
• 偽情報、誤情報

これらのセキュリティの課題以外に、信頼できるAIの活用をするためには以下の事項等の検討が必要になります。

• 性能
• 説明性
• コンプライアンス
• 倫理性

IPAのAIセキュリティへの取り組み

AIセキュリティ関連の参考資料

AI利用者、マネージャ向け

• AI利用者のためのセキュリティ豆知識
  • 生成AIを利用する際に最低限実施すべきセキュリティ対策を分かりやすくまとめたものです。社内勉強会等でもご利用いただけます。

AI開発者、セキュリティ担当者向け

• AIセキュリティ短信
  • AIセキュリティに関する最新のトレンドや事例を紹介しています。
• AIシステムに対する既知の攻撃と影響（AIセーフティ・インスティテュート）
  • AIシステムに対する代表的なサイバー攻撃手法を整理しています。

AIセキュリティ調査結果

• 2024年5月「米国におけるAIのセキュリティ脅威・リスクの認知調査」（米国調査）
• 2024年12月「AIに起因する選挙リスクとAIガバナンス米国調査」（米国調査）
• 2024年7月「AI利用時のセキュリティ脅威・リスク調査報告書」（国内調査）
• 2025年10月「AIの動作・分析・利用方法の説明に関するアンケート調査レポート」（国内調査）

• AI利用者のためのセキュリティ豆知識

• AIセキュリティ短信