AIセキュリティ

AIは高度な処理能力を持つ一方で、不正アクセスやデータの盗難・漏洩、破壊といったサイバー脅威だけでなく、倫理面や偽造のリスクなど、従来とは異なる多様な脅威にさらされています。世界中でリスク管理のための対策や議論が進められています。

AIのセキュリティ面の課題

• AIセキュリティマネジメント
• サプライチェーン攻撃・漏洩・改ざんリスク
• 学習モデルへの攻撃
• 学習データ改ざん・汚染
• 個人情報・営業秘密漏洩
• 偽情報、誤情報

これらのセキュリティの課題以外に、信頼できるAIの活用をするためには以下の事項等の検討が必要になります。

• 性能
• 説明性
• コンプライアンス
• 倫理性

IPAのセキュリティへの取り組み

• IPAセキュリティセンター