AIのためのセキュリティ、セーフティ

高度な処理が可能なAIは、侵入、破壊、盗難、漏洩などのソフトやハードを中心とした安全対策だけでなく、倫理面、偽造なども含めた多様な安全性確保が求められています。世界各国ではリスク管理に向けた様々な検討が進められています。

AIのセキュリティ面の課題

• AIセキュリティマネジメント
• サプライチェーン攻撃・漏洩・改ざんリスク
• 学習モデルへの攻撃
• 学習データ改ざん・汚染
• 個人情報・営業秘密漏洩
• 偽情報、誤情報

これらのセキュリティ・セーフティの課題以外に、信頼できるAIの活用をするためには以下の事項等の検討が必要になります。

• 性能
• 説明性
• コンプライアンス
• 倫理性

IPAのセキュリティへの取り組み

• IPA セキュリティセンター
• セキュリティ関係者のためのAIハンドブック

AIのセーフティへの取り組み

2024年2月14日、AIセーフティ・インスティテュートを設立しました。
当面、以下の業務を推進していきますが、社会や技術の変化や国内外の動向を踏まえ、今後、継続的に見直していきます。

• 安全性評価に係る調査、基準等の検討
• 安全性評価の実施手法に関する検討
• 他国の関係機関（英米のAIセーフティ・インスティテュート等）との国際連携に関する業務

• AIセーフティ・インスティテュート

関連リンク

• AIセーフティ・インスティテュート所長の内定に関するお知らせ（2024年2月1日 IPAプレスリリース）
• プレス発表 AIセーフティ・インスティテュートを設立（2024年2月14日 IPAプレスリリース）

各国のセーフティ・インスティテュート

米国

• U.S. Artificial Intelligence Safety Institute（NIST）

英国

• AI Safety Institute（GOV.UK）