AI利用者のためのセキュリティ豆知識

概要

近年、生成AIをはじめとする高度なAI技術の実用化が急速に進む一方で、AIの悪用や脆弱性を狙った攻撃など、セキュリティ上の課題が顕在化してきました。情報処理推進機構（IPA）が公表した「情報セキュリティ10大脅威2026」では第3位に「AIの利用をめぐるサイバーリスク」がランクインしており、AIに関するセキュリティ対策の強化が一層重要になっています。こうした状況を踏まえ、利用者側と開発側の双方に向けた啓発・対策の強化が求められています。

• 【情報セキュリティ10大脅威2026のページを開く】

こうした中、情報処理推進機構（IPA）および同機構内に事務局を置くAIセーフティ・インスティテュート (AISI)は、安心・安全なAI利用の推進を目的に、2025年より有識者や業界団体とともにAIセキュリティに関する検討を重ねてまいりました。
その活動の成果として、AIセキュリティ啓発を目的とした「AI利用者のためのセキュリティ豆知識」を公表します。

特徴

• AIにもセキュリティにも詳しくないAI利用者やマネージャを想定しています。
• AI利用時の最低限かつ有効性の高いセキュリティ対策を厳選し、わかりやすく紹介しています。
• この資料だけで、対策のみならずAIの基礎知識や用語も学ぶことができます。
• 社内研修等にもご利用いただけるようスライド形式になっています。
• 今後のAIユースケースの広がりに合わせて継続的に更新する予定です。

目次

AIの基礎知識（主に生成AIの基礎知識）

1. AIにはいろいろな種類のものがある
2. 今の汎用AIの代表は生成AIとその仲間
3. 生成AIは知識豊富だが経験不足の新人
4. RAGは生成AIが検索で知識を補う仕組み

ここから始めるAIセキュリティ対策

1. クラウドAIに営業秘密は教えない
2. AIブラウザは社内用と社外用を分ける
3. RAG使用時は「混ぜるな危険」にご用心
4. 外見では詐欺師を見破れないと心得る
5. AI仕込みのサイバー攻撃も撃退法は従来通り

• AI用語集

AI利用者のためのセキュリティ豆知識

• AI利用者のためのセキュリティ豆知識(PDF:2.0 MB)

• PDFファイルから部分的に引用や転載を行う場合には、「書籍・刊行物等に関するよくあるご質問と回答」ページの「Q2 IPAの書籍や資料を引用する際に気を付けることはありますか」をご確認ください。
  • 【書籍・刊行物等に関するよくあるご質問と回答】

関連リンク

• AIセキュリティのトップページに戻る
• AIセーフティ・インスティテュート (AISI)