セキュリティ関係者のためのAIハンドブック

背景

近年、機械学習（ Machine Learning; ML）をはじめとした人工知能（Artificial Intelligence; AI） 技術の進歩は著しく、重要インフラを含めた様々な産業・事業領域において、デジタルトランスフォーメーション（DX）の推進などに活用されています。

その一方で、デジタル化の進展とともにサイバー攻撃のリスクが日に日に高まっています。あらゆる事業にデジタルデータが用いられる現在、サイバー攻撃は組織にとって事業継続を脅かす重大なリスクです。
AI技術の発展とサイバーセキュリティリスクの増大は互いに無関係ではありません。AIを活用したセキュリティ製品も普及してきています。一方、サイバー攻撃にさらされるAIシステムは増加してきています。
セキュリティ関係者にとって、AI・機械学習を知ることは、組織のセキュリティを向上させる上で重要です。

例えば、機械学習では一般的にブラックボックスで処理が行われ、また学習用データにより精度が変化するなどの特徴があります。そのため、AIを活用したセキュリティ製品が誤検知を起こした際に、その誤検知に至った理由が分からない（説明できない）という事態も生じえます。
また、AIシステムは、学習用データを収集する、AIに学習用データを学習させるというプロセスが必要であるため、開発～運用プロセスも通常のシステム開発とは異なります。これらの特徴のため、そうしたAIシステム固有の特徴を理解してセキュリティ対策の導入を進めるとともに、AI固有の特徴を悪用したサイバー攻撃が起こりうることも認識する必要があります。

これらの例からもわかるように、セキュリティ担当者には今後より一層AIに関する知識が求められるようになります。しかし、セキュリティとAIは共に専門性の高い分野であり、セキュリティ関係者が読めるような、両分野を包括的に説明する資料は国内ではあまり見かけません。

そこで、セキュリティ分野におけるAIの利用とリスクに関する情報・知見を説明し、各組織でのセキュリティ分野における適切なAIの活用と、組織で活用される AIのセキュリティ向上を推進するための参考資料としていただくことを目的として本書を執筆しました。
各組織のセキュリティ関係者に本書を読んでいただき、少しでも目的が達成されれば幸いです。

プロジェクトメンバー一同

本書の構成

本書は6章構成で、記載内容の概要は以下のとおりです。検討の際に必要な項目を閲覧して使用していただければと思います。

• 第1章「本書について」：本書における「AI」という用語の定義や、対象読者、免責事項などを説明しています。

  第2章「セキュリティのためのAI（機械学習）知識」：第3章、第4章の内容を理解するために必要と考えられる、AI（機械学習）とそれに関連する事項を説明しています。読者にAI（機械学習）の知識がある場合、この章は読み飛ばしてかまいません。

  第3章「AIを活用したサイバーセキュリティ対策」：AI活用セキュリティ製品の例の紹介と、それらを組織で企画・導入・運用する際の留意点を説明しています。

  第4章「AIそのものを守るセキュリティ」：AIシステムやAIアルゴリズム（モデル）のセキュリティについて概要を説明しています。

  第5章「関連事項」：セキュリティとAIに関連する事項として、AI社会原則やAI品質、プライバシー、などを説明しています。

  第6章「おわりに」：本書の内容のまとめと、課題と制約などを説明しています。

ダウンロード

• セキュリティ関係者のためのAIハンドブック(PDF:2.9 MB)