プレスリリース

プレス発表 AI利用時の脅威、リスク調査報告書を公開

公開日：2024年7月4日

独立行政法人情報処理推進機構

AIのセキュリティ：６割が脅威と感じ、７割が対策の重要性を認識

独立行政法人情報処理推進機構(IPA、理事長：齊藤裕)は、AIの業務利用におけるセキュリティ上の脅威・リスクの認識や対応状況の実態把握を目的として、企業・組織の実務担当者にアンケート調査を行い、その結果をまとめた「AI利用時の脅威、リスク調査報告書」を本日公開しました。

AI利用時の脅威、リスク調査報告書

生成AIの登場により、業務でAIを利用する機会が増えています。AIの利用には、生産性向上が期待される一方で、AIの悪用や誤用によるサイバー攻撃やインシデント被害も懸念されています。IPAはAIの業務利用におけるセキュリティ上の脅威・リスクの認識や対応状況の実態を把握し、AIの安全な利用を促進するため、本調査を実施しました。本調査では、AIの業務利用が進むなか、組織におけるセキュリティ対策の規則整備はまだ道半ばであるとともに、セキュリティ上の脅威・リスクや生成AIで生成したコンテンツ利用・評価については多くの人が課題を感じているものの、優先度はついていない状況が明らかになりました。主なポイントは以下のとおりです。

１．業務でAIを利用/許可している企業は16.2%、予定ありを合わせても22.5%

本調査の事前調査として、4,941人を対象に自身の企業・組織で業務でのAI利用あるいは利用許可をしているかを聞いたところ、していると回答した企業の割合は16.2％でした。また、これから許可予定であるとの回答が6.3％でした。 (図1)

図1．AIの利用状況

2．AIのセキュリティに関して6割が脅威を感じ、7割がセキュリティ対策は重要と回答

事前調査でAIを利用/許可している、または予定があるとの回答から1000人を抽出し、本調査を行いました。AIのセキュリティに関する脅威の種類と度合いを聞いた設問では、虚偽拡散、システム障害、情報漏えいなど具体的な脅威の種類について回答を求めたところ、いずれの脅威についても同程度に脅威であると回答されており、脅威の度合いとして「重大な脅威である」、「やや脅威である」と回答した人が全体平均で60.4％でした。（図2）また、AI導入・利用可否におけるセキュリティ対策の重要度については、分類AI利用者の74.5%、生成AI利用者の75.0%が「非常に重要だと思う」「やや重要だと思う」と回答しました。(図3)

図2. AIのセキュリティに関する脅威の度合い（n=1000）

図3. 導入・利用可否のセキュリティ重要度 (n=1000)

3．生成AI利用時のセキュリティに関連した規則が策定されている企業は20％未満

生成AI利用時のセキュリティに関連した規則・体制が整備されているかを聞いた設問では、課題認識は60%を超えていたにも関わらず、規則の策定、明文化、組織的な検討がされているのは20％未満で、詳細規則策定中を合わせても40％前後しか整備が進んでいないことが分かりました。（図4）

図4.生成AIの規則、体制整備状況（n=1000）

4. 生成AIによるコンテンツ利用・評価・普及について課題は感じているものの、優先度はついていない

生成AIで生成したコンテンツの利用・評価・普及における課題とその程度を聞いた設問では、「悪意の生成AIコンテンツを含む詐欺攻撃による金銭被害・情報流出」に対して「非常に大きな課題である」、「やや課題だと思う」と回答した人が63.8％と最多でした。しかし、どの課題も60％を超えており、優先度がついていない状況であることが分かりました。（図5）