AIセキュリティ短信

概要

日々発信されているAIに関する膨大な国内外の公開情報から、AIセキュリティの観点でトレンドや事例を紹介しています。

特に、AIシステム開発者やセキュリティ担当者の方が、日々の業務を行う中で是非知っておいてほしい動向や注意してほしいインシデント事例に絞って紹介しています。

AIセキュリティ短信一覧

なお、本短信に掲載しているものは、それぞれの調査時点の情報です。そのため、掲載後、状況が変化したものや追加情報が公開されている可能性があります。

最新号

• AIセキュリティ短信2026年10月号(PDF:1.2 MB)

AIセキュリティ短信2026年10月号目次

• エグゼクティブサマリー
  • 評価中のAIが逸脱し外部に干渉した複数の事例が開発元で表面化
  • 逸脱傾向で次期AIモデルが公開中止、開発の減速の提唱や法案も
  • AIで挙動を決めるマルウェアが相次いで報告される
  • AIエージェントの悪用が被害をもたらすも攻撃の手口は従来のまま
  • AIエージェントが情報漏えい経路になり、外側からの統制が必要に
  • モデル蒸留を米当局が警告し、AIの能力と政策情報が争奪対象に

1. AIに係る安全性確保（Security for AI）
   • 1.1. [2026-09-09] NSA等、中国AI企業による米AIモデル蒸留を警告
   • 1.2. [2026-09-09] ChatGPT、内部Artifactory経由でアカウント間漏えい
   • 1.3. [2026-09-10] OpenAI CodexにPwn2Own経由のRCE脆弱性4件
   • 1.4. [2026-09-09] Flowise CSV Agentにプロンプトインジェクション経由のRCE
   • 1.5. [2026-09-25] Agentforceにゼロクリック情報窃取「SalesBleed」
   • 1.6. [2026-09-28] NVIDIA、AIエージェント統制基盤を発表
   • 1.7. [2026-09-30] OpenAI、Moonshot AI関係者による敵対的蒸留を阻止
   • 1.8. [2026-09-30] AIエージェントが社内画像1.3万枚をGitHubで公開
   • 1.9. [2026-10-01] TA419が米AI政策専門家を標的に認証情報フィッシング
   • 1.10. [2026-10-03] GitLab AI Gatewayにコマンド実行の脆弱性
2. AIを活用したサイバーセキュリティ確保（AI for Security）
   • 2.1. [2026-09-22] Honeywell調査、OT資産を完全把握する組織は21%
   • 2.2. [2026-09-30] Google、Gemini 4 Argonを防御者向けに先行提供
3. AIを悪用したサイバー攻撃への対処
   • 3.1. [2026-09-09] GTIG、攻撃者のAIエージェント活用と認証情報窃取を報告
   • 3.2. [2026-09-09] AIエージェント群によるPaperCut脆弱性の大量悪用
   • 3.3. [2026-09-10] 4集団がChrome・Windows連鎖キットBlueMoon悪用
   • 3.4. [2026-09-11] Anthropic報告、Claude悪用の国家系・犯罪集団の攻撃
   • 3.5. [2026-09-13] Hacktron、AIでOpenAI従業員アカウント奪取を実証
   • 3.6. [2026-09-14] AEPD、AIエージェントによる個人データ侵害通知を初受理
   • 3.7. [2026-09-18] 日米豪独、北朝鮮WaterPlumの偽装面接攻撃を警告
   • 3.8. [2026-09-17] Zimperium報告のRatHat、AIで端末操作し金融情報を狙う
   • 3.9. [2026-09-22] LLM合議で攻撃を決めるマルウェアCLOSEDQUORUM
   • 3.10. [2026-09-22] Microsoft、AI活用フィッシング基盤EvilTokensを停止
   • 3.11. [2026-09-22] AIエージェント3種で小売業者を攻撃、カード情報窃取
   • 3.12. [2026-09-23] バンキングトロイの木馬RemControlにAI開発の痕跡
   • 3.13. [2026-09-25] JADEPUFFER、侵入先のクラウド環境でリソースを大量削除
   • 3.14. [2026-09-26] AIで弁護士の声を再現した詐欺で9500万ユーロを送金
   • 3.15. [2026-09-29] ChatGPTのカスタムGPT悪用、ClickFixでRAT配布
   • 3.16. [2026-09-30] Anthropic、GLM-5.3は攻撃能力が高く安全対策が乏しいと分析
   • 3.17. [2026-10-01] GTIG分析、AIで脆弱性の発見と悪用が加速
   • 3.18. [2026-10-01] AIエージェントがZammadゼロデイ悪用、DIVD侵害
   • 3.19. [2026-10-01] Microsoft年次報告、AIで攻撃の時間軸が数分に短縮
4. AIセーフティ
   • 4.1. [2026-09-10] Claude、評価中に第三者システムへ不正アクセス4件
   • 4.2. [2026-09-14] Anthropic CEO、AI開発の減速と組み込み評価者を提唱
   • 4.3. [2026-09-11] RubyGems攻撃はOpenAIのエージェントと第三者分析
   • 4.4. [2026-09-17] OpenAI、モデルの不正行動6件と開示枠組みを公表
   • 4.5. [2026-09-19] Gemini、評価環境の不備で実在3社のシステムに侵入
   • 4.6. [2026-09-19] カリフォルニア州、AIのキルスイッチ検討などを命じる行政命令
   • 4.7. [2026-09-24] OpenAIのエージェントが豪Medicareポータルに無許可アクセス
   • 4.8. [2026-09-26] OpenAIのエージェントが米政府サイトに想定外のアクセス
   • 4.9. [2026-09-29] 英AISIによる試験中にGPT-6 Astraが範囲外へと攻撃
   • 4.10. [2026-09-29] OpenAI、逸脱傾向の増したGPT-6.1 Astraを公開中止

バックナンバー

• AIセキュリティ短信2026年9月号(PDF:1.1 MB)
• AIセキュリティ短信2026年8月号(PDF:1.3 MB)
• AIセキュリティ短信2026年6月号(PDF:1.2 MB)
• AIセキュリティ短信2026年3月号(PDF:818 KB)
• AIセキュリティ短信2025年12月号(PDF:640 KB)
• AIセキュリティ短信2025年9月号(PDF:644 KB)
• AIセキュリティ短信2025年7月号(PDF:633 KB)

PDFファイルから部分的に引用や転載を行う場合には、「書籍・刊行物等に関するよくあるご質問と回答」ページの「Q2 IPAの書籍や資料を引用する際に気を付けることはありますか」をご確認ください。

• 【書籍・刊行物等に関するよくあるご質問と回答】

関連リンク

• AIセキュリティのトップページに戻る
• AIセーフティ・インスティテュート