信頼できるAI基盤の実証 — オフライン閉域環境でAIは組織の右腕になれるか —

プロジェクトの背景

近年、多くの企業で生成AIの業務利用が広がる一方、情報漏えいや誤情報などへの懸念から、利用を制限・禁止する動きが見られます。しかし、業務効率化への期待は大きく、組織の管理が及ばない「シャドーAI」の発生を招くなど、別の管理上の課題も生じています。

こうした状況は、組織がAIのリスクや動作を十分に把握・評価し、必要な統制を自ら行うことが難しいという問題を示しているのではないでしょうか。本プロジェクトは、こうした問題意識から、「AIが危険だから信頼できない」のではなく、「何が起きているのか分からないから信頼できない」のではないかという問いを出発点としました。

2026年3月に発生したJavaScriptライブラリ「axios」に対するサプライチェーン攻撃は、「利用者が直接検証できない部分には、リスクが潜在し得る」という事実を改めて示しました。クラウド型生成AIサービスにおいても、モデルの内部構造や学習データ、運用体制の多くが利用者に開示されない形で提供されており、同様に、検証できない領域への依存という構造的なリスクが存在すると考えます。

こうした背景を踏まえ、本プロジェクトでは、クラウドAIサービスを外側から評価するのではなく、あえてオンプレミス環境上にAI基盤を構築し、モデル・推論エンジン・認証・暗号通信・ソフトウェアサプライチェーン・監査ログなど、AI基盤を構成する主要な要素について横断的に検証するアプローチを採用しました。

具体的には、AI RMF・Futures Toolkit・ISO/IEC 42001という3つの国際的なリスク管理フレームワークを用いて、AI活用に伴うリスクや組織的な課題を整理したうえで、10年前のリユースサーバー（GPU非搭載のIntel Xeonサーバー）とOSSのみを用いて、独自のフレームワーク「ICS-XAF」に基づくAI実証基盤を構築し、21件のテストシナリオを通じて、その有効性と技術的限界の両方を検証しています。

本プロジェクトが、AI活用とサイバーセキュリティの両立に取り組む技術者、管理者、経営層にとって、自組織主導のAIガバナンスを構築・運用するための一助となれば幸いです。

プロジェクトメンバー一同

本書の構成

第1章 AIをめぐる課題の全体像とリスク分析

AI活用を阻む複合的要因を整理したうえで、AI RMF・Futures Toolkit・ISO/IEC 42001の3フレームワークを用いて現状・将来リスクおよび管理策を分析します。

第2章 「信頼できるAI基盤」の定義

「コントロール可能性」と「コンテキスト耐性」という2つの評価軸を提示し、信頼できるAI基盤が満たすべき要件を定義します。

第3章 設計思想と技術選定要件を実現するアーキテクチャ

「ICS-XAF（AI基盤5層構造とAI制御仕様）」を設計し、各機能を実現する技術群を選定します。

第4章 基盤環境構築と安全性評価

設計したICS-XAFを実機（10年前のリユースサーバー）上に構築し、AIDE・SBOM・Lynis・AI-IDEによる多層的な監査を通じて安全性を検証します。

第5章 設計検証と実証結果

21件のテストシナリオ（TC-01〜21）に基づく実証実験と、クラウドAIとの情報セキュリティ（CIA）比較評価の結果を示します。

第6章 実証結果の総括と考察

実証を通じて得られた6つの知見、クラウドAI利用における統制の空白地帯、産業界への提言、および今後の課題を整理します。

付録A〜I

AI RMF・Futures Toolkitによるリスク分析の詳細、ISO/IEC 42001の管理策分析、モデル実装方式・PQC・音声生成AIに関する技術検証、参考文献などを掲載します。

ダウンロード

• 信頼できるAI基盤の実証_プロジェクト成果物(PDF:3.3 MB)