セキュリティ・キャンプ2025 全国大会【専門】Dクラス

• 高江洲 勲

• 高江洲 勲
• 伊東 道明

• D1:8月12日（火曜日） 8時30分～12時30分
• D6:8月14日（木曜日）13時30分～17時30分

• 脆弱性
• セキュリティ
• 人工知能
• AI
• 機械学習
• 生成AI
• LLM
• RAG
• AIエージェント

本講義では、「LLMアプリケーションに対する攻撃手法と防御手法」を実践形式で学びます。

OpenAIのGPTに代表される大規模言語モデル（LLM）の普及に伴い、LLMと連携したシステム（LLMアプリケーション）を開発する企業が増えています。OWASP Top 10 for LLM Appsによると、LLMアプリケーションは有用である一方で、既存システムとは異なる新たな脅威が数多く存在することが指摘されています。そこで本講義では、受講生の皆さんに検証用LLMアプリケーションに対する攻撃と防御を実践してもらうことで「LLMアプリ特有のセキュリティ・リスクと対策方式」を学んでいきます。

本講義はLLMの知識が必要になりますが、充実した事前学習コンテンツを用意いたします。
また、本講義は2日間にわたって開催されますが、初回で攻撃や防御が上手くいかなかった方でも、次回の講義までに講師陣がサポートしますので、安心してご参加ください。

• 田村 匠

8月12日(火曜日) 13時30分～17時30分

• AI
• LLM
• 機械学習
• 生成AI
• 人工知能
• クラウドソーシング
• Human-in-the-loop
• Data-Centric AI

みなさんは、”Garbage In, Garbage Out (ゴミを入れるとゴミが出てくる)” という言葉を聞いたことはありますか？

生成AIを始めとして、現在利用されているAIは様々なデータを学習することで、その高い能力を身につけています。しかし、学習に利用されたデータの品質が良いものではなかった場合、AIの性能は大きく悪化してしまいます。”Garbage In, Garbage Out” は、AI開発における学習データ品質の重要性を強調した言葉としてよく知られています。

この講義では、 クラウドソーシングという仕組みを活用し、インターネットを通じて不特定多数の人々に作業を依頼してデータセットを作成する方法を学びます。例えば、画像分類AIを作成するために、クラウドソーシングを使って、画像に写っているものを答えてもらうことができます。しかし、データの品質を高めるためには、作業者にどのような指示を出せばよいのか、作業者ごとの能力差をどう考慮するかなど、工夫が必要になります。また、作業者への報酬設定をはじめ、倫理的な問題についても考える必要があります。

高性能なAIの活躍が日々注目されている一方で、それらAIの学習を支えている人間の活躍にはあまり光が当てられていません。この講義では、人間の手によるデータセットの作成方法を学びながら、人間とAIが協調しともに発展していくための技術についても考えます。

• 鈴木 研吾

8月13日（水曜日） 8時30分～12時30分

• AI
• LLM
• 機械学習
• 生成AI
• データ管理
• セキュリティマネジメント

近年、AIの発展とともに扱われるデータ量は飛躍的に増大しています。膨大なデータを効率的に活用するには、ストレージやOpen Table Format（データの構造を扱いやすくするための形式）、DataOps（データの開発・運用プロセスを管理する手法）などの技術を正しく理解し、運用する必要があります。これらの仕組みを把握しておくことで、高精度なAIモデル開発だけでなく、ビジネスのあらゆる場面でデータ利活用をスムーズに進められるようになります。

また、AIが業務全般に浸透し始めた今だからこそ、サイバーセキュリティ対策の重要性が増しています。本講義では、大規模データとAIを活用する際の注意点を体系的に学ぶとともに、組織的なセキュリティマネジメントにおいて留意すべきポイントを解説します。また、AI時代に求められる新人像やキャリア観にも触れ、これからのエンジニアが持つべき知識・姿勢をディスカッションしながら身につけていきます。

• 岡田 怜士

8月13日（水曜日） 13時30分～17時30分

• 人工知能
• AI
• 機械学習
• 脆弱性
• セキュリティ
• 敵対的サンプル

AIシステムは現在、自動運転や監視カメラ、顔認証など社会の幅広い分野で活用されています。しかし近年、人間には気づかれにくい小さなノイズや特殊なパターンによって、AIが誤った判断をしてしまう「Adversarial Example（敵対的サンプル）」と呼ばれる攻撃手法が注目されています。

例えば、この攻撃が実際に行われると、自動運転車が道路標識を誤認識して事故を起こしたり、監視カメラや異常検知AIが重要な異常を見逃したりするなど、社会に深刻なリスクをもたらします。

本講義では、画像認識を中心としたAIシステムに対し、「物理的なAdversarial Example」を用いた攻撃手法を実践的に学びます。実際にAIを騙すための特殊なノイズを作成し、AIの誤判定を引き起こすハンズオンを通じて、AI技術が抱えるセキュリティ上の課題について学びます。

• 渡會 航生

8月14日（木曜日） 8時30分～12時30分

• LLM
• AIエージェント
• RAG
• アプリケーション開発
• セキュリティ業務支援

本講義では、大規模言語モデル（LLM）を活用し、セキュリティ業務を自動化するAIエージェントの開発をハンズオン形式で学びます。

講義の目標は、複数のAIエージェントを連携させたマルチエージェント型のセキュリティ支援ツールを構築することです。具体的には、次のようなエージェントを組み合わせ、実際に動作するシステムを作成します。

• RAGエージェント：関連する文書や過去のインシデントレポートを検索し、適切な情報を抽出する
• SQLエージェント：自然言語での指示に基づき、データベースを安全に検索・操作する
• システム操作エージェント：システム内のファイルの検索やコマンドの実行などを行う

ハンズオンを通じて、RAG（Retrieval-Augmented Generation）やエージェント連携、外部サービス（Web API等）との連携方法、実装時のセキュリティ上の注意点などを学びます。

本講義は、LLMやPythonの基礎知識がある方を対象としており、AIエージェントを活用したセキュリティ業務の自動化の基礎を体験し、実際の業務で応用できるスキルの習得を目指します。