■問1 * 攻撃者の気持ちで以下の問に答えてください。 　チャットボットやコード補完・自動生成、ドキュメント作成支援など、LLM（大規模言語モデル）を活用したアプリケーション（以下、LLMアプリケーション）が増えています。このようなLLMアプリケーションは、LLM単体の能力を活用するだけではなく、データベースやWeb APIなどの外部システムと連携することで、より柔軟な処理を行うことができます。 　LLMアプリケーションと【連携する外部システム】を攻撃（情報窃取やデータ改ざん、削除など）する場合、どのような攻撃シナリオを構築しますか。具体的に回答してください。なお、攻撃者はLLMアプリケーションに入力する「プロンプト」を細工できますが、直接外部システムにアクセスできないものとします。 * システム運用者の気持ちで以下の問に答えてください。 　上記の攻撃に対し、あなたはどのような対策を採用しますか。 　対策の実効性（技術的難易度、対策の運用コスト、アプリケーションのUXなど）を考慮し、現実的な対策を立案してください。 --------------------------------------------------------------------------------------------------------- ■問2 あなたが作りたいと思うAIシステム（実際に作ったものでも構いません）を1つ挙げ、そのAIシステムを作成するために必要な過程について具体的に記述してください。 また、そのAIシステムの性能や安全性を高めるために、データ品質の面から工夫できることがあれば、その方法を具体的に記述してください。 --------------------------------------------------------------------------------------------------------- ■問3 近年、「Adversarial example（敵対的サンプル）」というAIに対する新たな攻撃手法が指摘されています。Adversarial exampleは、AIに入力する画像や音声などに対して、人間が知覚できないような小さなノイズや特定のパターンを追加することで、AIの誤認識や誤判断を引き起こします。 AI技術が今後さらに社会に普及すると、現在はまだAIの導入が進んでいない分野でもAIが活用されると予想されます。そのような新しいAIの活用事例を1つ自由に想定し、それに対する「Adversarial example（敵対的サンプル）」を用いた具体的な攻撃シナリオを述べてください。 回答には以下を必ず含めてください： ・攻撃対象となる具体的なAIシステム（画像認識、音声認識、チャットボット、生成AI、自動運転、監視システム、ドローンなど自由） ・攻撃手法の説明 ・攻撃によって社会に起こりうる具体的な被害や影響（人命、安全、経済、プライバシーへの影響など） --------------------------------------------------------------------------------------------------------- ■問4 あなたはある大学のサイバーセキュリティ研究室に所属しており、ある企業と共同でLLMエージェント（大規模言語モデルを活用したAIアシスタント）を活用したセキュリティ業務支援アプリの開発プロジェクトに参加することになりました。このアプリケーションは以下のような具体的なセキュリティ業務の効率化を目指しています ・セキュリティログからの異常パターン抽出と要約 ・セキュリティ警告文（SIEMアラート）の自然言語による説明生成 ・脆弱性情報（CVE）の分析と影響評価レポート作成 ・インシデント対応手順の状況に応じた提案 以上を踏まえ、以下二つの問いに答えてください。 問4-1 上記のセキュリティ業務から1つを選び、AIエージェントがどのようにその業務を支援できるか具体的に説明してください。また、AIが自動的に処理できる業務と、人間のセキュリティ担当者による判断が必要な業務を区別するための具体的な基準や仕組みを提案してください。（400字程度） ・問4-2 AIエージェントにシステムやファイルへのアクセス権を与える際に注意すべき点や制限事項について説明してください。また、セキュリティインシデント発生時にAIエージェントが直接対応（通信制限、アカウント停止、システム隔離など）を行う場合の適切な設計方法について述べてください。さらに、AIエージェントの提案や分析結果に対して、人間による確認が特に重要となる場面とその理由を説明してください。（400字程度） --------------------------------------------------------------------------------------------------------- ■問5 ※全般的にChatGPT等、AIを利用して構いません。ただし利用する場合は、利用したサービス・機能、使ったモデル、プロンプトを提供してください。 - 架空の会社を考えて、事業内容、１?３年程度の目標、カルチャー等、会社のフレームワークとなる要素を設定してみてください - 次の職種・役職から数個選択肢（追加の職種・役職をいれてもかまいません）、上記を部レベルにおとしこんだ　KPI（重要業績評価指標）やOKR（Objectives and Key Results）などの目標を設定してみましょう。 エンジニア、セールス、カスタマーサポート、人事・採用、コンプライアンス、営業等 - その際に、目標を達成するための日々の目標にどうAIを活用するか、ストーリーを作ってください - （オプショナル）上記のAI活用が、どのように企業活動における脆弱性になりうるか説明してください