Feed元
Amazon Web Services
AI 要約
プロンプトインジェクションやリークを防ぐガードレールを使い、Amazon BedrockでのRAGアプリケーションのセキュリティを向上。
年月週
2024年10月5週
リンク：
Amazon Bedrock でのセキュアな RAG アプリケーション構築
概要：
プロンプトエンジニアリングを使い、RAGアプリケーションのセキュリティを高める方法を紹介。
要約内容：
- Amazon Bedrockを使い、生成AIアプリのセキュリティ強化。
- プロンプトインジェクションやリーク対策を導入。
- RAGのプロンプト設計により安全性を高める。
- LLMの制限を補う検索技術が重要。
- セキュリティガードレールの実施例を解説。
用語：
用語 | 説明 |
プロンプトインジェクション | AI応答に悪意ある指示を注入する攻撃 |
プロンプトリーク | AIモデルの内部指示を明らかにする攻撃 |
Amazon Bedrock | 生成AI向けの基盤モデル提供サービス |
ガードレール | セキュリティ強化のための設定や手法 |
RAG | Retrieval Augmented Generation、外部データを用いたAI生成法 |