Amazon Bedrock으로 만드는 Cross-Cloud RAG Hand's on
Architeture
이 아키텍처는 Google Cloud → AWS, 두 클라우드를 활용하는 RAG 파이프라인입니다.
- 데이터 소스 (GCS): 미리 준비된 샘플 문서 버킷(저장소)입니다. 이번 핸즈온에서는 직접 만들지 않고 소스로만 사용합니다.
- 전송 (AWS DataSync): HMAC 키 인증(S3 호환)으로 GCS 문서를 Amazon S3에 동기화합니다.
- RAG 파이프라인 (Bedrock Knowledge Bases): S3 문서를 자동으로 파싱 → 청킹 → Titan 임베딩 → OpenSearch 벡터 인덱싱까지 처리합니다.
- 챗봇 (Claude 3.5 Sonnet): 관련 문서를 검색(Retrieve)해 컨텍스트와 함께 출처가 담긴 답변을 생성(Generate)합니다.
워크숍 소개
이 핸즈온은 AWS 매니지드 서비스를 활용하여 멀티클라우드 RAG(Retrieval-Augmented Generation) 파이프라인을 구축해보는 입문~초급 난이도의 핸즈온입니다.
Google Cloud Storage(GCS)에 저장된 RAG용 문서를 AWS DataSync의 HMAC 키 인증으로 Amazon S3에 전송한 뒤, Amazon Bedrock Knowledge Bases를 통해 문서 파싱 → 청킹 → Titan Embeddings V2 임베딩 → OpenSearch Serverless 벡터 인덱싱까지 전 과정을 별도의 코딩 없이 AWS 콘솔 클릭만으로 완료합니다.
최종적으로 Anthropic Claude 3.5 Sonnet 모델과 연동된 KB 테스트 패널에서 RAG 챗봇을 직접 체험해봅니다.
학습 목표
이 핸즈온은 AWS 매니지드 서비스를 활용하여 멀티클라우드 RAG(Retrieval-Augmented Generation) 파이프라인을 구축해보는 입문~초급 난이도의 핸즈온입니다.
Google Cloud Storage(GCS)에 저장된 RAG용 문서를 AWS DataSync의 HMAC 키 인증으로 Amazon S3에 전송한 뒤, Amazon Bedrock Knowledge Bases를 통해 문서 파싱 → 청킹 → Titan Embeddings V2 임베딩 → OpenSearch Serverless 벡터 인덱싱까지 전 과정을 별도의 코딩 없이 AWS 콘솔 클릭만으로 완료합니다.
최종적으로 Anthropic Claude 3.5 Sonnet 모델과 연동된 KB 테스트 패널에서 RAG 챗봇을 직접 체험해봅니다.
학습 목표
- AWS DataSync + HMAC 키를 이용한 크로스 클라우드 데이터 이동 패턴 이해
- Bedrock Knowledge Bases의 매니지드 RAG 파이프라인 (파싱 → 청킹 → 임베딩 → 인덱싱) 구축
핸즈온 흐름
| 단계 | Managed Service | 설명 |
|---|---|---|
| 1. 데이터 소스 | Google Cloud Storage (GCS) | 진행자가 미리 준비한 RAG용 샘플 문서 |
| 2. 데이터 전송 | AWS DataSync | GCS → S3 크로스 클라우드 동기화 (HMAC 키 인증) |
| 3. RAG 파이프라인 | Amazon Bedrock Knowledge Bases | 문서 파싱 → 청킹 → 임베딩 → 벡터 인덱싱 (자동) |
| 4. 챗봇 테스트 | Amazon Bedrock | KB 테스트 패널에서 Claude 3.5 Sonnet으로 RAG 질의응답 |
사용 AWS 서비스
이번 핸즈온에서 우리가 직접 사용해볼 AWS의 Managed Service입니다.
| 서비스 | 용도 |
|---|---|
| DataSync로 전송받은 문서 저장 | |
| GCS → S3 크로스 클라우드 데이터 전송 | |
| RAG 파이프라인 (파싱 → 청킹 → 임베딩 → 인덱싱) | |
| 문서를 벡터로 변환하는 임베딩 모델 | |
| 벡터 인덱스 저장 및 검색 (자동 생성) | |
| RAG 챗봇 응답 생성 모델 |
사용 GCP 서비스
데이터 소스로 연결되는 GCP의 Managed Service입니다. 이번 핸즈온에서는 직접 구축하지 않으며, 진행자가 미리 준비한 리소스를 데이터 소스로만 사용합니다.
| 서비스 | 용도 |
|---|---|
| RAG용 샘플 문서가 저장된 데이터 소스 (사전 준비됨) | |
| S3 호환 인증으로 AWS DataSync가 GCS에 접근하도록 허용 (사전 준비됨) |
비용 안내
이 핸즈온은 OpenSearch Serverless, Amazon Bedrock 등 과금되는 서비스를 사용합니다. 특히 OpenSearch Serverless는 시간당 과금되므로, 핸즈온이 끝나면 반드시 Module 3 마지막의 리소스 정리를 진행해 핸즈온에 사용된 모든 리소스를 삭제하세요.
이 핸즈온은 OpenSearch Serverless, Amazon Bedrock 등 과금되는 서비스를 사용합니다. 특히 OpenSearch Serverless는 시간당 과금되므로, 핸즈온이 끝나면 반드시 Module 3 마지막의 리소스 정리를 진행해 핸즈온에 사용된 모든 리소스를 삭제하세요.