Generative AI Application Builder on AWS

프로덕션용 생성형 AI 애플리케이션을 신속하게 개발하고 배포하기

구현 가이드 보기

개요

생성형 AI 애플리케이션 구축의 주요 과제 중 하나는 복잡한 클라우드 설정과 심층적인 AI 전문 지식의 필요성입니다. AWS 기반 생성형 AI 애플리케이션 빌더는 이 프로세스를 간소화하여 광범위한 AI 지식 없이도 AI 애플리케이션을 개발, 테스트 및 배포할 수 있도록 지원합니다. 이 솔루션은 비즈니스 데이터를 쉽게 통합하고, 대규모 언어 모델(LLM)의 성능을 비교하고, AI 에이전트를 통해 다단계 작업을 실행하고, 확장 가능한 애플리케이션을 신속하게 구축하고, 엔터프라이즈급 아키텍처로 배포함으로써 AI 개발 속도를 높입니다. 생성형 AI 애플리케이션 빌더는 비즈니스 프로세스 또는 애플리케이션에 빠르게 통합할 수 있는 즉시 사용 가능한 생성형 AI 챗봇 및 API와 함께 제공됩니다.

이 솔루션에는 Amazon SageMaker에 배포된 LLM 외에도 Amazon Bedrock 및 해당 LLM과의 통합이 포함됩니다. 검색 증강 생성(RAG)용 Amazon Bedrock 도구를 사용하여 AI 응답을 개선하고, Amazon Bedrock 가드레일을 사용하여 보호 장치를 구현하고 할루시네이션을 줄이고, Amazon Bedrock 에이전트를 사용하여 복잡한 작업을 위한 워크플로를 생성합니다. LangChain 또는 AWS Lambda를 사용하여 다른 AI 모델에 연결할 수도 있습니다. 먼저 간단한 노코드 마법사를 사용하여 대화형 검색, AI 기반 챗봇, 텍스트 생성, 텍스트 요약을 위한 AI 애플리케이션을 빌드하세요.

이 AWS 솔루션의 사용 사례

더 보기…

장점

신속한 실험

이 솔루션을 사용하면 사용자는 다양한 구성의 여러 인스턴스를 배포하고 출력과 성능을 비교하는 데 동반되는 번거로운 작업을 없애고 빠르게 실험할 수 있습니다. 다양한 LLM, 프롬프트 엔지니어링, 엔터프라이즈 기술 자료, 가드레일, AI 에이전트 및 기타 파라미터의 다양한 구성을 실험해 보세요.

구성 가능성

이 솔루션에는 Amazon Bedrock을 통해 사용할 수 있는 모델을 포함하여 다양한 LLM에 대한 커넥터가 사전 구축되어 있기 때문에 원하는 모델과 선호하는 AWS 및 주요 FM 서비스를 유연하게 배포할 수 있습니다. 또한 Amazon Bedrock 에이전트를 활성화하여 다양한 작업과 워크플로를 수행할 수 있습니다.

프로덕션용

AWS Well-Architected 설계 원칙에 따라 빌드한 이 솔루션은 가용성은 높고 지연 시간은 짧은 엔터프라이즈급 보안과 확장성으로 고성능 표준에 따라 애플리케이션과 원활하게 통합할 수 있습니다.

확장 가능한 모듈식 아키텍처

기존 프로젝트를 통합하거나 추가 AWS 서비스를 기본으로 연결하여 이 솔루션의 기능을 확장하세요. 오픈 소스 애플리케이션이기 때문에 LangChain 오케스트레이션 계층 또는 Lambda 함수를 사용하여 원하는 서비스에 연결할 수 있습니다.

기술 세부 정보

구현 가이드 및 함께 제공되는 AWS CloudFormation 템플릿을 사용하여 이 아키텍처를 자동으로 배포할 수 있습니다. 템플릿은 3개의 개별 아키텍처를 배포합니다.

에이전트 사용 사례 - 에이전트 사용 사례를 통해 사용자는 Amazon Bedrock 에이전트를 사용하여 완료할 작업을 넘길 수 있습니다. 모델을 선택하고 자연어로 몇 가지 지침을 작성할 수 있습니다. 그러면 Amazon Bedrock AI 에이전트가 데이터 소스 또는 다른 API에 연결하여 작업을 분석, 조정 및 완료하여 요청을 처리합니다.
텍스트 사용 사례 – 텍스트 사용 사례는 사용자가 생성형 AI를 사용하여 자연어 인터페이스를 경험할 수 있게 해줍니다. 이 사용 사례는 신규 또는 기존 애플리케이션에 통합될 수 있으며 배포 대시보드 또는 제공된 URL을 통해 독립적으로 배포될 수 있습니다.
배포 대시보드 - 배포 대시보드는 관리자가 사용 사례를 보고 관리하며 생성할 수 있는 관리 콘솔 역할을 하는 웹 UI입니다. 이 대시보드를 사용하면 고객은 다양한 LLM과 데이터 구성을 사용하여 생성형 AI 애플리케이션을 빠르게 실험하고 반복하며 배포할 수 있습니다.

에이전트 사용 사례
텍스트 사용 사례
배포 대시보드

에이전트 사용 사례
1단계
비즈니스 사용자가 배포 대시보드를 사용하여 사용 사례를 배포합니다. 비즈니스 사용자가 사용 사례 UI에 로그인합니다.

2단계
Amazon CloudFront가 Amazon Simple Storage Service(Amazon S3) 버킷에서 호스팅되는 웹 UI를 제공합니다.

3단계
웹 UI는 Amazon API Gateway로 빌드한 WebSocket 통합을 사용합니다. API Gateway는 인증 사용자가 속한 Amazon Cognito 그룹을 기반으로 적절한 AWS Identity and Access Management(IAM) 정책을 반환하는 사용자 지정 AWS Lambda Authorizer 함수를 기반으로 합니다.

4단계
Amazon Cognito는 사용자를 인증하고 CloudFront 웹 UI와 API Gateway를 모두 지원합니다.

5단계
솔루션이 비즈니스 사용자의 요청을 API Gateway에서 Amazon Simple Queue Service(Amazon SQS) 대기열로 전달한 다음 Lambda 함수로 전달합니다. 대기열을 통해 Lambda 통합에 대한 API Gateway의 비동기 작업을 수행할 수 있습니다.

대기열이 Lambda 함수에 연결 정보를 전달하고, Lambda 함수가 결과를 API Gateway WebSocket 연결에 직접 게시하여 장기 실행 추론 간접 호출을 지원합니다.

6단계
Lambda 함수는 Amazon DynamoDB를 사용하여 필요에 따라 사용 사례 구성을 가져옵니다.

7단계
Lambda 함수는 사용자 입력과 관련 사용 사례 구성을 사용하여 요청 페이로드를 빌드하고 Amazon Bedrock 에이전트에 전송하여 사용자 의도를 충족합니다.

8단계
Amazon Bedrock 에이전트로부터 응답이 돌아오면 Lambda 함수는 API GatewayWebSocket을 통해 응답을 다시 전송합니다. 이를 통해 클라이언트 애플리케이션에서 응답을 사용할 수 있습니다.

9단계
이 솔루션은 Amazon CloudWatch를 통해 다양한 서비스에서 운영 지표를 수집하여 사용자가 배포의 성능과 운영 상태를 모니터링할 수 있는 사용자 지정 대시보드를 생성합니다.

확대하려면 클릭

1단계
비즈니스 사용자가 배포 대시보드를 사용하여 사용 사례를 배포합니다. 비즈니스 사용자가 사용 사례 UI에 로그인합니다.

2단계
Amazon CloudFront가 Amazon Simple Storage Service(Amazon S3) 버킷에서 호스팅되는 웹 UI를 제공합니다.

3단계
웹 UI는 Amazon API Gateway로 빌드한 WebSocket 통합을 사용합니다. API Gateway는 인증 사용자가 속한 Amazon Cognito 그룹을 기반으로 적절한 AWS Identity and Access Management(IAM) 정책을 반환하는 사용자 지정 AWS Lambda Authorizer 함수를 기반으로 합니다.

4단계
Amazon Cognito는 사용자를 인증하고 CloudFront 웹 UI와 API Gateway를 모두 지원합니다.

5단계
솔루션이 비즈니스 사용자의 요청을 API Gateway에서 Amazon Simple Queue Service(Amazon SQS) 대기열로 전달한 다음 Lambda 함수로 전달합니다. 대기열을 통해 Lambda 통합에 대한 API Gateway의 비동기 작업을 수행할 수 있습니다.

대기열이 Lambda 함수에 연결 정보를 전달하고, Lambda 함수가 결과를 API Gateway WebSocket 연결에 직접 게시하여 장기 실행 추론 간접 호출을 지원합니다.

6단계
Lambda 함수는 Amazon DynamoDB를 사용하여 필요에 따라 사용 사례 구성을 가져옵니다.

7단계
Lambda 함수는 사용자 입력과 관련 사용 사례 구성을 사용하여 요청 페이로드를 빌드하고 Amazon Bedrock 에이전트에 전송하여 사용자 의도를 충족합니다.

8단계
Amazon Bedrock 에이전트로부터 응답이 돌아오면 Lambda 함수는 API GatewayWebSocket을 통해 응답을 다시 전송합니다. 이를 통해 클라이언트 애플리케이션에서 응답을 사용할 수 있습니다.

9단계
이 솔루션은 Amazon CloudWatch를 통해 다양한 서비스에서 운영 지표를 수집하여 사용자가 배포의 성능과 운영 상태를 모니터링할 수 있는 사용자 지정 대시보드를 생성합니다.
텍스트 사용 사례
1단계
관리자가 배포 대시보드를 사용하여 사용 사례를 배포합니다. 비즈니스 사용자가 사용 사례 UI에 로그인합니다.

2단계
CloudFront가 S3 버킷에서 호스팅되는 웹 UI를 제공합니다.

3단계
웹 UI가 API Gateway를 사용하여 빌드한 WebSocket 통합을 활용합니다. API Gateway는 인증 사용자가 속한 Amazon Cognito 그룹을 기반으로 적절한 IAM 정책을 반환하는 사용자 지정 Lambda Authorizer 함수를 기반으로 합니다. 정책은 DynamoDB에 저장됩니다.

4단계
Amazon Cognito는 사용자를 인증하고 CloudFront 웹 UI와 API Gateway를 모두 지원합니다.

5단계
비즈니스 사용자로부터 들어오는 요청은 API Gateway에서 Amazon Simple Queue Service(Amazon SQS) 대기열로 전달된 다음 LangChain Orchestrator로 전달됩니다. LangChain Orchestrator는 비즈니스 사용자의 요청을 이행하는 데 필요한 비즈니스 논리를 제공하는 Lambda 함수 및 계층의 모음입니다.

대기열을 통해 Lambda 통합에 대한 API Gateway의 비동기 작업을 수행할 수 있습니다. 대기열이 Lambda 함수에 연결 정보를 전달하고, Lambda 함수가 결과를 API Gateway WebSocket 연결에 직접 게시하여 장기 실행 추론 호출을 지원합니다.

6단계
LangChain Orchestrator는 DynamoDB를 사용하여 구성된 LLM 옵션과 필요한 세션 정보(예: 채팅 기록)를 가져옵니다.

7단계
배포에 기술 자료가 구성된 경우 LangChain Orchestrator는 Amazon Kendra 또는 Amazon Bedrock 기술 자료를 활용하여 검색 쿼리를 실행하여 문서 발췌본을 검색합니다.

8단계
LangChain Orchestrator는 기술 자료의 채팅 기록, 쿼리, 컨텍스트를 사용하여 최종 프롬프트를 생성하고 Amazon Bedrock 또는 Amazon SageMaker에서 호스팅되는 LLM에 요청을 보냅니다.

9단계
LLM에서 응답을 회신하면 LangChain Orchestrator에서 API Gateway WebSocket을 통해 응답을 다시 스트리밍합니다. 이를 통해 클라이언트 애플리케이션에서 응답을 사용할 수 있습니다.

10단계
이 솔루션은 CloudWatch를 통해 다양한 서비스에서 운영 지표를 수집하여 사용자가 배포의 성능과 운영 상태를 모니터링할 수 있는 사용자 지정 대시보드를 생성합니다.

확대하려면 클릭

1단계
관리자가 배포 대시보드를 사용하여 사용 사례를 배포합니다. 비즈니스 사용자가 사용 사례 UI에 로그인합니다.

2단계
CloudFront가 S3 버킷에서 호스팅되는 웹 UI를 제공합니다.

3단계
웹 UI가 API Gateway를 사용하여 빌드한 WebSocket 통합을 활용합니다. API Gateway는 인증 사용자가 속한 Amazon Cognito 그룹을 기반으로 적절한 IAM 정책을 반환하는 사용자 지정 Lambda Authorizer 함수를 기반으로 합니다. 정책은 DynamoDB에 저장됩니다.

4단계
Amazon Cognito는 사용자를 인증하고 CloudFront 웹 UI와 API Gateway를 모두 지원합니다.

5단계
비즈니스 사용자로부터 들어오는 요청은 API Gateway에서 Amazon Simple Queue Service(Amazon SQS) 대기열로 전달된 다음 LangChain Orchestrator로 전달됩니다. LangChain Orchestrator는 비즈니스 사용자의 요청을 이행하는 데 필요한 비즈니스 논리를 제공하는 Lambda 함수 및 계층의 모음입니다.

대기열을 통해 Lambda 통합에 대한 API Gateway의 비동기 작업을 수행할 수 있습니다. 대기열이 Lambda 함수에 연결 정보를 전달하고, Lambda 함수가 결과를 API Gateway WebSocket 연결에 직접 게시하여 장기 실행 추론 호출을 지원합니다.

6단계
LangChain Orchestrator는 DynamoDB를 사용하여 구성된 LLM 옵션과 필요한 세션 정보(예: 채팅 기록)를 가져옵니다.

7단계
배포에 기술 자료가 구성된 경우 LangChain Orchestrator는 Amazon Kendra 또는 Amazon Bedrock 기술 자료를 활용하여 검색 쿼리를 실행하여 문서 발췌본을 검색합니다.

8단계
LangChain Orchestrator는 기술 자료의 채팅 기록, 쿼리, 컨텍스트를 사용하여 최종 프롬프트를 생성하고 Amazon Bedrock 또는 Amazon SageMaker에서 호스팅되는 LLM에 요청을 보냅니다.

9단계
LLM에서 응답을 회신하면 LangChain Orchestrator에서 API Gateway WebSocket을 통해 응답을 다시 스트리밍합니다. 이를 통해 클라이언트 애플리케이션에서 응답을 사용할 수 있습니다.

10단계
이 솔루션은 CloudWatch를 통해 다양한 서비스에서 운영 지표를 수집하여 사용자가 배포의 성능과 운영 상태를 모니터링할 수 있는 사용자 지정 대시보드를 생성합니다.
배포 대시보드
1단계
관리자가 배포 대시보드 UI에 로그인합니다.

2단계
CloudFront가 S3 버킷에서 호스팅되는 웹 UI를 제공합니다.

3단계
AWS WAF가 공격으로부터 API를 보호합니다. 이 솔루션은 구성 가능한 사용자 정의 웹 보안 규칙과 조건에 따라 웹 요청을 허용 또는 차단하거나 웹 요청을 세는 웹 액세스 제어 목록(웹 ACL)이라는 일련의 규칙을 구성합니다.

4단계
웹 UI는 API Gateway를 사용하여 노출되는 REST API 세트를 활용합니다.

5단계
Amazon Cognito는 사용자를 인증하고 CloudFront 웹 UI와 API Gateway를 모두 지원합니다. DynamoDB 테이블은 인증된 사용자의 IAM 정책을 저장합니다.

6단계
Lambda가 REST 엔드포인트용 비즈니스 논리를 제공합니다. 이 Backing Lambda 함수는 AWS CloudFormation을 사용하여 사용 사례를 배포하는 데 필요한 리소스를 관리하고 생성합니다.

7단계
DynamoDB에 배포 목록이 저장됩니다.

8단계
관리자가 새 사용 사례를 생성하면 Backing Lambda 함수는 요청된 사용 사례의 CloudFormation 스택 생성 이벤트를 시작합니다.

9단계
관리자가 배포 마법사에 제공하는 모든 LLM 구성 옵션이 DynamoDB에 저장됩니다. 배포에서는 이 DynamoDB 테이블을 사용하여 런타임에 LLM을 구성합니다.

10단계
이 솔루션은 CloudWatch를 통해 다양한 서비스에서 운영 지표를 수집하여 사용자가 솔루션의 성능과 운영 상태를 모니터링할 수 있는 사용자 지정 대시보드를 생성합니다.

확대하려면 클릭

1단계
관리자가 배포 대시보드 UI에 로그인합니다.

2단계
CloudFront가 S3 버킷에서 호스팅되는 웹 UI를 제공합니다.

3단계
AWS WAF가 공격으로부터 API를 보호합니다. 이 솔루션은 구성 가능한 사용자 정의 웹 보안 규칙과 조건에 따라 웹 요청을 허용 또는 차단하거나 웹 요청을 세는 웹 액세스 제어 목록(웹 ACL)이라는 일련의 규칙을 구성합니다.

4단계
웹 UI는 API Gateway를 사용하여 노출되는 REST API 세트를 활용합니다.

5단계
Amazon Cognito는 사용자를 인증하고 CloudFront 웹 UI와 API Gateway를 모두 지원합니다. DynamoDB 테이블은 인증된 사용자의 IAM 정책을 저장합니다.

6단계
Lambda가 REST 엔드포인트용 비즈니스 논리를 제공합니다. 이 Backing Lambda 함수는 AWS CloudFormation을 사용하여 사용 사례를 배포하는 데 필요한 리소스를 관리하고 생성합니다.

7단계
DynamoDB에 배포 목록이 저장됩니다.

8단계
관리자가 새 사용 사례를 생성하면 Backing Lambda 함수는 요청된 사용 사례의 CloudFormation 스택 생성 이벤트를 시작합니다.

9단계
관리자가 배포 마법사에 제공하는 모든 LLM 구성 옵션이 DynamoDB에 저장됩니다. 배포에서는 이 DynamoDB 테이블을 사용하여 런타임에 LLM을 구성합니다.

10단계
이 솔루션은 CloudWatch를 통해 다양한 서비스에서 운영 지표를 수집하여 사용자가 솔루션의 성능과 운영 상태를 모니터링할 수 있는 사용자 지정 대시보드를 생성합니다.

이 배포에 대한 정보

구현 가이드 보기

구현 가이드 다운로드 소스 코드 CloudFormation 템플릿

배포 옵션

시작할 준비가 되셨나요?

AWS Console에서 이 솔루션을 시작하여 배포

AWS Console에서 시작

관련 콘텐츠

AWS 서비스

Amazon Bedrock

기본 모델을 사용하여 생성형 AI 애플리케이션을 구축하고 확장하는 가장 쉬운 방법입니다.

자세히 알아보기

지침

Amazon SageMaker JumpStart를 이용한 생성형 AI 배포 지침

이 지침은 Amazon SageMaker JumpStart에서 제공하는 생성형 인공 지능(AI) 모델을 배포한 다음 AWS Cloud Development Kit(AWS CDK)를 사용하여 비동기식 SageMaker 엔드포인트를 손쉽게 생성하는 방법을 보여줍니다.

자세히 알아보기

지침

AWS의 관계형 데이터베이스 자연어 쿼리 지침

이 지침은 자연어 쿼리(NLQ)를 사용하여 관계형 데이터베이스에 직접 질문할 수 있는 애플리케이션을 구축하는 방법을 보여줍니다.

자세히 알아보기

AWS 서비스

모든 비즈니스를 위한 생성형 AI

AWS를 이용해 생산성을 높이고 차별화된 경험을 구축하며 빠르게 혁신하세요.

자세히 알아보기

사례 연구

Megamedia와 함께 AWS의 생성형 AI 솔루션을 사용하여 정확도가 높은 챗봇 출시

이 사례 연구에서는 방송사인 Megamedia가 어떻게 생성형 AI 기반 챗봇을 생성하여 AWS를 통해 중요한 공개 정보에 대한 액세스를 간소화했는지 보여줍니다.

사례 연구 읽기

동영상

AWS 솔루션으로 해결: AWS의 생성형 AI 애플리케이션 빌더

동영상 보기

이 페이지의 내용이 도움이 되었나요?

피드백