Amazon Bedrock 에이전트

Amazon Bedrock 에이전트는 워크플로를 간소화하고 반복적인 작업을 자동화합니다. AI 자동화 기능을 활용하면 생산성을 높이고 비용을 절감할 수 있습니다.

Agents for Amazon Bedrock은 개발자가 제공한 지침(예: 해결되지 않은 청구를 처리하도록 설계된 보험 에이전트’), 태스크 완료에 필요한 API 세부 정보 및 기술 자료의 회사 데이터 소스 세부 정보를 사용하여 프롬프트를 생성합니다. 프롬프트가 자동으로 생성되므로 여러 FM의 프롬프트를 실험하는 데 드는 몇 주의 시간이 절약됩니다.

Amazon Bedrock 에이전트는 회사의 데이터 소스에 안전하게 연결하고 올바른 정보로 사용자 요청을 보강하여 정확한 응답을 생성합니다. 예를 들어, 사용자가 청구 자격에 대해 문의하면 RAG 에이전트는 기술 자료에서 정보를 찾아 제출된 청구와 자격 정책 응답(예: “운전면허증, 손상된 차량 사진, 사고 보고서를 제출해야 합니다.”)을 조정합니다.

고객은 몇 가지 간단한 단계만으로 Amazon Bedrock에서 에이전트를 생성하여 생성형 AI 애플리케이션을 구축하는 데 걸리는 시간을 단축할 수 있습니다. 고객은 먼저 모델을 선택하고 자연어로 몇 가지 지침을 작성합니다(예: ‘재고 관리 에이전트로서 재고 시스템에서 상품 가용성을 결정합니다.’). 에이전트는 FM의 추론 기능을 사용하여 태스크를 오케스트레이션 및 분석하고 올바른 논리적 순서로 분류할 수 있습니다. 고객 상담 중에 계속해도 되는지 아니면 추가 정보를 수집해야 하는지 여부를 결정하면서 회사 시스템 및 프로세스와의 트랜잭션에 필요한 API를 자동으로 직접 호출하여 요청을 이행할 수 있습니다. 

Amazon Bedrock 에이전트는 안전한 환경에서 코드를 동적으로 생성하고 실행하는 기능을 지원합니다. 이 기능을 통해 이전에는 모델 추론만으로는 답변하기 어려웠던 복잡한 분석 쿼리를 자동화합니다. 사용자는 이 기능을 활용하여 데이터 분석, 데이터 시각화, 수학적 문제 해결과 같은 폭넓은 범위의 정교한 사용 사례를 처리할 수 있습니다.

Amazon Bedrock 에이전트를 사용하면 작업 스키마를 정의하고 에이전트가 작업을 간접적으로 호출할 때마다 통제권을 다시 가져올 수 있습니다. 이를 통해 선택한 백엔드 서비스에 비즈니스 로직을 구현할 수 있습니다. 또한 통제권 반환 기능을 사용하면 오케스트레이션 흐름을 지속하면서 시간이 많이 걸리는 작업을 백그라운드에서 실행(비동기 실행)할 수 있습니다.

Amazon Bedrock 에이전트는 상호 작용 전반에 걸쳐 메모리를 유지할 수 있어 보다 개인화되고 원활한 사용자 경험을 제공합니다. 이 기능을 통해 에이전트는 과거 상호 작용을 기억하고 다단계 작업의 정확도를 높일 수 있습니다. 사용자는 개선된 권장 사항과 필요한 경우 이전 컨텍스트 리콜을 통해 유용하게 사용할 수 있으므로 에이전트와의 보다 일관되고 효율적인 상호 작용이 보장됩니다.

추적 기능을 사용하여 에이전트의 추론 및 오케스트레이션 계획을 단계별로 살펴볼 수 있습니다. 이러한 인사이트를 활용하면 다양한 오케스트레이션 문제를 해결하여 모델의 동작을 원하는 방식으로 조정함으로써 사용자 경험을 개선할 수 있습니다. 또한 애플리케이션을 반복하면서 단계를 검토하고 지침을 조정할 수 있습니다. 모델의 추론을 완벽하게 파악할 수 있으므로 차별화된 애플리케이션을 더 빠르게 만들 수 있습니다.

Amazon Bedrock 에이전트는 사용자 지침, 작업 그룹 및 기술 자료를 사용하여 프롬프트 템플릿을 자동으로 생성합니다. 이 템플릿을 기준으로 삼아 자동으로 생성된 프롬프트 템플릿을 세부적으로 조정하여 사용자 환경을 개선할 수 있습니다. 사용자 입력, 오케스트레이션 계획 및 FM 응답을 업데이트할 수도 있습니다. 마지막으로, 프롬프트 템플릿을 수정하여 에이전트 오케스트레이션에 대한 제어를 개선할 수 있습니다.