Câu hỏi thường gặp về Amazon Bedrock

Tác tử của Amazon Bedrock là các chức năng được quản lý toàn phần giúp nhà phát triển dễ dàng tạo các ứng dụng dựa trên AI tạo sinh mà có thể hoàn thành các tác vụ phức tạp cho nhiều trường hợp sử dụng và cung cấp câu trả lời cập nhật dựa trên các nguồn kiến thức độc quyền. Chỉ với vài bước ngắn, Tác tử của Amazon Bedrock sẽ tự động phân tích các tác vụ và tạo kế hoạch điều phối mà không cần bất kỳ thao tác viết mã thủ công nào. Tác tử kết nối một cách bảo mật với dữ liệu công ty thông qua API, tự động chuyển đổi dữ liệu sang định dạng có thể đọc được bằng máy và tăng cường yêu cầu với thông tin liên quan để tạo phản hồi chính xác nhất. Sau đó, các tác tử có thể tự động gọi API để thực hiện yêu cầu của người dùng. Ví dụ: một công ty sản xuất có thể muốn phát triển một ứng dụng AI tạo sinh cho phép tự động theo dõi mức hàng tồn kho, dữ liệu bán hàng, thông tin chuỗi cung ứng và có thể đề xuất các điểm và số lượng sắp xếp lại tối ưu để đạt hiệu quả tối đa. Là chức năng được quản lý toàn phần, Tác tử của Amazon Bedrock loại bỏ việc quản lý tích hợp hệ thống và cung cấp cơ sở hạ tầng không tạo ra giá trị khác biệt, cho phép các nhà phát triển sử dụng AI tạo sinh đến mức tối đa trong toàn bộ tổ chức.

Bạn có thể kết nối FM một cách bảo mật với các nguồn dữ liệu của công ty bằng Tác tử của Amazon Bedrock. Với cơ sở kiến thức, bạn có thể sử dụng các tác tử để cung cấp cho FM trong Amazon Bedrock quyền truy cập vào dữ liệu bổ sung giúp mô hình tạo ra các phản hồi phù hợp, cụ thể theo ngữ cảnh và chính xác hơn mà không cần liên tục đào tạo lại FM. Dựa trên thông tin đầu vào của người dùng, các tác tử xác định cơ sở kiến thức thích hợp, truy xuất thông tin liên quan và thêm thông tin vào lời nhắc đầu vào, từ đó cung cấp cho mô hình thêm thông tin ngữ cảnh để hoàn thiện.

Các tác tử của Amazon Bedrock có thể giúp bạn tăng năng suất, cải thiện trải nghiệm dịch vụ khách hàng và tự động hóa quy trình làm việc (chẳng hạn như xử lý yêu cầu bồi thường bảo hiểm).

Nhờ các tác tử, nhà phát triển cung cấp khả năng hỗ trợ liền mạch trong quy trình giám sát, mã hóa, quyền người dùng, lập phiên bản và quản lý gọi API mà không cần viết mã tùy chỉnh. Các tác tử của Amazon Bedrock tự động hóa quy trình tạo câu lệnh và điều phối các tác vụ do người dùng yêu cầu. Các nhà phát triển có thể sử dụng mẫu nhắc do tác tử tạo làm cơ sở để tinh chỉnh hơn nữa nhằm nâng cao trải nghiệm người dùng. Họ có thể cập nhật đầu vào của người dùng, kế hoạch điều phối và phản hồi của FM. Với quyền truy cập vào mẫu nhắc, các nhà phát triển có quyền kiểm soát tốt hơn đối với việc điều phối tác tử.

Với các tác tử được quản lý toàn phần, bạn không phải lo lắng về việc cung cấp hoặc quản lý cơ sở hạ tầng và có thể đưa các ứng dụng vào sản xuất nhanh hơn.

Mọi nội dung của khách hàng mà Amazon Bedrock xử lý đều được mã hóa và lưu trữ ở trang thái lưu trữ trong Khu vực AWS nơi bạn đang dùng Amazon Bedrock.

Không. Thông tin đầu vào của người dùng và đầu ra mô hình không được chia sẻ với bất kỳ nhà cung cấp mô hình nào.

Amazon Bedrock cung cấp một số tính năng để hỗ trợ các yêu cầu về bảo mật và quyền riêng tư. Amazon Bedrock nằm trong phạm vi đáp ứng các tiêu chuẩn tuân thủ chung như FedRAMP Trung bình, Kiểm soát dịch vụ và tổ chức (SOC), Tổ chức tiêu chuẩn hóa quốc tế (ISO), hội đủ điều kiện của Đạo luật về trách nhiệm giải trình và cung cấp thông tin bảo hiểm y tế (HIPAA) và khách hàng có thể sử dụng Bedrock tuân thủ Quy định bảo vệ dữ liệu chung (GDPR). Amazon Bedrock được bao gồm trong phạm vi báo cáo SOC 1, 2, 3, cho phép khách hàng nắm được thông tin chuyên sâu về các biện pháp kiểm soát bảo mật của chúng tôi. Chúng tôi chứng minh sự tuân thủ thông qua những cuộc kiểm tra sâu rộng của bên thứ ba về các biện pháp kiểm soát AWS của chúng tôi. Amazon Bedrock là một trong những dịch vụ của AWS đáp ứng Tuân thủ ISO đối với các tiêu chuẩn ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301 và ISO 20000. Amazon Bedrock đạt được chứng nhận Đảm bảo độ tin cậy bảo mật và rủi ro (STAR) Cấp 2 của CSA, xác nhận việc sử dụng các phương pháp tốt nhất và khả năng bảo mật của các dịch vụ đám mây AWS. Amazon Bedrock không sử dụng nội dung của bạn để cải thiện các mô hình cơ sở và không chia sẻ chúng với bất kỳ nhà cung cấp mô hình nào. Bạn có thể sử dụng AWS PrivateLink để thiết lập kết nối riêng từ VPC của Amazon đến Amazon Bedrock mà dữ liệu của bạn không cần phải tiếp xúc với lưu lượng truy cập Internet.

 

Không, AWS và các nhà cung cấp mô hình bên thứ ba sẽ không sử dụng bất kỳ dữ liệu đầu vào hoặc đầu ra nào từ Amazon Bedrock để đào tạo Amazon Titan hoặc bất kỳ mô hình của bên thứ ba nào.

Amazon Bedrock hỗ trợ SDK cho các dịch vụ thực thi. Các SDK iOS và Android, cũng như Java, JS, Python, CLI, .Net, Ruby, PHP, Go và C++ hỗ trợ cả đầu vào bằng văn bản và giọng nói.

Tất cả SDK đều hỗ trợ truyền phát.

Vui lòng tham khảo trang định giá Amazon Bedrock để biết thông tin về giá hiện tại.

Tùy thuộc vào hợp đồng Hỗ trợ AWS của bạn, Amazon Bedrock nằm trong phạm vi hỗ trợ của các gói Hỗ trợ nhà phát triển, Hỗ trợ kinh doanh và Hỗ trợ dành cho doanh nghiệp.

Bạn có thể sử dụng chỉ số CloudWatch để theo dõi mã thông báo đầu vào và đầu ra.

Với Amazon Bedrock, bạn có thể tùy chỉnh các FM một cách riêng tư, giữ quyền kiểm soát cách dữ liệu được sử dụng và mã hóa. Amazon Bedrock tạo một bản sao riêng biệt của FM cơ sở và đào tạo bản sao riêng tư này của mô hình. Dữ liệu của bạn bao gồm câu lệnh, thông tin được sử dụng để bổ sung cho câu lệnh và phản hồi FM. Các FM tùy chỉnh vẫn còn trong Khu vực nơi lệnh gọi API được xử lý.

Khi bạn tinh chỉnh mô hình, dữ liệu của bạn tuyệt đối không bị tiết lộ trên internet công cộng, tuyệt đối không rời khỏi mạng AWS, được chuyển an toàn qua VPC của bạn và được mã hóa khi đang truyền và khi lưu trữ. Amazon Bedrock còn thực thi các biện pháp kiểm soát truy cập AWS giống như bạn có với bất kỳ dịch vụ nào khác của chúng tôi.

Chúng tôi đã triển khai tính năng đào tạo trước liên tục cho các mô hình Văn bản nhanh của Amazon Titan và Amazon Titan trên Amazon Bedrock. Đào tạo trước liên tục cho phép bạn tiếp tục đào tạo trước trên mô hình cơ sở Amazon Titan bằng cách sử dụng một lượng lớn dữ liệu chưa được dán nhãn. Loại đào tạo này sẽ điều chỉnh mô hình từ một tập miền chung sang một tập miền cụ thể hơn như y tế, luật, tài chính, v.v. trong khi vẫn bảo toàn hầu hết các tính năng của mô hình cơ sở Amazon Titan. 

Các doanh nghiệp có thể muốn xây dựng mô hình cho các tác vụ trong một miền cụ thể. Các mô hình cơ sở có thể không được đào tạo về biệt ngữ kỹ thuật được sử dụng trong miền cụ thể đó. Do đó, việc tinh chỉnh trực tiếp mô hình cơ sở yêu cầu một lượng lớn hồ sơ đào tạo được dán nhãn và thời gian đào tạo lâu để đạt được kết quả chính xác. Để giảm bớt gánh nặng này, thay vào đó, khách hàng có thể cung cấp một lượng lớn dữ liệu không được dán nhãn cho tác vụ đào tạo trước liên tục. Tác vụ này sẽ điều chỉnh mô hình cơ sở Amazon Titan cho miền mới. Sau đó, khách hàng có thể tinh chỉnh mô hình tùy chỉnh mới được đào tạo trước cho các tác vụ hạ nguồn thông qua hồ sơ đào tạo được dán nhãn với số lượng ít hơn đáng kể và với thời gian đào tạo ngắn hơn. 

Tính năng đào tạo trước liên tục và tinh chỉnh trong Amazon Bedrock có các yêu cầu rất giống nhau. Vì lý do này, chúng tôi đang chọn tạo các API hợp nhất hỗ trợ cả đào tạo trước liên tục và tinh chỉnh. Việc hợp nhất các API làm giảm thời gian học hỏi và sẽ giúp khách hàng sử dụng các tính năng tiêu chuẩn như Amazon EventBridge để theo dõi các tác vụ chạy trong thời gian dài, tích hợp Amazon S3 để tìm nạp dữ liệu đào tạo, thẻ tài nguyên và mã hóa mô hình. 

Đào tạo trước liên tục giúp bạn điều chỉnh các mô hình Amazon Titan với dữ liệu cụ thể trong miền của mình trong khi vẫn duy trì chức năng cơ bản của các mô hình Amazon Titan. Để tạo tác vụ đào tạo trước liên tục, hãy điều hướng đến Bảng điều khiển Amazon Bedrock và nhấp vào “Mô hình tùy chỉnh”. Bạn sẽ điều hướng đến trang mô hình tùy chỉnh có hai tab: Mô hình và tác vụ Đào tạo. Cả hai thẻ đều cung cấp menu thả xuống “Tùy chỉnh mô hình” ở bên phải. Chọn “Đào tạo trước liên tục” từ menu thả xuống để đi đến “Tạo tác vụ đào tạo trước liên tục”. Bạn sẽ cung cấp mô hình nguồn, tên, mã hóa mô hình, dữ liệu đầu vào, siêu thông số và dữ liệu đầu ra. Ngoài ra, bạn có thể cung cấp thẻ cùng với thông tin chi tiết về vai trò Quản lý danh tính và truy cập trong AWS (IAM) và chính sách tài nguyên cho tác vụ.

Dành riêng cho Amazon Bedrock, dòng mô hình Amazon Titan kết hợp 25 năm kinh nghiệm của Amazon trong việc đổi mới với AI và máy học trong toàn bộ hoạt động kinh doanh. Các FM Amazon Titan cung cấp cho khách hàng nhiều lựa chọn mô hình hình ảnh, đa phương thức và mô hình văn bản hiệu năng cao thông qua API được quản lý toàn phần. Các mô hình Amazon Titan được tạo ra bởi AWS và được đào tạo trước trên các tập dữ liệu lớn, giúp chúng trở thành các mô hình đa dụng mạnh mẽ, được xây dựng để hỗ trợ nhiều trường hợp sử dụng khác nhau, đồng thời hỗ trợ việc sử dụng AI có trách nhiệm. Sử dụng các mô hình này ở thiết lập sẵn có hoặc tùy chỉnh riêng theo dữ liệu của riêng bạn. Tìm hiểu thêm về Amazon Titan.

Để tìm hiểu thêm về dữ liệu được xử lý để phát triển và đào tạo FM Amazon Titan, hãy truy cập trang Quyền riêng tư và đào tạo mô hình Amazon Titan.

Bạn có thể tải nhập nội dung từ nhiều nguồn khác nhau, bao gồm web, Amazon Simple Storage Service (Amazon S3), Confluence (bản xem trước), Salesforce (bản xem trước) và SharePoint (bản xem trước). Bạn cũng có thể tải nhập theo lập trình các dữ liệu truyền liên tục hoặc dữ liệu từ các nguồn không được hỗ trợ. Bạn cũng có thể kết nối với các nguồn dữ liệu có cấu trúc của mình như kho dữ liệu Redshift và danh mục dữ liệu AWS Glue.

Cơ sở kiến thức của Amazon Bedrock cung cấp tính năng Ngôn ngữ tự nhiên sang SQL được quản lý để chuyển đổi ngôn ngữ tự nhiên thành các truy vấn SQL có thể triển khai và truy xuất dữ liệu, cho phép bạn xây dựng ứng dụng bằng cách sử dụng dữ liệu từ các nguồn này.

Có, quản lý ngữ cảnh phiên được tích hợp sẵn, cho phép các ứng dụng của bạn duy trì ngữ cảnh trên nhiều tương tác, điều này rất cần thiết để hỗ trợ các cuộc hội thoại đa lượt.

Có, tất cả thông tin được truy xuất bao gồm trích dẫn, cải thiện tính minh bạch và giảm thiểu nguy cơ ảo giác trong các phản hồi được tạo ra.

Cơ sở kiến thức của Amazon Bedrock hỗ trợ xử lý dữ liệu đa phương thức, cho phép các nhà phát triển xây dựng các ứng dụng AI tạo sinh phân tích cả văn bản và dữ liệu trực quan, bao gồm hình ảnh, biểu đồ, sơ đồ và bảng. Phản hồi của mô hình có thể tận dụng thông tin chuyên sâu từ các yếu tố trực quan ngoài văn bản, cung cấp câu trả lời chính xác hơn và phù hợp với ngữ cảnh. Ngoài ra, việc phân bổ nguồn cho các phản hồi bao gồm các yếu tố trực quan, tăng cường tính minh bạch và độ tin cậy của các phản hồi.

Cơ sở kiến thức của Amazon Bedrock có thể xử lý các tài liệu giàu hình ảnh ở định dạng PDF, có thể chứa hình ảnh, bảng biểu, biểu đồ và sơ đồ. Đối với dữ liệu chỉ có hình ảnh, Cơ sở kiến thức của Bedrock hỗ trợ các định dạng hình ảnh tiêu chuẩn như JPEG và PNG, cho phép khả năng tìm kiếm mà qua đó người dùng có thể truy xuất hình ảnh có liên quan dựa trên các truy vấn dạng văn bản.

Khách hàng có ba tùy chọn phân tích cú pháp cho Cơ sở kiến thức của Bedrock. Nếu chỉ xử lý văn bản, trình phân tích cú pháp Bedrock mặc định được tích hợp sẵn và không tốn thêm chi phí, là lựa chọn lý tưởng cho các trường hợp không cần xử lý dữ liệu đa phương thức. Bạn có thể sử dụng Tự động hóa dữ liệu của Amazon Bedrock (BDA) hoặc mô hình nền tảng để phân tích dữ liệu đa phương thức. Để biết thêm thông tin, hãy tham khảo tài liệu về sản phẩm. 

Cơ sở kiến thức của Amazon Bedrock xử lý nhiều hoạt động phức tạp trong quy trình làm việc như so sánh nội dung, xử lý lỗi, kiểm soát thông lượng và mã hóa, đảm bảo dữ liệu của bạn được xử lý và quản lý an toàn theo các tiêu chuẩn bảo mật nghiêm ngặt của AWS.

Đánh giá mô hình trên Amazon Bedrock cho phép bạn đánh giá, so sánh và chọn FM tốt nhất cho trường hợp sử dụng của bạn chỉ trong vài bước ngắn gọn. Amazon Bedrock cung cấp lựa chọn bao gồm đánh giá tự động và đánh giá của con người. Bạn có thể sử dụng tính năng đánh giá tự động với các chỉ số được định sẵn như độ chính xác, độ chắc chắn và độ độc hại. Bạn có thể sử dụng quy trình đánh giá của con người cho các chỉ số chủ quan hoặc tùy chỉnh như mức độ thân thiện, phong cách và sự phù hợp với tiếng nói thương hiệu. Đối với đánh giá của con người, bạn có thể sử dụng nhân viên nội bộ của mình hoặc nhóm do AWS quản lý làm người đánh giá. Đánh giá mô hình trên Amazon Bedrock cung cấp tập dữ liệu tích hợp sẵn được tuyển chọn hoặc bạn có thể sử dụng tập dữ liệu riêng.

Bạn có thể đánh giá nhiều chỉ số được xác định trước như độ chính xác, độ chắc chắn và độ độc hại bằng cách sử dụng đánh giá tự động. Bạn cũng có thể sử dụng quy trình đánh giá của con người cho các chỉ số chủ quan hoặc tùy chỉnh, chẳng hạn như độ thân thiện, mức độ liên quan, phong cách và độ phù hợp với tiếng nói thương hiệu.

Đánh giá tự động cho phép bạn nhanh chóng thu hẹp danh sách các FM có sẵn theo các tiêu chí tiêu chuẩn (chẳng hạn như độ chính xác, độ độc hại và độ chắc chắn). Đánh giá của con người thường được sử dụng để đánh giá các tiêu chí chủ quan hoặc nhiều sắc thái hơn, đòi hỏi sự phán đoán của con người và những tiêu chí mà đánh giá tự động có thể không hỗ trợ (chẳng hạn như tiếng nói thương hiệu, dụng ý sáng tạo, độ thân thiện).

Bạn có thể nhanh chóng đánh giá các mô hình Amazon Bedrock về các chỉ số như độ chính xác, độ chắc chắn và độ độc hại bằng cách sử dụng các tập dữ liệu tích hợp được tuyển chọn hoặc bằng cách sử dụng các tập dữ liệu câu lệnh của riêng bạn. Sau khi tập dữ liệu câu lệnh của bạn được gửi đến các mô hình Amazon Bedrock để suy luận, các phản hồi của mô hình được chấm điểm bằng các thuật toán đánh giá cho từng tham số. Công cụ backend tổng hợp điểm số cho mỗi phản hồi câu lệnh riêng lẻ thành điểm số ngắn gọn và trình bày chúng thông qua các báo cáo trực quan dễ hiểu.

Amazon Bedrock cho phép bạn thiết lập quy trình đánh giá của con người trong một vài bước ngắn gọn và sử dụng nhân viên nội bộ của bạn hoặc sử dụng đội ngũ chuyên gia do AWS quản lý để đánh giá các mô hình. Thông qua giao diện trực quan của Amazon Bedrock, con người có thể đánh giá và đưa ra ý kiến về phản hồi của mô hình bằng cách nhấp vào biểu tượng ngón tay cái giơ lên hoặc xuống, xếp hạng theo thang điểm từ 1 đến 5, chọn ra phản hồi tốt nhất trong nhiều phản hồi hoặc xếp hạng câu lệnh. Ví dụ: một thành viên trong nhóm có thể được xem cách hai mô hình phản hồi với cùng một câu lệnh, sau đó thành viên được yêu cầu chọn mô hình hiển thị đầu ra chính xác hơn, phù hợp hoặc phong cách hơn. Bạn có thể chỉ định các tiêu chí đánh giá quan trọng đối với bạn bằng cách tùy chỉnh các hướng dẫn và nút để xuất hiện trên giao diện người dùng đánh giá cho đội ngũ của bạn. Bạn cũng có thể cung cấp hướng dẫn chi tiết bằng các ví dụ và mục tiêu chung của việc đánh giá mô hình để người dùng có thể sắp xếp việc đánh giá cho phù hợp. Phương pháp này rất hữu ích khi đánh giá các tiêu chí chủ quan đòi hỏi sự phán đoán của con người hoặc chuyên môn trong lĩnh vực có nhiều sắc thái hơn và không thể dễ dàng đánh giá bằng các đánh giá tự động.

Quy tắc bảo vệ của Amazon Bedrock giúp bạn thực hiện các biện pháp bảo vệ cho các ứng dụng AI tạo sinh dựa trên các trường hợp sử dụng và chính sách sử dụng AI có trách nhiệm của mình. Quy tắc bảo vệ giúp kiểm soát tương tác giữa người dùng và FM bằng cách lọc nội dung không mong muốn và có hại và sẽ sớm chỉnh sửa thông tin nhận dạng cá nhân (PII), tăng cường an toàn nội dung và quyền riêng tư trong các ứng dụng AI tạo sinh. Bạn có thể tạo nhiều quy tắc bảo vệ với các cấu hình khác nhau được tùy chỉnh cho từng trường hợp sử dụng cụ thể. Ngoài ra, nhờ quy tắc bảo vệ, bạn có thể liên tục theo dõi và phân tích đầu vào của người dùng và các phản hồi FM có khả năng vi phạm chính sách do khách hàng xác định.

Quy tắc bảo vệ giúp bạn xác định một tập hợp chính sách để giúp bảo vệ các ứng dụng AI tạo sinh của bạn. Bạn có thể cấu hình các chính sách sau trong quy tắc bảo vệ.

• Kiểm tra nền tảng theo ngữ cảnh: giúp phát hiện và lọc ảo giác nếu các phản hồi không có cơ sở (ví dụ: thông tin mới hoặc không chính xác về mặt thực tế) trong thông tin nguồn và không liên quan đến truy vấn hoặc hướng dẫn của người dùng.
• Kiểm tra Suy luận tự động: giúp phát hiện lỗi không chính xác về mặt thực tế trong nội dung được tạo ra, đề xuất chỉnh sửa và giải thích lý do tại sao các phản hồi chính xác bằng cách kiểm tra dựa trên phương pháp biểu diễn kiến thức có cấu trúc theo toán học, có tên là Chính sách Suy luận tự động.
• Bộ lọc nội dung: giúp bạn cấu hình ngưỡng để phát hiện và lọc nội dung văn bản gây hại theo các danh mục như thù hận, lăng mạ, khiêu dâm, bạo lực, hành vi sai trái và tấn công bằng câu lệnh. Ngoài ra, bộ lọc nội dung có thể phát hiện và lọc nội dung hình ảnh gây hại trên các danh mục này, từ đó giúp xây dựng các ứng dụng đa phương thức an toàn.
• Chủ đề bị từ chối: giúp bạn xác định một tập hợp chủ đề không mong muốn trong bối cảnh ứng dụng của mình. Ví dụ: bạn có thể thiết kế một trợ lý ngân hàng trực tuyến để hạn chế cung cấp tư vấn đầu tư.
• Bộ lọc từ ngữ: giúp bạn xác định một tập hợp từ ngữ cần chặn trong dữ liệu đầu vào của người dùng và phản hồi do FM tạo ra.
• Bộ lọc thông tin nhạy cảm: giúp bạn phản ứng với thông tin nhạy cảm như một tập hợp các PII có thể được biên tập trong các phản hồi do FM tạo ra. Dựa trên trường hợp sử dụng, Quy tắc bảo vệ cũng có thể giúp bạn chặn đầu vào của người dùng nếu có chứa PII.

Quy tắc bảo vệ của Amazon Bedrock hoạt động với một loạt các mô hình bao gồm FM được hỗ trợ trong Amazon Bedrock, các mô hình tinh chỉnh, cũng như các mô hình tự lưu trữ bên ngoài Amazon Bedrock. Dữ liệu đầu vào của người dùng và đầu ra của mô hình có thể được đánh giá độc lập cho các mô hình của bên thứ ba và mô hình tự lưu trữ bằng API ApplyGuardrail. Quy tắc bảo vệ của Amazon Bedrock cũng có thể được tích hợp với Tác tử của Amazon Bedrock và Cơ sở kiến thức của Amazon Bedrock để xây dựng các ứng dụng AI tạo sinh an toàn và bảo mật, phù hợp với các chính sách AI có trách nhiệm

AWS cung cấp khoản bồi thường sở hữu trí tuệ (IP) không giới hạn cho khiếu nại bản quyền phát sinh từ dữ liệu đầu ra tạo sinh của các dịch vụ AI tạo sinh được cung cấp rộng rãi của Amazon sau đây: mô hình Amazon Titan và các dịch vụ khác được liệt kê trong Mục 50.10 của Điều khoản dịch vụ (“Dịch vụ AI tạo sinh được bồi thường”). Điều này có nghĩa là khách hàng sẽ được bảo vệ khỏi các khiếu nại của bên thứ ba liên quan đến cáo buộc vi phạm bản quyền bởi dữ liệu đầu ra được tạo bởi Dịch vụ AI tạo sinh được bồi thường khi phản hồi dữ liệu đầu vào hoặc dữ liệu khác do khách hàng cung cấp. Khách hàng cũng phải sử dụng dịch vụ một cách có trách nhiệm, chẳng hạn như không nhập dữ liệu vi phạm hoặc vô hiệu hóa các tính năng lọc của dịch vụ.

Có năm chính sách quy tắc bảo vệ, mỗi chính sách với các biện pháp bảo vệ khác nhau có thể dùng ngay

• Bộ lọc nội dung – Bộ lọc nội dung có 6 danh mục sẵn có (thù ghét, lăng mạ, khiêu dâm, bạo lực, hành vi sai trái (bao gồm cả hoạt động tội phạm) và tấn công bằng câu lệnh (bẻ khóa và tiêm câu lệnh)). Mỗi danh mục có thể có các ngưỡng tùy chỉnh hơn nữa về độ mạnh của bộ lọc – thấp/trung bình/cao cho cả nội dung văn bản và hình ảnh.
• Chủ đề bị từ chối – Đây là những chủ đề tùy chỉnh mà khách hàng có thể xác định bằng cách sử dụng mô tả bằng ngôn ngữ tự nhiên đơn giản
• Bộ lọc thông tin nhạy cảm – Những bộ lọc này đi kèm với hơn 30 PII có sẵn. Bạn có thể tùy chỉnh thêm bằng cách thêm thông tin nhạy cảm độc quyền của khách hàng.
• Bộ lọc từ – Bộ lọc từ đi kèm với bộ lọc tục tĩu có sẵn và có thể được tùy chỉnh thêm với các từ tùy chỉnh.
• Kiểm tra nền tảng theo ngữ cảnh – Có thể giúp phát hiện ảo giác cho RAG, tóm tắt và các ứng dụng hội thoại, trong đó thông tin nguồn có thể được sử dụng làm tham chiếu để xác thực phản hồi của mô hình.

Có năm chính sách quy tắc bảo vệ, mỗi chính sách với các biện pháp bảo vệ khác nhau có thể dùng ngay

• Bộ lọc nội dung – Bộ lọc nội dung có 6 danh mục sẵn có (thù ghét, lăng mạ, khiêu dâm, bạo lực, hành vi sai trái (bao gồm cả hoạt động tội phạm) và tấn công bằng câu lệnh (bẻ khóa và tiêm câu lệnh)). Mỗi danh mục có thể có các ngưỡng tùy chỉnh hơn nữa về độ mạnh của bộ lọc – thấp/trung bình/cao.
• Chủ đề bị từ chối – Đây là những chủ đề tùy chỉnh mà khách hàng có thể xác định bằng cách sử dụng mô tả bằng ngôn ngữ tự nhiên đơn giản
• Bộ lọc thông tin nhạy cảm – Những bộ lọc này đi kèm với hơn 30 PII có sẵn. Bạn có thể tùy chỉnh thêm bằng cách thêm thông tin nhạy cảm độc quyền của khách hàng.
• Bộ lọc từ – Bộ lọc từ đi kèm với bộ lọc tục tĩu có sẵn và có thể được tùy chỉnh thêm với các từ tùy chỉnh.
• Kiểm tra nền tảng theo ngữ cảnh – Có thể giúp phát hiện ảo giác cho RAG, tóm tắt và các ứng dụng hội thoại, trong đó thông tin nguồn có thể được sử dụng làm tham chiếu để xác thực phản hồi của mô hình.

Mô hình nền tảng có các biện pháp bảo vệ gốc và đây là các biện pháp bảo vệ mặc định được liên kết với mỗi mô hình. Các biện pháp bảo vệ gốc này KHÔNG phải là một phần của Quy tắc bảo vệ của Amazon Bedrock. Quy tắc bảo vệ của Amazon Bedrock là một lớp bổ sung gồm các biện pháp bảo vệ tùy chỉnh và không bắt buộc, có thể được khách hàng áp dụng dựa trên yêu cầu của ứng dụng và chính sách AI có trách nhiệm của họ.

Là một phần của Quy tắc bảo vệ của Amazon Bedrock, tính năng phát hiện số an sinh xã hội và số điện thoại nằm trong hơn 30 PII có sẵn. Danh sách đầy đủ ở đây.

Có một khoản chi phí riêng khi sử dụng Quy tắc bảo vệ của Amazon Bedrock. Mức phí có thể được áp dụng cho cả đầu vào và đầu ra. Định giá ở cuối trang ở đây. Định giá hỗ trợ hình ảnh với bộ lọc nội dung (hiện đang ở bản xem trước công khai) sẽ được công bố trong giai đoạn cung cấp rộng rãi (GA).

Có một khoản chi phí riêng khi sử dụng Quy tắc bảo vệ của Amazon Bedrock. Mức phí có thể được áp dụng cho cả đầu vào và đầu ra. Định giá ở cuối trang ở đây.

Có, API Quy tắc bảo vệ của Amazon Bedrock giúp khách hàng chạy kiểm thử tự động. Bạn có thể sẽ muốn sử dụng “trình tạo trường hợp kiểm thử” trước khi triển khai quy tắc bảo vệ trong sản xuất. Chưa có trình tạo trường hợp kiểm thử gốc. Để giám sát liên tục lưu lượng sản xuất, quy tắc bảo vệ giúp cung cấp bản ghi chi tiết về tất cả các vi phạm cho từng đầu vào và đầu ra, để khách hàng có thể giám sát chi tiết từng đầu vào đi vào và đi ra khỏi ứng dụng AI tạo sinh của họ. Các bản ghi này có thể được lưu trữ trong CloudWatch hoặc S3 và có thể được sử dụng để tạo bảng điều khiển tùy chỉnh dựa trên yêu cầu của khách hàng.

Sử dụng Chính sách suy luận tự động, kiểm tra Suy luận tự động có thể chỉ ra cả những tuyên bố chính xác và thông tin không chính xác về mặt thực tế trong nội dung. Đối với cả tuyên bố chính xác và không chính xác, kiểm tra Suy luận tự động cung cấp các giải thích hợp lý, có thể kiểm chứng cho dữ liệu đầu ra của nó. Kiểm tra Suy luận tự động yêu cầu chuyên gia trong lĩnh vực phải tham gia từ trước để tạo Chính sách và chỉ hỗ trợ nội dung có xác định quy tắc. Trái lại, kiểm tra Nền tảng theo ngữ cảnh trong Quy tắc bảo vệ của Bedrock sử dụng các kỹ thuật máy học để đảm bảo nội dung được tạo ra tuân thủ chặt chẽ các tài liệu được cung cấp dưới dạng đầu vào từ cơ sở kiến thức mà không yêu cầu thêm bất kỳ công việc nào từ trước. Cả Kiểm tra Suy luận tự động và Nền tảng theo ngữ cảnh đều cung cấp phản hồi của chúng trong đầu ra API Quy tắc bảo vệ. Bạn có thể sử dụng phản hồi để cập nhật nội dung được tạo ra.

Amazon Bedrock Marketplace cung cấp cho khách hàng hơn 100 mô hình phổ biến, mới nổi hoặc chuyên biệt, bên cạnh các FM phi máy chủ của Amazon Bedrock để khách hàng có thể dễ dàng xây dựng và tối ưu hóa các ứng dụng AI tạo sinh của họ. Trong bảng điều khiển Amazon Bedrock, khách hàng sẽ có thể khám phá một danh mục phong phú với các FM được cung cấp bởi nhiều nhà cung cấp khác nhau. Sau đó, bạn có thể triển khai các mô hình này lên các điểm cuối được quản lý toàn phần, nơi bạn có thể chọn số lượng phiên bản và loại phiên bản mong muốn. Sau khi các mô hình được triển khai, các mô hình có thể được truy cập thông qua API gọi của Amazon Bedrock. Đối với các mô hình chuyển văn bản thành văn bản được điều chỉnh thông qua trò chuyện, khách hàng có thể sử dụng API Converse mới của chúng tôi, một API thống nhất để tóm tắt sự khác biệt của FM và cho phép chuyển đổi mô hình với một thay đổi thông số duy nhất. Nếu phù hợp, các mô hình có thể được sử dụng với Môi trường thử nghiệm, Tác tử, Cơ sở kiến thức, Quản lý câu lệnh, Luồng câu lệnh, Quy tắc bảo vệ và Đánh giá mô hình của Amazon Bedrock.

Bạn nên sử dụng Amazon Bedrock Marketplace để hưởng lợi từ các mô hình mạnh mẽ đang nổi lên nhanh chóng khi ngành công nghiệp AI tạo sinh tiếp tục đổi mới. Bạn có thể nhanh chóng truy cập và triển khai các mô hình phổ biến, mới nổi và chuyên biệt phù hợp với các yêu cầu riêng của bạn, có thể tăng tốc thời gian đưa ra thị trường, cải thiện độ chính xác hoặc giảm chi phí cho quy trình công việc AI tạo sinh của bạn. Bạn có thể truy cập các mô hình thông qua các API thống nhất của Bedrock và nếu mô hình tương thích với API Converse của Bedrock, hãy sử dụng mô hình ở tính chất gốc với các công cụ Bedrock như Tác tử, Cơ sở kiến thức và Quy tắc bảo vệ. Bạn có thể dễ dàng kết nối Amazon Bedrock Marketplace với các mô hình phi máy chủ của Amazon Bedrock, tất cả từ một nơi duy nhất.
 

Chỉ cần điều hướng đến trang Danh mục mô hình Amazon Bedrock trong bảng điều khiển Bedrock, ở đó bạn có thể tìm kiếm danh sách mô hình trong Amazon Bedrock Marketplace cùng với các mô hình Amazon Bedrock phi máy chủ. Sau khi bạn đã chọn mô hình Amazon Bedrock Marketplace mà bạn muốn sử dụng, bạn có thể đăng ký mô hình thông qua trang Chi tiết mô hình, chấp nhận EULA và (các) mức giá do nhà cung cấp đặt ra. Sau khi hoàn tất đăng ký (quá trình này thường mất vài phút), bạn có thể triển khai mô hình đến điểm cuối SageMaker được quản lý toàn phần bằng cách nhấp vào Triển khai trong trang Chi tiết mô hình hoặc bằng cách sử dụng API. Trong bước triển khai, bạn có thể chọn số lượng phiên bản và loại phiên bản mong muốn để đáp ứng khối lượng công việc của mình. Sau khi thiết lập điểm cuối (thường mất 10–15 phút), bạn có thể bắt đầu thực hiện các lệnh gọi suy luận đến điểm cuối và sử dụng mô hình trong các công cụ nâng cao của Bedrock, miễn là mô hình tương thích với API Converse của Bedrock.

Bạn có thể tinh chỉnh các mô hình có kiến trúc được hỗ trợ bởi Nhập mô hình tùy chỉnh (Mistral, Mixtral, Flan và Llama2/3/3.1/3.2) trong SageMaker và được cung cấp trong Amazon Bedrock thông qua Nhập mô hình tùy chỉnh. Bạn vẫn có thể tinh chỉnh các mô hình không được hỗ trợ bởi Nhập mô hình tùy chỉnh trong SageMaker. Tuy nhiên, bạn không thể sử dụng phiên bản đã tinh chỉnh của các mô hình này trong Amazon Bedrock.

Tự động hóa dữ liệu của Bedrock là gì? Tự động hóa dữ liệu của Amazon Bedrock là một tính năng dựa trên AI tạo sinh của Bedrock, giúp hợp lý hóa việc phát triển các ứng dụng AI tạo sinh và tự động hóa quy trình công việc liên quan đến tài liệu, hình ảnh, âm thanh và video. Bằng cách tận dụng Tự động hóa dữ liệu của Bedrock, các nhà phát triển có thể giảm thời gian và công sức phát triển, giúp dễ dàng xây dựng khả năng xử lý tài liệu thông minh, phân tích phương tiện và các giải pháp tự động hóa tập trung vào dữ liệu đa phương thức khác. Tự động hóa dữ liệu của Bedrock cung cấp độ chính xác hàng đầu trong ngành với chi phí thấp hơn các giải pháp thay thế, cùng với các tính năng như định vị hình ảnh với điểm số tin cậy để đảm bảo khả năng giải thích và giảm thiểu ảo giác được tích hợp sẵn. Điều này đảm bảo thông tin chuyên sâu đáng tin cậy và chính xác từ các nguồn dữ liệu đa phương thức, phi cấu trúc. Khách hàng có thể dễ dàng tùy chỉnh đầu ra của Tự động hóa dữ liệu của Bedrock để tạo ra thông tin chuyên sâu cụ thể ở các định dạng nhất quán theo yêu cầu của hệ thống và ứng dụng của họ. Các nhà phát triển bắt đầu sử dụng Tự động hóa dữ liệu của Bedrock trên bảng điều khiển Amazon Bedrock, nơi họ có thể cấu hình và tùy chỉnh đầu ra bằng dữ liệu mẫu của mình. Sau đó, họ có thể tích hợp API suy luận đa phương thức thống nhất của Tự động hóa dữ liệu của Bedrock vào các ứng dụng của mình để xử lý nội dung phi cấu trúc của họ ở quy mô sản xuất với độ chính xác và nhất quán cao. Tự động hóa dữ liệu của Bedrock cũng được tích hợp với Cơ sở kiến thức của Bedrock, giúp các nhà phát triển dễ dàng tạo thông tin có ý nghĩa từ nội dung đa phương thức phi cấu trúc của họ để cung cấp các phản hồi phù hợp hơn cho việc tạo có kết hợp truy xuất thông tin ngoài (RAG).

Tự động hóa dữ liệu của Bedrock giúp dễ dàng chuyển đổi dữ liệu doanh nghiệp phi cấu trúc thành các định dạng dữ liệu đầu ra cụ thể cho từng ứng dụng mà các ứng dụng AI tạo sinh và quy trình làm việc ETL có thể sử dụng. Khách hàng không còn phải mất thời gian và công sức để quản lý và điều phối nhiều mô hình, tạo câu lệnh, triển khai quy tắc bảo vệ an toàn hoặc ghép các đầu ra lại với nhau để phù hợp với yêu cầu hệ thống hạ nguồn. Tự động hóa dữ liệu của Bedrock cung cấp khả năng xử lý dữ liệu phi cấu trúc có độ chính xác cao, nhất quán và tiết kiệm chi phí. Tự động hóa dữ liệu của Bedrock được xây dựng với sự lưu tâm dành cho AI có trách nhiệm, cung cấp cho khách hàng các tính năng chính như định vị hình ảnh và điểm số tin cậy, giúp dễ dàng tích hợp Tự động hóa dữ liệu của Bedrock vào quy trình công việc của doanh nghiệp.

Các tính năng của Tự động hóa dữ liệu của Bedrock được cung cấp thông qua API được quản lý toàn phần mà khách hàng có thể dễ dàng tích hợp vào các ứng dụng của họ. Khách hàng không cần phải lo lắng về việc điều chỉnh quy mô các tài nguyên điện toán cơ bản, lựa chọn và điều phối các mô hình hoặc quản lý câu lệnh cho FM.

Kế hoạch chi tiết là một tính năng mà khách hàng sử dụng để chỉ định yêu cầu đầu ra của họ bằng ngôn ngữ tự nhiên hoặc trình soạn thảo lược đồ. Trong đó bao gồm một danh sách các trường mà họ muốn trích xuất, định dạng dữ liệu cho mỗi trường và hướng dẫn bằng ngôn ngữ tự nhiên cho mỗi trường. Ví dụ: nhà phát triển có thể nhập “Tạo kế hoạch chi tiết cho hóa đơn với các trường sau: thuế, ngày đến hạn, ngày nhận” hoặc “Xác nhận tổng hóa đơn khớp với tổng các khoản mục.” Họ tham chiếu các kế hoạch chi tiết như một phần trong các lệnh gọi API suy luận để hệ thống trả về thông tin ở định dạng được mô tả trong kế hoạch chi tiết.

Tài liệu

Tự động hóa dữ liệu của Bedrock hỗ trợ cả đầu ra tiêu chuẩn và đầu ra tùy chỉnh cho tài liệu.

• Đầu ra tiêu chuẩn sẽ cung cấp trích xuất văn bản từ tài liệu và đầu ra tạo sinh như bản tóm tắt tài liệu và chú thích cho bảng/hình ảnh/sơ đồ. Đầu ra được trả về theo thứ tự đọc và có thể được tùy ý nhóm theo phần tử bố cục, sẽ bao gồm phần đầu trang/chân trang/tiêu đề/bảng/hình ảnh/sơ đồ. Đầu ra tiêu chuẩn sẽ được sử dụng để tích hợp BDA với Cơ sở kiến thức của Bedrock.
• Đầu ra tùy chỉnh tận dụng kế hoạch chi tiết, chỉ định các yêu cầu đầu ra bằng ngôn ngữ tự nhiên hoặc trình soạn thảo lược đồ. Kế hoạch chi tiết bao gồm một danh sách các trường để trích xuất và định dạng dữ liệu cho mỗi trường.

Tự động hóa dữ liệu của Bedrock sẽ hỗ trợ PDF, PNG, JPG, TIFF, tối đa 100 trang và kích thước tệp tối đa là 500 MB cho mỗi yêu cầu API. BDA sẽ hỗ trợ đồng thời tối đa 5 gói tài liệu và thông lượng 1 trang mỗi giây cho mỗi khách hàng.

Hình ảnh
Tự động hóa dữ liệu của Bedrock hỗ trợ cả đầu ra tiêu chuẩn và đầu ra tùy chỉnh cho hình ảnh.

• Đầu ra tiêu chuẩn sẽ cung cấp bản tóm tắt, nội dung người lớn được phát hiện, văn bản được phát hiện và phân loại quảng cáo của IAB cho hình ảnh. Đầu ra tiêu chuẩn sẽ được sử dụng để tích hợp BDA với Cơ sở kiến thức của Bedrock.
• Đầu ra tùy chỉnh tận dụng kế hoạch chi tiết, chỉ định các yêu cầu đầu ra bằng ngôn ngữ tự nhiên hoặc trình soạn thảo lược đồ. Kế hoạch chi tiết bao gồm một danh sách các trường để trích xuất và định dạng dữ liệu cho mỗi trường.

Tự động hóa dữ liệu của Bedrock sẽ hỗ trợ JPG, PNG, độ phân giải tối đa 4K và kích thước tệp tối đa là 5 MB cho mỗi yêu cầu API. BDA sẽ hỗ trợ đồng thời tối đa 100 hình ảnh với tốc độ 1 hình ảnh mỗi giây cho mỗi khách hàng.

Video

Tự động hóa dữ liệu của Bedrock hỗ trợ cả đầu ra tiêu chuẩn cho video.

• Đầu ra tiêu chuẩn sẽ cung cấp bản tóm tắt video đầy đủ, phân đoạn cảnh, bản tóm tắt cảnh, chép lời âm thanh đầy đủ, nhận dạng người nói, nội dung người lớn được phát hiện, văn bản được phát hiện và phân loại của Cục quảng cáo tương tác (IAB) cho video. Bản tóm tắt video đầy đủ được tối ưu hóa cho nội dung với đoạn hội thoại mô tả như tổng quan về sản phẩm, đào tạo, cung cấp tin tức và phim tài liệu.

Tự động hóa dữ liệu của Bedrock sẽ hỗ trợ MOV và MKV với H.264, thời lượng video tối đa là 4 giờ và kích thước tệp tối đa là 2 GB cho mỗi yêu cầu API. BDA sẽ hỗ trợ đồng thời tối đa 25 video với tốc độ 20 phút video trên mỗi phút cho mỗi khách hàng.

Âm thanh

Tự động hóa dữ liệu của Bedrock hỗ trợ cả đầu ra tiêu chuẩn cho âm thanh.

• Đầu ra tiêu chuẩn sẽ cung cấp bản tóm tắt, chép lời âm thanh đầy đủ và nội dung người lớn được phát hiện cho các tệp âm thanh.

Tự động hóa dữ liệu của Bedrock sẽ hỗ trợ FLAC, M4A, MP3, MP4, Ogg, WebM, WAV, thời lượng âm thanh tối đa là 4 giờ và kích thước tệp tối đa là 2 GB cho mỗi yêu cầu API. Đầu ra tiêu chuẩn sẽ cung cấp bản tóm tắt, chép lời âm thanh đầy đủ và nội dung người lớn được phát hiện cho các tệp âm thanh.

Tự động hóa dữ liệu của Amazon Bedrock hiện đã có ở Khu vực Miền Tây Hoa Kỳ (Oregon).

IDE của Amazon Bedrock (bản xem trước) là một môi trường cộng tác được quản lý. Nó được tích hợp trong Studio Amazon SageMaker thống nhất (bản xem trước), cho phép các nhà phát triển nhanh chóng xây dựng và lặp lại các ứng dụng AI tạo sinh bằng cách sử dụng các mô hình nền tảng (FM) hiệu năng cao. IDE của Amazon Bedrock cung cấp một giao diện trực quan để thử nghiệm với các mô hình này, cộng tác trong các dự án và hợp lý hóa khả năng tiếp cận các công cụ và tài nguyên Bedrock khác nhau để xây dựng các ứng dụng AI tạo sinh một cách nhanh chóng.

Để truy cập IDE của Amazon Bedrock trong Studio Amazon SageMaker thống nhất, các nhà phát triển và quản trị viên của họ sẽ cần làm theo các bước sau:

1. Tạo miền mới trong Studio Amazon SageMaker thống nhất.
2. Kích hoạt hồ sơ dự án phát triển ứng dụng AI tạo sinh.
3. Truy cập IDE của Amazon Bedrock bằng thông tin chứng thực đăng nhập đơn (SSO) của công ty họ trong Studio Amazon SageMaker thống nhất.

IDE của Amazon Bedrock, hiện được tích hợp vào Studio Amazon SageMaker thống nhất, được xây dựng dựa trên Amazon Bedrock Studio (bản xem trước) với một số cải tiến quan trọng. Nó cung cấp quyền truy cập vào các mô hình AI tiên tiến từ các công ty hàng đầu, các công cụ để tạo và kiểm thử câu lệnh AI và tích hợp liền mạch với Cơ sở kiến thức, Quy tắc bảo vệ, Luồng và Tác tử. Các đội ngũ có thể cộng tác trong không gian làm việc chung để xây dựng các ứng dụng AI tùy chỉnh phù hợp với nhu cầu của họ.

Các tính năng mới trong IDE của Bedrock bao gồm trung tâm mô hình dành cho việc so sánh mô hình AI song song, môi trường thử nghiệm mở rộng hỗ trợ tương tác trò chuyện, hình ảnh và video, cũng như tính năng tạo trong Cơ sở kiến thức được cải thiện với tìm kéo dữ liệu web. Công cụ này ra mắt tính năng Tạo tác tử cho các ứng dụng trò chuyện phức tạp hơn và đơn giản hóa việc chia sẻ các ứng dụng AI và câu lệnh trong tổ chức. IDE của Bedrock cũng cung cấp quyền truy cập vào mã ứng dụng cơ bản và khả năng xuất các ứng dụng trò chuyện dưới dạng mẫu CloudFormation. Bằng cách quản lý chi tiết cơ sở hạ tầng AWS, IDE của Bedrock cho phép người dùng ở các cấp độ kỹ năng khác nhau tạo các ứng dụng AI hiệu quả hơn, khiến nó trở thành một công cụ linh hoạt và mạnh mẽ hơn so với công cụ tiền nhiệm.

IDE của Amazon Bedrock cho phép cộng tác giữa các đội ngũ bằng cách cung cấp môi trường phát triển được quản lý trong Studio Amazon SageMaker thống nhất. Các đội ngũ có thể tạo dự án, mời đồng nghiệp và cùng nhau hợp tác xây dựng các ứng dụng AI tạo sinh. Họ có thể nhận được phản hồi nhanh chóng về nguyên mẫu của mình và chia sẻ ứng dụng với bất kỳ ai trong Studio Amazon SageMaker thống nhất hoặc với những người dùng cụ thể trong miền. Các tính năng quản trị và kiểm soát truy cập mạnh mẽ chỉ cho phép các thành viên được cấp quyền truy cập các tài nguyên dự án như dữ liệu hoặc các ứng dụng AI tạo sinh, hỗ trợ quyền riêng tư và tuân thủ về dữ liệu, và vì thế thúc đẩy sự cộng tác và chia sẻ liên bộ phận một cách an toàn. Ngoài ra, các ứng dụng AI tạo sinh có thể được chia sẻ từ trình xây dựng đến người dùng cụ thể trong miền Studio Amazon SageMaker thống nhất hoặc với các cá nhân cụ thể, để bạn áp dụng quyền truy cập, kiểm soát và quản trị thích hợp đối với các tài sản đó.

Việc tích hợp IDE của Amazon Bedrock vào Studio Amazon SageMaker thống nhất thể hiện động thái của AWS nhằm đơn giản hóa và hợp lý hóa quá trình phát triển AI tạo sinh. Sự tích hợp này tạo ra một môi trường toàn diện phá vỡ các rào cản giữa dữ liệu, công cụ và nhà phát triển, cho phép xây dựng và triển khai hiệu quả các ứng dụng AI tạo sinh.

Môi trường thống nhất cho phép sự hợp tác liền mạch giữa các nhà phát triển ở các cấp độ kỹ năng khác nhau trong suốt vòng đời phát triển – từ chuẩn bị dữ liệu cho đến phát triển mô hình và xây dựng ứng dụng AI tạo sinh. Các đội ngũ có thể truy cập các công cụ được tích hợp để tạo cơ sở kiến thức, tinh chỉnh mô hình và phát triển ứng dụng AI tạo sinh hiệu năng cao, tất cả trong một khung an toàn và được quản lý.

Trong Studio Amazon SageMaker thống nhất, các nhà phát triển có thể dễ dàng chuyển đổi giữa các công cụ khác nhau dựa trên nhu cầu của họ, kết hợp các khả năng phân tích, máy học và AI tạo sinh trong một không gian làm việc duy nhất. Cách tiếp cận hợp nhất này làm giảm sự phức tạp trong quá trình phát triển và đẩy nhanh tốc độ đạt hiệu quả đầu tư cho các dự án AI tạo sinh.

Bằng cách đưa IDE của Amazon Bedrock vào Studio Amazon SageMaker thống nhất, AWS giảm bớt rào cản gia nhập quá trình phát triển AI tạo sinh, đồng thời duy trì bảo mật và quản trị cấp doanh nghiệp, nhờ đó cho phép các tổ chức đổi mới nhanh hơn và hiệu quả hơn với AI tạo sinh.
 

Hiện tại, Amazon Bedrock Studio được cung cấp dưới dạng tính năng xem trước, được truy cập thông qua Bảng điều khiển quản lý AWS. Amazon Bedrock Studio hiện đã được đổi tên thành IDE của Amazon Bedrock và đang ở dạng xem trước trong Studio Amazon SageMaker thống nhất. Công cụ này cung cấp một môi trường chuyên dụng để xây dựng, đánh giá và chia sẻ các ứng dụng AI tạo sinh với các tính năng nâng cao như Cơ sở kiến thức, Quy tắc bảo vệ, Tác tử, Luồng và các công cụ tạo câu lệnh. Việc tích hợp vào Studio Amazon SageMaker thống nhất mang đến trải nghiệm phát triển với các tính năng phong phú hơn, được quản lý và dễ dàng cộng tác hơn so với phiên bản xem trước trước đây trong Bảng điều khiển quản lý AWS.

Toàn bộ Amazon Bedrock Studio là một phần trong Studio Amazon SageMaker thống nhất thuộc IDE của Amazon Bedrock. Môi trường thử nghiệm AI tạo sinh, được cung cấp trong mục 'Khám phá' của Studio Amazon SageMaker thống nhất, cho phép bạn thử nghiệm với các mô hình nền tảng (FM) và bất kỳ ứng dụng AI tạo sinh nào được chia sẻ bởi đồng nghiệp của bạn thông qua giao diện trò chuyện. IDE của Amazon Bedrock, môi trường ứng dụng AI tạo sinh đầy đủ, nằm trong mục 'Xây dựng' của Studio Amazon SageMaker thống nhất và bạn có thể truy cập IDE này thông qua các dự án.

Về thời điểm nên sử dụng mỗi tùy chọn:

• Amazon Bedrock Studio hiện có trong Bảng điều khiển quản lý AWS: Bạn có thể tiếp tục sử dụng Studio Amazon Bedrock hiện có trong Bảng điều khiển AWS cho các dự án đang diễn ra đến ngày 28 tháng 2 năm 2025, sau đó dịch vụ sẽ ngừng hỗ trợ. Bạn sẽ cần thiết lập một miền Amazon SageMaker mới có bao gồm IDE của Amazon Bedrock để truy cập nó trong môi trường được quản lý của Amazon SageMaker.
• Môi trường thử nghiệm AI tạo sinh trong Studio Amazon SageMaker thống nhất (mục Khám phá): Sử dụng các môi trường thử nghiệm trò chuyện, hình ảnh và video để thử nghiệm ban đầu với FM, kiểm thử các mô hình và cấu hình khác nhau trước khi xây dựng ứng dụng trong IDE của Amazon Bedrock.
• IDE của Amazon Bedrock trong Studio Amazon SageMaker thống nhất (mục Xây dựng): Sử dụng IDE của Amazon Bedrock, được cung cấp trong mục Xây dựng, để tận dụng các tính năng nâng cao nhằm xây dựng các ứng dụng AI tạo sinh sẵn sàng để đưa vào sản xuất. Các tính năng này bao gồm quản trị tích hợp, cộng tác an toàn, Cơ sở kiến thức, Tác tử, Luồng, Quy tắc bảo vệ và các công cụ tạo câu lệnh.

IDE của Amazon Bedrock là một môi trường cộng tác được quản lý, tập trung vào việc xây dựng các ứng dụng AI tạo sinh bằng cách sử dụng các mô hình nền tảng (FM). Được tích hợp trong Studio Amazon SageMaker thống nhất, IDE này cung cấp giao diện trực quan để truy cập và thử nghiệm với các FM hiệu năng cao của Bedrock, cũng như các công cụ để tùy chỉnh như Cơ sở kiến thức, Quy tắc bảo vệ, Tác tử và Luồng.

Trong Studio Amazon SageMaker thống nhất, IDE của Amazon Bedrock tích hợp liền mạch với các tính năng phân tích, máy học (ML) và AI tạo sinh của Amazon SageMaker. Người dùng có thể tận dụng các dịch vụ phân tích để tạo thông tin chuyên sâu từ dữ liệu của họ, xây dựng mô hình ML bằng các công cụ đào tạo và triển khai của Amazon SageMaker AI, đồng thời kết hợp các thành phần này với các ứng dụng AI tạo sinh được tạo trong IDE của Amazon Bedrock. Môi trường thống nhất này cho phép phát triển toàn diện các ứng dụng dựa trên dữ liệu có kết hợp các tính năng phân tích, ML và AI tạo sinh. Người dùng có thể xây dựng và triển khai mô hình ML và AI tạo sinh, tạo và chia sẻ các ứng dụng AI tạo sinh được thiết kế riêng với dữ liệu độc quyền và tùy chỉnh, đồng thời hợp lý hóa quá trình cộng tác – tất cả trong cùng một môi trường Studio Amazon SageMaker thống nhất được quản lý
 

Người dùng Amazon Bedrock Studio hiện tại đã truy cập dịch vụ thông qua Bảng điều khiển quản lý AWS không thể trực tiếp di chuyển dự án của mình sang Studio Amazon SageMaker thống nhất. Để truy cập IDE của Amazon Bedrock trong môi trường được quản lý của Amazon SageMaker, các nhà phát triển và quản trị viên của họ sẽ cần tạo miền mới trong Studio Amazon SageMaker thống nhất, kích hoạt hồ sơ dự án phát triển ứng dụng AI tạo sinh và truy cập IDE của Amazon Bedrock bằng thông tin chứng thực đăng nhập đơn (SSO) của công ty họ trong Studio Amazon SageMaker thống nhất.

Tuy nhiên, người dùng hiện tại có thể tiếp tục truy cập Amazon Bedrock Studio (Bản xem trước) thông qua Bảng điều khiển quản lý AWS cho đến ngày 28 tháng 2 năm 2025. Sau ngày này, họ sẽ cần chuyển sang trải nghiệm IDE của Amazon Bedrock mới trong Studio Amazon SageMaker thống nhất.

IDE của Amazon Bedrock trong Studio Amazon SageMaker thống nhất bị ràng buộc bởi giới hạn và hạn mức của tài khoản được xác định cho nền tảng và các tài nguyên cơ bản của Amazon Bedrock, chẳng hạn như mô hình nền tảng (FM), Cơ sở kiến thức, Tác tử, Luồng và Quy tắc bảo vệ.

IDE của Amazon Bedrock không tốn thêm chi phí và người dùng chỉ trả tiền cho việc sử dụng các tài nguyên cơ bản mà các ứng dụng AI tạo sinh cần khi người dùng xây dựng. Ví dụ: khách hàng sẽ chỉ trả tiền cho mô hình liên quan, Quy tắc bảo vệ và Cơ sở kiến thức mà họ đã sử dụng trên ứng dụng AI tạo sinh của họ. Để biết thêm thông tin, vui lòng truy cập trang định giá Amazon Bedrock.

IDE của Amazon Bedrock trong Studio Amazon SageMaker thống nhất được ràng buộc bởi các SLA giống như Amazon Bedrock. Để biết thêm thông tin, hãy truy cập trang Thỏa thuận mức dịch vụ Amazon Bedrock.

Để tạo điều kiện cho trải nghiệm giới thiệu suôn sẻ với IDE của Amazon Bedrock trong Studio Amazon SageMaker thống nhất, bạn có thể tìm thấy tài liệu chi tiết trong Hướng dẫn sử dụng IDE của Amazon Bedrock. Nếu bạn có bất kỳ thắc mắc nào khác hoặc cần hỗ trợ thêm, đừng ngần ngại liên hệ với đội ngũ phụ trách tài khoản AWS của bạn.