AI tạo sinh với Amazon Neptune

Amazon cung cấp các đường dẫn được quản lý toàn phần và tự quản lý để tạo và chạy các ứng dụng GraphRAG.

• Được quản lý toàn phần: Cơ sở kiến thức Amazon Bedrock cung cấp dịch vụ GraphRAG được quản lý toàn phần đầu tiên trên thế giới với Amazon Neptune. Dịch vụ này tự động quản lý việc tạo và duy trì đồ thị và phần nhúng, cho phép khách hàng cung cấp các phản hồi phù hợp hơn cho người dùng cuối. Là một dịch vụ được quản lý toàn phần, bạn tránh được những thách thức trong việc thiết lập cấu hình và tích hợp với các LLM hoặc cơ sở dữ liệu véc-tơ khác. 
• Tự quản lý: Đối với người dùng đang tìm kiếm khả năng tự lưu trữ hoặc sự linh hoạt trong việc kết nối với các nguồn dữ liệu tùy chỉnh, các tích hợp với sản phẩm của bên thứ ba (mô hình nền tảng, kho véc-tơ, kho dữ liệu) và tự lưu trữ ứng dụng AI tạo sinh của họ, bạn có hai tùy chọn.
  • Bộ công cụ Python của AWS GraphRAG: AWS hiện đã phát hành bộ công cụ GraphRAG nguồn mở, hỗ trợ các mô hình nền tảng và biểu đồ tiên tiến. Dịch vụ này cung cấp một bộ khung để tự động hóa việc xây dựng biểu đồ từ dữ liệu phi cấu trúc và truy vấn biểu đồ này khi trả lời câu hỏi của người dùng.
  • Khung nguồn mở: AWS hỗ trợ và đóng góp cho các dự án nguồn mở phổ biến bao gồm LangChain và LlamaIndex để xây dựng quy trình RAG sản xuất.

LangChain là một khung Python nguồn mở được thiết kế để đơn giản hóa việc tạo ứng dụng bằng cách sử dụng các mô hình ngôn ngữ lớn (LLM). Tích hợp Neptune với LangChain cho phép các nhà phát triển sử dụng khung nguồn mở của LangChain để đơn giản hóa việc tạo ứng dụng nhận biết ngữ cảnh.

LlamaIndex là một khung dữ liệu nguồn mở để kết nối các nguồn dữ liệu tùy chỉnh với các mô hình ngôn ngữ lớn (LLM) và hỗ trợ sử dụng đồ thị kiến thức với LLM.

Với LlamaIndex, có thể sử dụng Neptune làm kho đồ thị hoặc kho véc-tơ để xây dựng các ứng dụng AI tạo sinh bằng cách sử dụng các kỹ thuật như GraphRAG.

GraphRAG có thể được sử dụng để cải thiện dịch vụ hỗ trợ CNTT và trung tâm liên hệ. Ví dụ: GraphRAG có thể cho phép các đội ngũ Trung tâm hoạt động bảo mật (SOC) giải thích các cảnh báo một cách chính xác hơn để giúp bảo mật các hệ thống quan trọng. Một chatbot hỗ trợ thành viên dịch vụ chăm sóc sức khỏe có thể nhanh chóng tìm thấy thông tin liên quan từ khối lượng lớn tài liệu y khoa để trả lời các câu hỏi phức tạp về các triệu chứng, phương pháp điều trị và kết quả của bệnh nhân.

Các ứng dụng GraphRAG có thể cung cấp thông tin chuyên sâu cho các đội ngũ thuộc những phòng ban khác nhau của công ty như kế hoạch tài chính và kế toán (FP&A), tiếp thị, pháp lý, nhân sự, v.v. Ví dụ: các đội ngũ pháp lý của doanh nghiệp có thể tìm kiếm thông tin một cách hiệu quả hơn về luật thuế, quy định và tiền lệ để lên ý tưởng cho các chiến lược. Đội ngũ tiếp thị có thể tạo góc nhìn toàn diện về khách hàng dựa trên kết nối xã hội và lịch sử mua hàng của khách hàng tiềm năng.

Các công ty trong mọi lĩnh vực được hưởng lợi từ GraphRAG. Ví dụ, trong ngành dược phẩm, các đội ngũNghiên cứu và phát triển có thể sử dụng GraphRAG để tăng tốc độ nghiên cứu và thử nghiệm thuốc. Trong lĩnh vực ngân hàng đầu tư, khả năng của GraphRAG trong việc lập bản đồ các mối quan hệ phức tạp và cung cấp một cái nhìn toàn diện về hồ sơ của công ty giúp các đội ngũ thẩm định khám phá những thông tin chuyên sâu – chẳng hạn như quyền quản lý và động lực cạnh tranh – mà không thể phát hiện dễ dàng nếu không có RAG.

Đề xuất thông thường sử dụng các dịch vụ phân tích theo cách thủ công để đưa ra đề xuất sản phẩm. Neptune ML có thể xác định các mối quan hệ mới trực tiếp trên dữ liệu đồ thị và dễ dàng đề xuất danh sách các trò chơi mà người chơi muốn mua, những người chơi khác họ muốn theo dõi hoặc sản phẩm họ muốn mua.