1. Overview (Nền tảng dự án)

Dự án này được thực hiện nhằm mục đích xây dựng dịch vụ AI Chatbot để sử dụng các tài liệu phi cấu trúc phong phú được sử dụng trong công việc cửa hàng của hợp tác xã tín dụng một cách nhanh chóng và hiệu quả hơn.
Tồn tại nhiều tài liệu hướng dẫn công việc đa dạng và các tài liệu phi cấu trúc dưới dạng PDF, HWP trên toàn bộ công việc tín dụng, huy động vốn, bảo hiểm và kỹ thuật số, nhưng trong công việc cửa hàng thực tế, có những hạn chế trong việc tìm kiếm và truyền đạt thông tin cần thiết ngay lập tức.

Do đó, bằng cách áp dụng cấu trúc tải dữ liệu dựa trên RAG và cấu trúc phản hồi AI sinh tạo, chúng tôi đã xây dựng môi trường AI Chatbot cho phép các thành viên cửa hàng hợp tác xã đặt câu hỏi bằng ngôn ngữ tự nhiên và nhận được câu trả lời nhanh chóng.

2. Solution (Giải pháp)

Để xây dựng AI Chatbot, chúng tôi đã thiết kế một cấu trúc kết hợp tìm kiếm và AI sinh tạo với AIR Studio làm trung tâm.

• Cung cấp Chatbot UI dựa trên AIR Studio
  Triển khai giao diện chatbot cho phép xác nhận thông tin cần thiết ngay lập tức thông qua truy vấn ngôn ngữ tự nhiên

• Cấu hình OpenSearch & Retriever
  Cấu hình OpenSearch bằng cách sử dụng cấu trúc RAG trong AIR Studio và áp dụng Retrieval Chain để tìm kiếm và trích xuất tài liệu

• Tích hợp Generative AI
  Cấu hình cấu trúc gọi LLM thông qua LCEL Chain trong môi trường EC2 và tạo câu trả lời dựa trên kết quả tìm kiếm bằng cách sử dụng mô hình Claude của Amazon Bedrock

3. Result (Kết quả)

Thông qua việc xây dựng đường ống RAG dựa trên tài liệu phi cấu trúc, chúng tôi đã tạo ra nền tảng để sử dụng hiệu quả các tài liệu công việc đa dạng.

• Cấu hình đường ống tiền xử lý và chunking có khả năng xử lý các tài liệu PDF, HWP

• Chuyển đổi dữ liệu văn bản, hình ảnh và bảng thành dạng Document có thể sử dụng trong RAG

• Cung cấp chức năng tải dữ liệu dựa trên API và xác nhận trạng thái để đảm bảo sự tiện lợi trong vận hành

Ngoài ra, thông qua cấu trúc phản hồi LLM kết hợp tài liệu tìm kiếm và lời nhắc, chúng tôi đã áp dụng chức năng hội thoại đa lần và xác minh khả năng ứng dụng AI sinh tạo trong công việc tư vấn cửa hàng thực tế.