RAG (Retrieval-Augmented Generation) – Giải mã vấn đề LLM không trả lời được câu hỏi suy luận tổng quát
by: Vietnam PhamPosted on:

RAG (Retrieval-Augmented Generation) – Giải mã vấn đề LLM không trả lời được câu hỏi suy luận tổng quát

Số người xem bài viết (Post Views): 92

Tags: , , ,

Bạn đang muốn tạo một con bot hỏi đáp về các phòng ban của công ty, dữ liệu của bạn thì khá đầy đủ, tuy nhiên khi hỏi câu hỏi tổng quát như “Công ty đó có bao nhiêu phòng ban”, nó lại không trả lời được. Vấn đề này rất phổ biến với RAG, đặc biệt khi câu hỏi yêu cầu suy luận. Hãy cùng Click Digital tìm hiểu và giải quyết vấn đề này nhé!

RAG hoạt động như thế nào?

RAG (Retrieval-Augmented Generation) là một kỹ thuật kết hợp lấy thông tin (Retrieval) và tạo văn bản (Generation) để trả lời câu hỏi. Nó hoạt động dựa trên việc:

  1. Nhúng câu hỏi (Embedding) thành một vector.
  2. Tìm kiếm các văn bản (Retrieval) tương tự trong cơ sở dữ liệu dựa trên độ tương đồng của vector.
  3. Sử dụng mô hình ngôn ngữ (Generation) để tạo ra câu trả lời dựa trên thông tin đã lấy được.

Tại sao RAG của bạn không trả lời được câu hỏi tổng quát?

Bạn có thể thấy rằng, RAG không phải là một giải pháp vạn năng. Nó rất hiệu quả trong việc trả lời các câu hỏi có thông tin rõ ràng, cụ thể trong dữ liệu. Nhưng đối với các câu hỏi tổng quát yêu cầu suy luận, RAG sẽ gặp khó khăn vì nó không thể hiểu được ngữ cảnh và mối liên hệ giữa các phần thông tin trong dữ liệu.

Giống như khi bạn hỏi một người bạn “Công ty có bao nhiêu phòng ban?”, họ sẽ phải:

  1. Tìm hiểu tên các phòng ban trong công ty.
  2. Đếm xem có bao nhiêu phòng ban.

Con bot của bạn cũng cần thực hiện hai bước tương tự, đúng không? RAG chỉ thực hiện bước lấy thông tin (Retrieval) mà chưa thực hiện bước suy luận (Reasoning) và hành động (Acting) để đếm các phòng ban.

Làm sao để giải quyết vấn đề này?

Hãy cùng điểm qua một số phương pháp để giải quyết vấn đề này:

1. Tăng số lượng chunk trong RAG

Điều này có thể giúp con bot của bạn lấy được nhiều thông tin hơn, nhưng cũng có thể gây quá tải cho mô hình ngôn ngữ. Bạn có thể thử tăng dần số lượng chunk và theo dõi hiệu quả của nó.

2. Tạo thêm dữ liệu tổng quát

Bạn có thể bổ sung vào dữ liệu của mình những thông tin tổng quát như “Công ty này gồm có xxx phòng ban chi tiết như sau:…”. Việc này sẽ giúp RAG dễ dàng tìm kiếm các văn bản liên quan hơn.

3. Sử dụng kỹ thuật Reasoning và Acting

Để giúp RAG xử lý các câu hỏi cần suy luận, bạn có thể tìm hiểu thêm về kỹ thuật Reasoning và Acting. Paper “ReAct: Synergizing Reasoning and Acting in Language Models” là một ví dụ điển hình về việc áp dụng kỹ thuật này.

4. Sử dụng LangGraph

LangGraph là một công cụ hỗ trợ Reasoning và Acting cho RAG, bạn có thể tìm hiểu thêm tại https://microsoft.github.io/graphrag/

5. Thêm keyword vào câu hỏi

Bạn có thể thử thêm keyword vào câu hỏi của mình, ví dụ: “Công ty đó có bao nhiêu phòng ban làm chức năng gì đó?”. Điều này sẽ giúp RAG dễ dàng tìm kiếm các văn bản liên quan hơn.

6. Chỉnh lại prompt của RAG

Bạn có thể thử thêm keyword vào câu hỏi hoặc sửa lại cách nhúng câu hỏi. Hãy thử nghiệm các cách thức khác nhau để tìm ra cách thức phù hợp nhất.

Một số lưu ý khi sử dụng RAG

  • RAG thường không hoạt động tốt với các câu hỏi yêu cầu suy luận phức tạp.
  • Việc tạo dữ liệu cho RAG có thể tốn thời gian và công sức.
  • Bạn cần lựa chọn kỹ thuật phù hợp với nhu cầu sử dụng của mình.

Kết luận

RAG là một công cụ hữu ích trong việc trả lời các câu hỏi có thông tin rõ ràng, cụ thể. Tuy nhiên, nó không phải là một giải pháp vạn năng. Để giải quyết vấn đề của bạn, bạn cần tìm hiểu thêm về Reasoning và Acting trong RAG và lựa chọn kỹ thuật phù hợp với nhu cầu của mình.

Hãy thử áp dụng các phương pháp trên và chia sẻ kết quả với Click Digital nhé!

[++++]

Rate this post

Related posts:

Contextual AI giới thiệu phương pháp RAG 2.0 tối ưu từ đầu đến cuối quá trình (Retrieval Augmented Generation 2.0)Contextual AI giới thiệu phương pháp RAG 2.0 tối ưu từ đầu đến cuối quá trình (Retrieval Augmented Generation 2.0) Adaptive RAG là gì? Adaptive Retrieval? Truy xuất thích ứng khác gì Single-Step Retrieval & Multi-Step Retrieval?Adaptive RAG là gì? Adaptive Retrieval? Truy xuất thích ứng khác gì Single-Step Retrieval & Multi-Step Retrieval? SAFE: Công cụ AI của Google DeepMind kiểm tra sự thật, tính chính xác kết quả câu trả lời đầu ra của LLM như ChatGPTSAFE: Công cụ AI của Google DeepMind kiểm tra sự thật, tính chính xác kết quả câu trả lời đầu ra của LLM như ChatGPT Natural Language Inference: Xác định 2 câu hợp lý hay vô lý, Suy luận Ngôn ngữ Tự nhiên, NLI / NLP InferenceNatural Language Inference: Xác định 2 câu hợp lý hay vô lý, Suy luận Ngôn ngữ Tự nhiên, NLI / NLP Inference “Reasoning” – Lý luận phức tạp trong NLP/LLM“Reasoning” – Lý luận phức tạp trong NLP/LLM Composed Image Retrieval (CIR): Truy xuất Hình ảnh Tổng hợp là gì?Composed Image Retrieval (CIR): Truy xuất Hình ảnh Tổng hợp là gì? Thảo luận trả lời các câu hỏi phổ biến về Runes ProtocolThảo luận trả lời các câu hỏi phổ biến về Runes Protocol Default ThumbnailGeneration Algorithms – Thuật toán tạo sinh trong NLP Tổng hợp cách kiếm tiền với ngành Xử lý ngôn ngữ tự nhiên (NLP) / LLMTổng hợp cách kiếm tiền với ngành Xử lý ngôn ngữ tự nhiên (NLP) / LLM DataGemma – Mô hình phát triển bởi Google để giải quyết ảo giác hallucination trong LLM bằng dữ liệu thực tếDataGemma – Mô hình phát triển bởi Google để giải quyết ảo giác hallucination trong LLM bằng dữ liệu thực tế Crypto ETN niêm yết trên chứng khoán Luân Đôn không thu hút được dòng tiền do thiếu nhu cầu từ tổ chứcCrypto ETN niêm yết trên chứng khoán Luân Đôn không thu hút được dòng tiền do thiếu nhu cầu từ tổ chức Default ThumbnailCách kiểm tra tổng cung tối đa của token có được lock hay không? Threads: Nền tảng phù hợp để trao đổi, học hỏi, quảng cáo về NLP & LLM?Threads: Nền tảng phù hợp để trao đổi, học hỏi, quảng cáo về NLP & LLM? So sánh RAG và Fine-tuning: Kỹ thuật huấn luyện NLP nào hiệu quả và chi phí thấp hơn?So sánh RAG và Fine-tuning: Kỹ thuật huấn luyện NLP nào hiệu quả và chi phí thấp hơn? Late Chunking là gì? Cách sử dụng Late Chunking để cài đặt RAG nâng caoLate Chunking là gì? Cách sử dụng Late Chunking để cài đặt RAG nâng cao Sam Altman (OpenAI) thảo luận về đầu tư Worldcoin với tổng thống ArgentinaSam Altman (OpenAI) thảo luận về đầu tư Worldcoin với tổng thống Argentina Default ThumbnailThảo luận về việc sử dụng công cụ (tool) hỗ trợ trong NLP NVIDIA thông báo ra mắt Blackwell GPU để trao quyền cho máy tính thế hệ tiếp theo chạy AI trên các mô hình LLMNVIDIA thông báo ra mắt Blackwell GPU để trao quyền cho máy tính thế hệ tiếp theo chạy AI trên các mô hình LLM Phân biệt NLP & LLM. Khi nào nên dùng thuật ngữ Xử lý ngôn ngữ tự nhiên (Natural Language Processing), khi nào dùng Mô hình ngôn ngữ lớn (Large Language Model)Phân biệt NLP & LLM. Khi nào nên dùng thuật ngữ Xử lý ngôn ngữ tự nhiên (Natural Language Processing), khi nào dùng Mô hình ngôn ngữ lớn (Large Language Model) LLM (mô hình ngôn ngữ lớn) cách mạng hóa lĩnh vực tài chính trong 2 năm tới như thế nào?LLM (mô hình ngôn ngữ lớn) cách mạng hóa lĩnh vực tài chính trong 2 năm tới như thế nào? PDFTriage: Mô hình LLM đọc hiểu cả file PDF thay vì chỉ file textPDFTriage: Mô hình LLM đọc hiểu cả file PDF thay vì chỉ file text Small Language Model (SLM) Mô hình ngôn ngữ nhỏ là gì? Khác gì Large Language Model (LLM)?Small Language Model (SLM) Mô hình ngôn ngữ nhỏ là gì? Khác gì Large Language Model (LLM)? Vision Language Model (VLM) Mô hình ngôn ngữ thị giác là gì? Công dụng LLM + hình ảnhVision Language Model (VLM) Mô hình ngôn ngữ thị giác là gì? Công dụng LLM + hình ảnh Large Action Model (LAM) là gì? Mô hình hành động lớn khác gì Large Language Model (LLM)? Cách hoạt động?Large Action Model (LAM) là gì? Mô hình hành động lớn khác gì Large Language Model (LLM)? Cách hoạt động? 5 khó khăn thách thức trong đào tạo mô hình NLP, LLM5 khó khăn thách thức trong đào tạo mô hình NLP, LLM 2 tiêu chuẩn đạo đức trong phát triển AI và LLM: tính công bằng, quyền riêng tư2 tiêu chuẩn đạo đức trong phát triển AI và LLM: tính công bằng, quyền riêng tư Small Language Model (SLM) là gì? Mô hình ngôn ngữ nhỏ: Tối ưu hơn LLM?Small Language Model (SLM) là gì? Mô hình ngôn ngữ nhỏ: Tối ưu hơn LLM? Điểm yếu, hậu quả khi AI tự học từ dữ liệu do chính nó tạo ra: Sự vô nghĩa, sụp đổ đến từ vòng lặp tử thần của LLM và mô hình tạo sinhĐiểm yếu, hậu quả khi AI tự học từ dữ liệu do chính nó tạo ra: Sự vô nghĩa, sụp đổ đến từ vòng lặp tử thần của LLM và mô hình tạo sinh “Agent” – Hỗ trợ thực hiện nhiệm vụ LLM/NLP“Agent” – Hỗ trợ thực hiện nhiệm vụ LLM/NLP Liệu các LLM có thật sự thông minh hay chỉ đang “nhớ bài” từ dữ liệu huấn luyện?Liệu các LLM có thật sự thông minh hay chỉ đang “nhớ bài” từ dữ liệu huấn luyện?

Để lại một bình luận

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *