“Model trả lời thiếu kiến thức nội bộ - nên sửa prompt, dựng hệ thống RAG, hay mang dữ liệu đi fine-tune?”
Chọn Prompt, RAG hay Fine-tuning để giải quyết bài toán AI
AI Agent Skills tương ứng
Các mẫu thiết kế prompt đã được kiểm chứng: Few-shot, Chain-of-Thought, và kỹ thuật Context Injection hiệu quả cao.
Prompt EngineeringLLMContext
Hướng dẫn thiết kế pipeline RAG (Retrieval-Augmented Generation): chunking, embedding, hybrid search và khi nào RAG là lựa chọn đúng.
RAGRetrievalLLM
Tư vấn khi nào nên fine-tune một mô hình, chọn phương pháp (full fine-tune, LoRA, PEFT) và ước lượng chi phí duy trì.
Fine-tuningModel TrainingLLM
Khung hành động
- Hỏi: Vấn đề là do model 'chưa có dữ liệu mới' hay 'chưa đúng phong cách/định dạng'? Dữ liệu mới → Prompt/RAG; Phong cách/format → Few-shot hoặc Fine-tuning.
- Hỏi: Dữ liệu có cập nhật thường xuyên không? Nếu có → RAG bắt buộc, fine-tuning sẽ bị lỗi thời ngay.
- Kiểm tra khối lượng tài liệu: Nếu dưới 10 trang, nhét thẳng vào Context Window (Prompting) trước khi tốn công dựng RAG.
- Đánh giá chi phí kỹ thuật: Prompting (1 ngày) → RAG (1-2 tuần) → Fine-tuning (1-2 tháng + chi phí duy trì pipeline).
- Luôn thử nghiệm theo thứ tự từ rẻ đến đắt: Tối ưu prompt trước → Chỉ dựng RAG khi vượt context → Chỉ fine-tune khi RAG không đáp ứng được định dạng đặc thù.
Trước
"Cứ gom dữ liệu mang đi fine-tune model cho xịn và chính xác nhất."
Sau
"Tài liệu thay đổi hàng tuần → Dùng RAG với hybrid search. Prompt ban đầu kèm 3 ví dụ mẫu (few-shot) đủ đạt 80% chất lượng mà không cần fine-tune tốn kém."