Thiết Kế Explainability Để Tăng Niềm Tin Mà Không Gây Rối
Phân biệt 3 dạng explainability ở tầng sản phẩm (citation, reasoning trace, yếu tố ảnh hưởng) và tỉ lệ mức độ dùng theo Cost of Failure, không mặc định bật cho mọi output.
Thiết Kế Explainability Để Tăng Niềm Tin Mà Không Gây Rối
AI Literacy Lesson 1 đã nêu: Model là "black box" - kết quả là tổng hòa của hàng tỷ tham số, khó trace như if-else. Đó là giới hạn kỹ thuật, không đổi được. Nhưng lesson này không hỏi "model có giải thích được chính nó không" - mà hỏi câu hỏi khác, hoàn toàn ở tầng sản phẩm: UI có cần dựng ra một lớp giải thích riêng, tách khỏi cơ chế thật bên trong model, để user vẫn tin được kết quả không?
Ví dụ xuyên suốt bài: PolicyBot - chatbot trả lời câu hỏi nhân viên về chính sách nội bộ công ty (nghỉ phép, phúc lợi, quy trình) dựa trên kho tài liệu HR.
1. Ba dạng explainability, khác nhau ở việc dựa vào cái gì
Explainability trong UI không phải là mở đúng cơ chế bên trong model ra cho user xem - không khả thi, và cũng không ai cần biết vector nào kích hoạt. Nó là việc dựng một "lời giải thích ở tầng sản phẩm" giúp user tự đánh giá kết quả có đáng tin không, mà không cần hiểu model hoạt động thế nào.
- (a) Citation/trỏ nguồn - chỉ ra output dựa trên đoạn dữ liệu/tài liệu cụ thể nào. Mạnh nhất khi có sẵn (đặc biệt hệ RAG - Module 3), vì user tự verify độc lập với việc có tin model hay không.
- (b) Reasoning trace - hiện lại (phiên bản đơn giản hóa) các bước model đi tới kết luận, ví dụ "Đã kiểm tra: đơn hàng trong hạn 7 ngày ✓, trạng thái 'Đã giao' ✓ → Đủ điều kiện hoàn tiền". Hữu ích khi kết luận phụ thuộc nhiều điều kiện.
- (c) Confidence + yếu tố ảnh hưởng - không giải thích cách ra kết luận, chỉ nói cái gì khiến kết luận đáng tin hơn/kém hơn, ví dụ "Gợi ý này dựa trên 12 đơn hàng tương tự bạn đã mua trước đây". Nhẹ nhất.
3 Dạng Explainability Ở Tầng Sản Phẩm
Không mở cơ chế thật của model - dựng một lớp giải thích riêng để user tự đánh giá độ tin cậy.
"Dựa trên đâu?"
Cần truy vết được nguồn - dễ có sẵn ở hệ RAG, khó hơn ở model thuần sinh văn bản.
2. Ví dụ: PolicyBot thêm citation, accuracy không đổi nhưng niềm tin tăng
Bản đầu: trả lời gọn một đoạn text, không trích dẫn gì. Phản hồi phổ biến nhất của nhân viên: "không biết có tin được không, lỡ nó bịa thì sao" - dù thực tế model trả lời đúng phần lớn thời gian, chỉ vì không có gì để verify nên niềm tin thấp đều cho mọi câu trả lời, kể cả câu đúng.
Thêm citation (dạng a): mỗi câu trả lời kèm link tới đúng đoạn trong tài liệu HR gốc mà nó dựa vào. Kết quả không phải là model đột nhiên chính xác hơn (accuracy không đổi) - mà là nhân viên tự verify được trong 5 giây thay vì phải hỏi lại phòng nhân sự, và với những câu trả lời sai hiếm hoi, họ phát hiện ra ngay vì đoạn trích dẫn không khớp với câu trả lời.
3. Ba dạng và hạ tầng cần có
| Dạng | Trả lời câu hỏi gì | Cần hạ tầng gì |
|---|---|---|
| (a) Citation | "Dựa trên đâu?" | Cần truy vết được nguồn - dễ có sẵn ở hệ RAG, khó hơn ở model thuần sinh văn bản |
| (b) Reasoning trace | "Đã kiểm tra những gì?" | Cần dựng lại logic theo bước - phù hợp khi kết luận phụ thuộc nhiều điều kiện |
| (c) Yếu tố ảnh hưởng | "Vì sao đáng tin/không đáng tin?" | Nhẹ nhất, không cần tách bước suy luận |
Lưu ý ngược lại, dễ bị bỏ qua: explainability không miễn phí về mặt UI - trích dẫn quá nhiều, reasoning trace quá dài biến câu trả lời ngắn gọn thành một khối text rối mắt. Với tác vụ Cost of Failure thấp, bắt user đọc "vì sao gợi ý này" chỉ làm chậm trải nghiệm không cần thiết. Cũng như confidence signaling ở Lesson 29, mức độ explainability nên tỉ lệ với Cost of Failure của quyết định, không mặc định bật cho mọi output.
4. Ẩn dụ: người tư vấn nói "tin tôi đi" và người trỏ đúng điều khoản 4.2
Giống sự khác biệt giữa một người tư vấn nói "tin tôi đi, đúng đấy" và một người nói "tôi kết luận vậy vì mục 4.2 trong hợp đồng ghi rõ..." - hai người có thể đúng với xác suất y hệt nhau, nhưng chỉ người thứ hai cho bạn cách tự kiểm tra mà không phải dựa hoàn toàn vào việc bạn có tin họ hay không.
Bài tập 34.1: BudgetAdvisor - app AI phân tích chi tiêu cá nhân, đưa ra nhận định kiểu "tháng này bạn chi cho ăn ngoài nhiều hơn 40% so với trung bình 3 tháng trước". Hiện tại chỉ hiện đúng câu đó, không có gì thêm. Đề xuất nên dùng dạng nào trong 3 dạng explainability cho use case này - giải thích vì sao dạng đó phù hợp hơn hai dạng còn lại với loại nhận định "so sánh số liệu theo thời gian" này.