AI 'hiểu' yêu cầu như thế nào

Cơ chế "hiểu" của Model dựa trên trọng số Attention và Ranh giới của Sự thật

Cạm bẫy lớn nhất của PM là nghĩ AI "đọc và hiểu" như con người. Thực tế, "hiểu" của AI là phép tính toán học: Cơ chế Attention (Attention Mechanism) - đo lường tương quan trọng số giữa các từ.

Ví dụ: Với EcoCart, hiểu rõ Attention giúp PM giải thích tại sao một lỗi gõ nhỏ có thể làm lệch lạc toàn bộ output và tại sao model không thể tự kiểm chứng sự thật.

1. Bản chất của "sự hiểu" ở AI: Cân trọng số mối liên hệ (Attention Weighting)

Con người đọc tuần tự và gắn nghĩa với thực tế. LLM xử lý toàn bộ token cùng lúc: trước khi sinh token tiếp theo, Attention tính toán phân bổ trọng số (weight) xem từ nào trong prompt liên quan nhất.

"Hiểu" của AI không phải tâm tư mà là tính toán ma trận xác suất, đối chiếu với các pattern đã học để chọn token tiếp theo.

2. Tác động của từ ngữ đầu vào đến sự dịch chuyển tông giọng

Model không đọc được suy nghĩ ngầm mà chỉ chấm trọng số trên ký tự thực tế bạn gõ ra. Một thay đổi từ ngữ nhỏ có thể kéo lệch toàn bộ output.

Ví dụ: Người dùng định gõ "trang trọng" nhưng gõ nhầm thành "sang trọng". Con người tự hiểu đây là lỗi gõ của email xin lỗi chân thành. Nhưng Model sẽ dồn trọng số cao vào token "sang trọng", kéo toàn bộ email thành văn phong xa hoa, hào nhoáng ("đẳng cấp", "thượng lưu") - hoàn toàn lệch ngữ cảnh xin lỗi khách hàng.

3. Giới hạn của Tri thức tham số (Parametric Knowledge) và rủi ro ảo giác

Trí nhớ của model là Tri thức tham số (Parametric Knowledge) - các trọng số toán học nén lại sau huấn luyện, nên nó không phân biệt được sự thật khách quan với pattern ngôn ngữ phổ biến.

• Hỏi sự thật phổ biến: "Núi Phú Sĩ cao bao nhiêu?" → Model trả lời đúng 3.776m do tần suất xuất hiện cao trong dữ liệu huấn luyện.
• Hỏi sự thật nội bộ: "Giám đốc startup 10 người mới trên EcoCart sinh năm nào?" → Model vẫn tự tin bịa một năm (VD: 1988) theo pattern "tuổi founder tech", vì không có cơ sở dữ liệu thật.

Bài tập tư duy: Seller gõ prompt "Viết mô tả cho giày chạy bộ mới" mà không đính kèm thông số kỹ thuật:

• Model sẽ sinh câu dựa trên pattern chung của ngành giày ("đế cao su êm ái", "đệm khí thoáng khí").
• Góc nhìn PM: Toàn bộ chi tiết kỹ thuật này là ảo giác (hallucination) từ pattern chung, không thể dùng làm thông số bán hàng thực tế.

4. Ranh giới giữa Dự đoán ngôn ngữ và Kiểm chứng sự thật (Ground Truth Verification)

Để đảm bảo an toàn sản phẩm, kiến trúc hệ thống phải phân tách thành 2 lớp:

Quy tắc PM: Tuyệt đối không để model tự nhớ thông tin sự thật (giá tiền, tồn kho, mã vận đơn, điều khoản chính sách) - toàn bộ phải truy vấn từ Database và đưa vào Prompt làm ngữ cảnh kiểm chứng (Context Grounding).