Module 4 • Bài 14• 45 phút

Vận hành Vòng lặp Red - Blue - Green Teaming

Vận hành Red Team (tấn công chủ động), Blue Team (giám sát sự lệch hướng mục đích) và Green Team (ngắt mạch & vá lỗ hổng) như một vòng lặp liên tục.

Tổ chức hoạt động Red Teaming mô phỏng các đòn tấn công thực tế

Thiết lập hệ thống Blue Teaming phát hiện sự lệch hướng mục đích (Intent Drift)

Xây dựng phản xạ Green Teaming: ngắt mạch (Circuit Breaker) và tự chữa lành

Quản trị việc khám phá MCP và phân quyền theo ngữ cảnh

MCP spoofing khai thác việc khám phá trong runtime: server giả mạo hoặc đã bị xâm nhập có thể đưa ra tên tool quen thuộc, trả về nội dung có dạng chỉ dẫn hoặc yêu cầu quyền không liên quan đến tác vụ. TLS hay credential server hợp lệ chỉ chứng minh ai trả lời, không chứng minh lệnh gọi được yêu cầu phù hợp với ý định người dùng.

Hãy định tuyến mọi lệnh gọi Agent-to-Tool và A2A qua Agent Gateway tập trung. Gateway phải xác minh danh tính server và schema tool, ghim phiên bản server đã duyệt, chạy LLM firewall với nội dung ngữ nghĩa không đáng tin cậy, đồng thời áp dụng phân quyền theo ngữ cảnh cho liên kết giữa người dùng, agent, ý định tác vụ, tool, tài nguyên và thời gian. Văn bản trả về vẫn là dữ liệu, không thể tự cấp quyền cho chính nó.

Ví dụ, CRM MCP server hợp lệ có thể có cả read_account và bulk_delete_accounts. Yêu cầu chuẩn bị bản tóm tắt có thể cho phép tool đọc nhưng phải từ chối tool xóa, dù cả hai đến từ cùng server đã xác thực. PM sở hữu server registry, ma trận liên kết được phép, UX cho trường hợp không khớp và đường dẫn tắt khẩn cấp. Hãy đo nỗ lực từ server chưa đăng ký, schema drift, yêu cầu leo thang quyền, lệnh gọi tool thiếu liên kết ý định, độ trễ chính sách và di chuyển ngang bị chặn.