Dù thiết kế cẩn thận, AI agent vẫn có lúc gửi nhầm báo giá, trả lời sai chính sách hoặc nhắn khách hai lần. Điều quyết định là bạn phản ứng thế nào. Dưới đây là quy trình 5 bước gọn nhẹ.
Bước 1: Dừng cho kịp
Tạm tắt agent hoặc chuyển sang chế độ chỉ soạn nháp. Hãy chuẩn bị sẵn “nút dừng” trước khi có sự cố, và biết ai có quyền bấm. Nguyên tắc cấp quyền hẹp giúp thiệt hại nhỏ hơn, xem Nguyên tắc ít quyền nhất.
Bước 2: Đánh giá phạm vi
Trả lời ba câu hỏi: lỗi ảnh hưởng bao nhiêu khách, có lộ dữ liệu không, có tiền bạc bị tác động không. Lỗi lộ dữ liệu cần ưu tiên cao nhất, đối chiếu với checklist bảo vệ dữ liệu khách hàng.
Bước 3: Khắc phục với khách
Liên hệ trực tiếp những khách bị ảnh hưởng, xin lỗi ngắn gọn, nói rõ bạn sẽ sửa gì. Người thật nên là người gửi tin này, không phải agent.
Bước 4: Tìm nguyên nhân
Xem lại hội thoại và hướng dẫn của agent. Nguyên nhân thường gặp: tài liệu cũ, hướng dẫn mơ hồ, agent bịa thông tin (xem hallucination) hoặc bị chèn lệnh lạ (xem prompt injection).
Bước 5: Ngăn lặp lại
- Sửa hướng dẫn hoặc tài liệu đã gây lỗi.
- Thêm điểm duyệt của người cho loại việc này, tham khảo Human-in-the-loop là gì?
- Ghi sự cố vào một sổ nhật ký ngắn: chuyện gì, vì sao, đã sửa gì.
Chuẩn bị trước thì nhẹ hơn nhiều
Hãy viết sẵn một trang A4: ai bấm dừng, ai liên hệ khách, mẫu tin xin lỗi. Có sẵn thì lúc sự cố bạn chỉ làm theo, không phải nghĩ từ đầu.
Ảnh bìa: Angus Fraser / Wikimedia Commons, CC BY 2.0
