Bạn hỏi AI về chính sách đổi trả của shop, và nó trả lời rất trôi chảy, rất tự tin, nhưng sai hoàn toàn. Hiện tượng này gọi là hallucination (ảo giác của AI). Đây là rủi ro lớn nhất khi để AI trả lời khách thay bạn, nên cần hiểu rõ trước khi triển khai.
Vì sao AI nói sai mà vẫn tự tin?
Mô hình ngôn ngữ không “biết” sự thật như con người. Nó dự đoán từ tiếp theo hợp lý nhất dựa trên dữ liệu đã học. Khi thiếu thông tin, nó vẫn điền vào chỗ trống bằng câu nghe có vẻ đúng. Vì vậy AI có thể bịa ra giá, ngày khuyến mãi, tên sản phẩm hoặc cả đường dẫn không tồn tại.
6 cách giảm lỗi trong thực tế
1. Cho AI tra tài liệu của bạn trước khi trả lời
Cách hiệu quả nhất là để AI đọc bảng giá, chính sách và câu hỏi thường gặp của bạn rồi mới trả lời. Kỹ thuật này gọi là RAG, bạn có thể xem giải thích dễ hiểu trong bài RAG là gì? Cách để AI đọc tài liệu công ty rồi trả lời đúng.
2. Viết quy tắc rõ ràng: không chắc thì nói không biết
Trong phần hướng dẫn hệ thống, hãy ghi thẳng: “Nếu không có thông tin trong tài liệu, trả lời rằng bạn sẽ chuyển cho nhân viên.” Cách đặt hướng dẫn này được giải thích trong bài Prompt, system prompt, context window: 3 khái niệm chủ doanh nghiệp cần biết.
3. Để AI gọi công cụ thay vì tự nhớ
Những con số như tồn kho, giá, trạng thái đơn hàng nên lấy trực tiếp từ hệ thống qua công cụ, không để AI đoán. Cơ chế này nằm trong bài Tool calling (function calling) là gì?.
4. Giới hạn phạm vi câu trả lời
Một agent chỉ trả lời về sản phẩm và đơn hàng sẽ ít sai hơn một agent được phép nói về mọi thứ. Đừng cho AI tư vấn pháp lý, y tế hay tài chính nếu bạn không kiểm soát được nội dung.
5. Yêu cầu trích nguồn nội bộ
Cho AI ghi kèm “theo mục Chính sách đổi trả”. Nhân viên nhìn vào là biết ngay câu trả lời dựa trên đâu, và dễ phát hiện khi nó bịa.
6. Kiểm tra mẫu định kỳ
Mỗi tuần đọc khoảng 20 cuộc hội thoại ngẫu nhiên, đánh dấu câu sai và bổ sung vào tài liệu hoặc quy tắc. Sau vài vòng, tỷ lệ lỗi giảm rõ rệt.
Khi nào bắt buộc có người duyệt?
Những việc liên quan tiền bạc, cam kết bảo hành, hợp đồng hoặc dữ liệu cá nhân nên có người xác nhận trước khi gửi đi. AI soạn nháp, người quyết định.
Kết luận
Không có cách nào xóa hoàn toàn hallucination, nhưng bạn có thể giảm mạnh bằng dữ liệu nguồn tốt, quy tắc rõ và kiểm tra đều đặn. Hãy bắt đầu với một phạm vi nhỏ, đo lỗi, rồi mở rộng dần.
Ảnh bìa: John Samuel / Wikimedia Commons, CC BY-SA 4.0
