AI agent có thể tự làm nhiều việc: gửi email, cập nhật đơn hàng, hoàn tiền. Nhưng giao toàn quyền ngay từ đầu là rủi ro. Human-in-the-loop (con người trong vòng lặp) là cách thiết kế để một người xem và đồng ý ở những bước quan trọng trước khi agent hành động.
Vì sao cần người duyệt?
- AI vẫn có thể hiểu sai hoặc nói sai thông tin.
- Một số hành động khó hoặc không thể hoàn tác, như gửi tiền hoặc xóa dữ liệu.
- Có việc cần trách nhiệm và phán đoán của con người, ví dụ cam kết với khách lớn.
Nên đặt điểm duyệt ở đâu?
Hỏi ba câu cho mỗi hành động của agent:
- Có hoàn tác được không? Nếu không, cần duyệt.
- Thiệt hại nếu sai là bao nhiêu? Tiền hoặc uy tín càng lớn, càng cần duyệt.
- Có ra ngoài công ty không? Email hay tin nhắn gửi cho khách nên được xem trước, ít nhất giai đoạn đầu.
Ba mức độ phổ biến
- Người duyệt trước: agent soạn nháp, người bấm gửi. Phù hợp báo giá, email quan trọng.
- Người duyệt theo ngưỡng: agent tự làm việc nhỏ, chuyển cho người khi vượt ngưỡng, ví dụ hoàn tiền trên 500.000đ.
- Người giám sát sau: agent tự làm, người xem lại nhật ký định kỳ. Chỉ nên dùng cho việc rủi ro thấp.
Giữ cho quy trình không bị chậm
- Gom yêu cầu duyệt vào một nơi, như một nhóm chat hoặc bảng, với nút Đồng ý hoặc Từ chối.
- Cho agent ghi rõ lý do và dữ liệu nó dựa vào để người duyệt nhanh hơn.
- Sau vài tuần, nếu một loại việc luôn được duyệt đúng, hãy nới lỏng dần.
Bắt đầu chặt, nới dần
Cách an toàn nhất là bắt đầu với nhiều điểm duyệt, theo dõi tỷ lệ agent làm đúng, rồi giảm bớt khi đã có bằng chứng. Như vậy bạn vừa tận dụng tốc độ của AI, vừa giữ quyền kiểm soát những quyết định quan trọng.