Bỏ qua điều hướng
Nhận Quy Trình

Guardrails là gì? Rào chắn an toàn giúp AI agent không “đi quá giới hạn”

Dải rào chắn an toàn bên đường giữ xe không đi chệch làn

Một chiếc xe tốt không chỉ có chân ga mà còn có phanh, dây an toàn và lan can bên đường. AI agent cũng vậy. Khả năng làm việc của agent càng mạnh thì càng cần guardrails: những rào chắn để agent không đi quá giới hạn dù người dùng hay chính nó “muốn” như vậy.

Guardrails là gì?

Guardrails (rào chắn an toàn) là tập hợp các quy tắc và cơ chế kiểm soát đặt quanh AI agent, nhằm giới hạn nói gì, làm gì và được phép đụng vào đâu. Chúng không thay thế việc viết hướng dẫn tốt cho agent, mà bổ sung một lớp bảo vệ để khi hướng dẫn bị hiểu sai hoặc bị lừa, hậu quả vẫn nằm trong tầm kiểm soát.

4 lớp rào chắn nên có

1. Rào chắn về chủ đề

Agent của tiệm bánh không cần bàn chuyện chính trị hay tư vấn y tế. Hãy ghi rõ trong hướng dẫn: chỉ trả lời về sản phẩm, đơn hàng, giao nhận; gặp câu hỏi ngoài phạm vi thì lịch sự từ chối và chuyển cho nhân viên.

2. Rào chắn về quyền

Agent chỉ được đọc những dữ liệu và gọi những công cụ thật sự cần. Đây chính là nguyên tắc ít quyền nhất: cho phép đọc bảng giá nhưng không cho sửa, cho phép soạn email nhưng không tự gửi.

3. Rào chắn về giá trị và số lượng

Đặt trần cho những thứ đo được: số tin nhắn gửi mỗi giờ, số tiền hoàn tối đa, mức giảm giá tối đa, số lần agent được thử lại. Nếu vượt trần, agent phải dừng và báo người. Giới hạn này cũng giúp tránh chi phí bất ngờ, như đã nói trong bài về chi phí AI agent mỗi tháng.

4. Rào chắn về hành động quan trọng

Những việc khó hoàn tác như xóa dữ liệu, gửi hàng loạt, chuyển tiền, cam kết với khách thì cần người duyệt trước. Cách đặt điểm duyệt được giải thích kỹ trong bài Human-in-the-loop là gì.

Guardrails giúp chống được gì?

  • Lỗi do chính agent: hiểu nhầm yêu cầu, bịa thông tin, lặp vô hạn.
  • Bị dắt mũi: khách hoặc nội dung bên ngoài chèn lệnh ẩn để agent làm sai. Xem thêm prompt injection là gì và 5 cách phòng tránh.
  • Rò rỉ dữ liệu: agent vô tình nhắc thông tin của khách này cho khách khác.

Cách đặt guardrails trong 30 phút

  1. Liệt kê mọi hành động agent có thể làm (đọc, soạn, gửi, sửa, xóa, thanh toán).
  2. Với mỗi hành động, ghi một trong ba mức: tự làm, làm rồi báo, hỏi người trước.
  3. Đặt trần số tiền và số lượng cho mọi hành động có thể lặp.
  4. Viết sẵn câu agent nói khi từ chối, để khách không thấy bị bỏ rơi.
  5. Thử cố tình “phá” agent bằng vài câu hỏi lạc đề, rồi chỉnh lại.

Kết luận

Guardrails không làm agent kém thông minh, mà làm nó đáng tin hơn. Với doanh nghiệp nhỏ, vài rào chắn đơn giản về chủ đề, quyền, trần giá trị và điểm duyệt đã giảm phần lớn rủi ro. Hãy đặt rào chắn trước khi mở rộng quyền cho agent, không phải sau khi có sự cố.

Về blog

Bài viết gợi ý cho bạn

Nhắn Zalo 0383 071 257 Gọi 0383 071 257 Chat với AITrả lời ngay trên Messenger