Khách nhắn cho shop lần thứ hai và AI agent chào như thể chưa từng gặp. Khách phải kể lại từ đầu: tên, món đã mua, vấn đề đang gặp. Đây là vấn đề về bộ nhớ của agent. Bài này giải thích bộ nhớ là gì, có mấy loại và nên cho agent nhớ những gì.
Bộ nhớ của AI agent là gì?
Bản thân mô hình AI không tự nhớ gì giữa các cuộc trò chuyện. Mỗi lần trả lời, nó chỉ dựa vào những gì được đưa vào lúc đó. “Bộ nhớ” là phần hệ thống xung quanh mô hình: nơi lưu thông tin và cơ chế đưa đúng thông tin trở lại khi cần.
Nhớ ngắn hạn: trong một cuộc trò chuyện
Nhớ ngắn hạn là nội dung của cuộc trò chuyện đang diễn ra. Khi khách nói “cho mình đổi sang màu đen”, agent hiểu “màu đen” thuộc sản phẩm vừa nhắc ở tin trước. Phần này nằm trong khung đọc của mô hình (xem bài về context window) và mất đi khi cuộc trò chuyện kết thúc, hoặc khi hội thoại dài quá giới hạn.
Nhớ dài hạn: giữa nhiều cuộc trò chuyện
Nhớ dài hạn là thông tin được lưu lại để lần sau dùng tiếp. Thường là một bảng tính, CRM hoặc cơ sở dữ liệu nhỏ mà agent được phép đọc và ghi. Ví dụ:
- Tên khách, cách xưng hô khách thích.
- Các đơn đã mua, ngày mua gần nhất.
- Yêu cầu đã ghi nhận, như “dị ứng hải sản” hay “chỉ nhận hàng sau 17h”.
- Vấn đề đang xử lý dở và người phụ trách.
Nhớ kiến thức của doanh nghiệp
Đây là loại thứ ba, hay bị nhầm với hai loại trên. Bảng giá, chính sách đổi trả, giờ mở cửa không thuộc về từng khách. Chúng nằm trong tài liệu để agent tra cứu (kỹ thuật RAG). Khi chính sách đổi, bạn sửa tài liệu một chỗ là agent trả lời theo bản mới.
Nên cho agent nhớ gì, không nên nhớ gì?
Nên nhớ: thông tin giúp phục vụ tốt hơn và khách đã đồng ý cung cấp, như tên, sở thích, lịch sử đơn, yêu cầu đặc biệt.
Không nên nhớ: số thẻ, mật khẩu, giấy tờ tùy thân, thông tin sức khỏe chi tiết và mọi thứ không cần cho công việc. Càng lưu nhiều, rủi ro lộ dữ liệu càng lớn. Xem thêm bài về bảo vệ dữ liệu khách hàng khi dùng AI agent.
Ba lỗi thường gặp
- Nhớ sai rồi dùng mãi: thông tin cũ như địa chỉ đã chuyển nhà vẫn được dùng. Cần có cách cập nhật và hỏi xác nhận lại.
- Nhớ quá nhiều: nhồi cả lịch sử dài vào mỗi lần trả lời làm agent chậm, tốn token và dễ lẫn. Chỉ nên đưa phần liên quan.
- Nhớ lẫn giữa các khách: lỗi nghiêm trọng nhất. Hãy kiểm tra để agent luôn lấy đúng hồ sơ của đúng người đang trò chuyện.
Bắt đầu thế nào cho gọn?
Doanh nghiệp nhỏ không cần hệ thống phức tạp. Bắt đầu bằng một bảng tính có vài cột: tên, số điện thoại, lần mua gần nhất, ghi chú. Cho agent đọc bảng này khi khách nhắn lại, và ghi thêm ghi chú sau mỗi cuộc trò chuyện quan trọng. Sau vài tuần, đọc lại các ghi chú để xem agent nhớ có đúng và có ích không, rồi mới mở rộng.
Tóm lại
Nhớ ngắn hạn giúp agent theo kịp cuộc trò chuyện, nhớ dài hạn giúp khách không phải kể lại, còn kiến thức doanh nghiệp giúp agent trả lời đúng. Hãy cho agent nhớ vừa đủ, nhớ đúng và có kiểm soát.