Ba thuật ngữ này xuất hiện liên tục khi dùng AI. Hiểu chúng giúp bạn viết yêu cầu tốt hơn và kiểm soát chi phí.
1. Prompt
Prompt là nội dung bạn gửi cho AI: câu hỏi, yêu cầu, dữ liệu đính kèm. Prompt tốt thường có:
- Vai trò và mục tiêu: “Bạn hỗ trợ chăm sóc khách hàng cho shop mỹ phẩm.”
- Bối cảnh: thông tin cần thiết để làm đúng.
- Yêu cầu cụ thể: làm gì, độ dài, định dạng đầu ra.
- Ví dụ: một hai mẫu đạt chuẩn.
2. System prompt
System prompt là bộ hướng dẫn nền được đặt sẵn, khách hàng không nhìn thấy. Nó quy định tính cách, giọng điệu, giới hạn và quy tắc của chatbot hay agent. Ví dụ:
- Chỉ trả lời dựa trên tài liệu được cung cấp.
- Không hứa giảm giá.
- Khi khách phàn nàn, chuyển cho nhân viên.
Đây là nơi bạn “đào tạo” nhân viên ảo. Dành thời gian viết kỹ và cập nhật khi thấy bot làm sai.
3. Context window
Context window là lượng nội dung AI có thể “nhìn thấy” cùng lúc trong một lần xử lý: hướng dẫn, lịch sử chat, tài liệu đính kèm và cả câu trả lời. Vượt giới hạn thì phần cũ bị cắt hoặc không nạp được.
Điều này kéo theo vài hệ quả thực tế:
- Hội thoại càng dài, AI càng dễ quên chi tiết đầu cuộc trò chuyện.
- Nội dung đưa vào càng nhiều thì chi phí càng cao, vì thường tính theo lượng chữ xử lý.
- Nhồi cả tập tài liệu vào một lần thường kém hiệu quả hơn việc chỉ đưa đoạn liên quan (xem bài về RAG).
Mẹo thực hành
- Tách hướng dẫn cố định (system prompt) khỏi yêu cầu từng lượt (prompt).
- Giữ system prompt ngắn gọn, rõ ràng, tránh mâu thuẫn.
- Với tác vụ dài, tóm tắt định kỳ thay vì kéo mãi một cuộc chat.
- Thử một vài phiên bản prompt trên cùng 10–20 tình huống để so sánh.
Xem ví dụ áp dụng ở hướng dẫn dùng trợ lý AI làm content.
Ảnh bìa: Shixart1985 / Wikimedia Commons, CC BY 2.0
