Khi chọn dịch vụ AI, bạn sẽ gặp cùng một dòng sản phẩm với nhiều “cỡ”: bản lớn nhất, bản vừa và bản nhỏ nhất. Giá chênh nhau nhiều lần. Câu hỏi hợp lý là: việc của tôi cần cỡ nào?
Lớn và nhỏ khác nhau ở đâu?
Hãy hình dung nhân viên kỳ cựu và nhân viên mới. Người kỳ cựu xử lý được tình huống rắc rối, hiểu ý ngầm, viết dài mạch lạc, nhưng lương cao và làm chậm hơn. Người mới làm nhanh, rẻ, rất ổn với việc có quy trình rõ, nhưng dễ vấp khi gặp tình huống lạ.
- Mô hình lớn: lập luận tốt hơn, xử lý yêu cầu phức tạp, nhiều bước. Chi phí cao, phản hồi chậm hơn.
- Mô hình nhỏ: trả lời nhanh, chi phí thấp, đủ tốt cho việc đơn giản và lặp lại.
Việc nào hợp với cỡ nào?
Hợp mô hình nhỏ
- Trả lời câu hỏi thường gặp dựa trên tài liệu có sẵn.
- Phân loại tin nhắn (hỏi giá, khiếu nại, đặt lịch).
- Trích thông tin: tên, số điện thoại, ngày hẹn từ tin nhắn.
- Soạn tin nhắc lịch theo mẫu.
Hợp mô hình lớn
- Cuộc trò chuyện dài, khách đổi ý nhiều lần.
- Khiếu nại cần giọng điệu khéo và cân nhắc nhiều điều kiện.
- Phân tích tài liệu dài, đối chiếu nhiều nguồn.
- Viết nội dung cần chất lượng cao, ít phải sửa.
Cách phổ biến: dùng cả hai
Nhiều hệ thống để mô hình nhỏ xử lý phần lớn tin nhắn đơn giản, và chỉ chuyển sang mô hình lớn khi gặp câu khó. Cách này giữ chi phí thấp mà vẫn xử lý tốt tình huống phức tạp. Chi tiết về cách tính tiền xem thêm bài về token và chi phí hàng tháng.
Cách thử để chọn, không cần chuyên môn
- Lấy 20 câu khách thật đã hỏi, gồm cả vài câu khó.
- Cho mô hình nhỏ và mô hình lớn cùng trả lời.
- Chấm từng câu: đúng, chấp nhận được, sai.
- Nếu mô hình nhỏ đạt gần bằng, chọn nhỏ. Nếu sai ở những câu quan trọng, dùng lớn cho nhóm câu đó.
Nhớ thử lại khi nhà cung cấp ra phiên bản mới, vì mô hình nhỏ đời mới thường mạnh hơn mô hình lớn đời cũ.
Sai lầm thường gặp
- Mặc định chọn bản lớn nhất cho mọi việc, rồi bất ngờ vì hóa đơn.
- Chọn bản rẻ nhất rồi đổ lỗi “AI dở” khi thực ra hướng dẫn và tài liệu chưa tốt.
- Không đo, chỉ chọn theo cảm giác.
Kết luận
Không có cỡ mô hình tốt nhất, chỉ có cỡ vừa với việc. Bắt đầu bằng mô hình nhỏ cho việc lặp lại, giữ mô hình lớn cho phần khó, và để bộ câu hỏi thử quyết định thay vì cảm tính.