06 · Khái niệm nâng cao
AI agent là gì? Thiết kế có giới hạn
Agent là hệ thống AI được giao mục tiêu và có thể chọn bước tiếp theo, gọi công cụ hoặc thực hiện hành động trong phạm vi được cấp. Chatbot thường chủ yếu hội thoại; agent có thể hành động. Một hệ thống có thể vừa chat vừa có tính năng agent.
Mô hình tư duy
Mục tiêu → Quan sát đầu vào → Lập kế hoạch → Xin phép/dùng công cụ → Kiểm tra kết quả → Báo cáo hoặc dừng
Thử nghiệm an toàn trong lớp
- Chọn tác vụ ít rủi ro, ví dụ phân loại câu hỏi mẫu thành nhóm chủ đề — không gửi thông báo hay sửa dữ liệu thật.
- Giới hạn công cụ: chỉ đọc bộ dữ liệu giả lập; không cấp email, thanh toán, quyền admin hay quyền xóa.
- Đặt ngưỡng dừng: thiếu dữ kiện, yêu cầu vượt quyền, kết quả không kiểm chứng được thì dừng và hỏi người.
- Yêu cầu phê duyệt trước hành động có hậu quả; dùng dữ liệu thử và môi trường sandbox.
- Kiểm thử lỗi, prompt injection (nội dung đầu vào cố ép bot bỏ quy tắc), rò rỉ dữ liệu, vòng lặp và chi phí bất thường.
- Ghi log tối thiểu, có nút dừng/hoàn tác, và người chịu trách nhiệm xem xét.
Quy tắc học đường: không triển khai agent tự gửi email, tự đăng bài, tự chấm điểm, tự thu thập dữ liệu học sinh hoặc thực hiện hành động ngoài môi trường thử nghiệm khi chưa được nhà trường cho phép và giám sát.
Checklist thiết kế
- Mục tiêu có hẹp và đo được không?
- Agent được đọc/ghi/gọi những công cụ nào? Có thể bỏ quyền nào?
- Hành động nào cần con người duyệt?
- Nếu sai, ai phát hiện, dừng, hoàn tác và xử lý?
- Dữ liệu có được phép dùng? Lưu bao lâu? Ai được truy cập?