Bạn cần AI agent, hay chỉ cần một workflow?

Sự khác biệt đáng quan tâm

Workflow có các bước bạn đã quyết từ trước. Một mô hình có thể nằm trong một bước nào đó, nhưng đường đi là cố định. Agent thì tự quyết bước tiếp theo ngay lúc chạy.

Khác biệt nghe thì nhỏ. Nhưng đó là khác biệt giữa một hệ thống bạn kiểm thử được và một hệ thống bạn chỉ có thể quan sát.

Phần lớn bài toán là workflow

Trích xuất trường từ hoá đơn, rồi kiểm tra, rồi ghi vào database. Phân loại tin nhắn hỗ trợ, rồi định tuyến. Dịch, rồi soát thuật ngữ, rồi đăng. Mỗi cái đều có hình dạng đã biết. Bắt mô hình tự chọn thứ tự chỉ làm tăng chi phí và mất khả năng dự đoán hành vi, đổi lại chẳng được gì.

Khi nào agent xứng với độ phức tạp của nó

Agent hợp lý khi số đường đi khả dĩ thật sự lớn và không thể biết trước, đồng thời cái giá của một đường đi sai là thấp và khắc phục được. Tra cứu mở trên một tập tài liệu chưa biết là trường hợp hợp lý. Xử lý hoàn tiền thì không.

Nếu vẫn làm agent, hãy ràng buộc nó

• Cho nó một bộ công cụ nhỏ, mỗi công cụ hẹp và tự nó đã an toàn.
• Giới hạn số bước. Vòng lặp là cách agent trở nên đắt đỏ.
• Bắt buộc người duyệt với bất cứ thao tác nào động đến tiền hoặc thay đổi bản ghi.
• Ghi log mọi quyết định, không chỉ kết quả.

Lời khuyên thực dụng

Bắt đầu bằng workflow. Khi gặp những ca thật mà đường cố định không xử lý nổi, và bạn gọi tên được chúng, lúc đó mới cân nhắc làm cho riêng bước đó thích ứng. Bắt đầu bằng agent vì nghe có vẻ mạnh hơn là cách dự án trở nên khó đoán và khó gỡ lỗi.