Khoảnh khắc lớn cho những người xây dựng Agent! Có một mô hình cứ lặp đi lặp lại trong phần mềm. Đầu tiên, mọi người tập trung vào vấn đề "xây dựng". Các framework xuất hiện, trưởng thành và trở nên thực sự tốt. Sau đó, đột nhiên, rào cản chuyển sang triển khai. Chúng ta đã thấy điều này với mạng nơ-ron. PyTorch, TensorFlow và Caffe đều xuất sắc trong việc xây dựng mô hình. Nhưng việc triển khai chúng có nghĩa là phải xử lý các định dạng và môi trường khác nhau. ONNX cho phép các nhà phát triển xây dựng trong bất kỳ framework nào họ muốn, xuất khẩu sang định dạng tiêu chuẩn và triển khai ở bất kỳ đâu. Chúng ta đang chứng kiến mô hình tương tự diễn ra với Agents ngay bây giờ. Các framework như LangGraph, CrewAI, Agno và Strands đã đủ trưởng thành đến mức việc xây dựng một agent không còn là phần khó nhất. Thay vào đó, đó là những gì xảy ra sau đó: triển khai, phát trực tiếp, quản lý bộ nhớ, khả năng quan sát và tự động mở rộng. Đây không phải là vấn đề của agent mà là vấn đề hạ tầng. Và ngay bây giờ, mọi đội ngũ AI mà tôi đã nói chuyện đều đang giải quyết chúng từ đầu. xpander đang áp dụng cách tiếp cận ONNX cho vấn đề này, và tôi nghĩ đó là mô hình tư duy đúng. Ý tưởng cốt lõi rất đơn giản: mang agent của bạn (được xây dựng trong bất kỳ framework nào), triển khai nó thông qua xpander, và nhận được tất cả hạ tầng sản xuất. Điều này bao gồm: - Triển khai không máy chủ trong ~2 phút - Phát trực tiếp SSE cho trải nghiệm suy nghĩ thời gian thực...