Cloudflare để 3 AI tiếp sức xử lý bồi thường: tự kiểm tra nhanh gấp 3,2 lần, chi phí giảm 49%

Động Sát Beating Tin nhanh AI, Cloudflare phát hành bản xem trước mô hình trích xuất dữ liệu Clairic. Đưa cho nó một hóa đơn hoặc một email hậu mãi, nó có thể tìm ra số đơn hàng, ngày tháng, tổng số tiền, cũng có thể dựa trên thông tin có sẵn để ước tính chi phí sửa chữa, dự đoán lưu lượng khách.

Nó không cần sinh câu trả lời từng Token như LLM thông thường, mà trực tiếp tính toán và trả về kết quả thuộc loại chỉ định, kèm theo độ tin cậy. Các trường không tìm được căn cứ có thể trả về null.

Clairic tiếp nối hướng đi mô hình System One nổi lên sau khi TypeSafe ra mắt Jev. Cloudflare đã ra mắt mô hình quyết định Clef vào ngày 1 tháng 10, chịu trách nhiệm lựa chọn từ các tùy chọn đặt trước; Clairic chịu trách nhiệm trích xuất, tính toán và dự đoán các giá trị số cụ thể. Cả hai đều không cần sinh câu trả lời từng chữ. Clairic chỉ thu 0,10 USD cho mỗi triệu Token đầu vào, không có phí Token đầu ra.

Cloudflare đã dùng việc bồi thường hư hỏng hàng hóa để minh họa: Clairic trước tiên trích xuất thông tin, ước tính chi phí sửa chữa, Clef quyết định hoàn tiền hay sửa chữa, GLM-5.3 cuối cùng gửi thư trả lời khách hàng. Ba bên phối hợp mất 19,3 giây, nếu giao toàn bộ cho GLM-5.3 thì cần 61,7 giây. Tính theo mỗi triệu vụ bồi thường, chi phí giảm từ 11740 USD xuống 6032 USD, giảm 49%. Riêng khâu trích xuất thông tin, thời gian giảm từ 16,1 giây xuống 0,46 giây.

Tuy nhiên, mặc dù Clairic không tạo ra Token đầu ra, nhưng khi các trường không thể xử lý hết trong một lần tính toán, hệ thống sẽ tự động tách thành nhiều vòng song song, mỗi vòng đọc lại toàn bộ đầu vào. Đối với đầu vào có nhiều Token như hình ảnh, điều này có thể làm tăng chi phí gọi thực tế.

Hiện tại mô hình đã mở xem trước trên Workers AI, trọng số chưa mã nguồn mở.