OpenAI ra mắt giải pháp tối ưu hóa mới, giảm hơn 50% chi phí suy luận mô hình.

BlockBeats tin tức, ngày 30 tháng 6, theo The Information đưa tin, các kỹ sư của OpenAI đã phát triển một loạt kỹ thuật tối ưu hóa mô hình mới, giúp giảm chi phí suy luận mô hình hơn 50% và giảm nhu cầu về GPU của Nvidia.

Báo cáo cho biết, trong tương lai OpenAI có thể sử dụng một phần chi phí tiết kiệm được để giảm giá dịch vụ API hoặc tăng hạn mức truy vấn cho người dùng các sản phẩm như ChatGPT.

---------------------------------

Nhấp vào liên kết gốc bên dưới để tham gia kênh tin tức AI của Beating · Feishu, theo dõi các điểm nóng và tin tức AI toàn cầu 7×24 giờ không gián đoạn.