BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

OpenRouter nâng cấp định tuyến suy luận: chi thêm 6% tiền, tốc độ phản hồi tăng khoảng 17%

Động Sát Beating Tin nhanh AI, OpenRouter công bố nâng cấp thuật toán định tuyến suy luận mặc định. Trước đây chủ yếu chọn nhà cung cấp dịch vụ suy luận dựa trên giá cả, nay sẽ tổng hợp xem xét tốc độ, độ ổn định và chi phí gọi thực tế, không còn chỉ chọn nhà cung cấp rẻ nhất.


Phía chính thức đã thử nghiệm hơn 24 triệu yêu cầu. Kết quả cho thấy, thời gian phản hồi ký tự đầu tiên giảm 16,9%, thời gian hoàn thành toàn bộ yêu cầu giảm 19%, tỷ lệ yêu cầu gặp lỗi giới hạn tần suất giảm từ 7,1% xuống 3,8%. Cái giá phải trả là chi phí mỗi nghìn yêu cầu tăng khoảng 6%.


Thuật toán mới đã được đưa vào hoạt động, người dùng không cần điều chỉnh cấu hình. Tối ưu hóa lần này nhắm vào việc lựa chọn nhà cung cấp dịch vụ suy luận đứng sau cùng một mô hình, chứ không phải năng lực của bản thân mô hình.

Liên quanĐề xuất
Stripe chi 7,5 tỷ USD để mua OpenRouter, đặt cược rằng nó có thể chuyển từ kênh lưu lượng AI thành điểm kiểm soát của nền kinh tế Agent.
Khi các mô hình ngày càng giống như điện năng có thể thay thế, ai giúp doanh nghiệp mở đúng mức tiết kiệm và ổn định nhất, người đó có thể ngồi vào trạm thu phí của AI.
Citigroup và Bank of America Securities cho rằng, mặc dù Kimi K3 giảm chi phí suy luận, nhưng có thể kích thích nhiều lệnh gọi hơn, ngữ cảnh dài hơn và các tác vụ tác nhân thông qua "Nghịch lý Jevons", từ đó đẩy cao nhu cầu về GPU, HBM, DDR5, eSSD và cơ sở hạ tầng mạng.
Báo lỗi/Báo cáo
Gửi
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành