BTC

$96,000

5.73%

ETH

$3,521.91

3.97%

HTX

$0.{5}2273

5.23%

SOL

$198.17

3.05%

BNB

$710

3.05%

简体中文

繁體中文

English

Tiếng Việt

한국어

日本語

ภาษาไทย

Türkçe

「Ngày tận thế của Token」đến gần: Khi chi phí vượt quá lợi ích năng suất, ai sẽ trả giá?

Đọc bài viết này mất 10 phút

Một nhân viên có thể đốt sạch ngân sách tháng của công ty, Uber khẩn cấp giới hạn chi tiêu, luật sư không có AI thì không thể làm việc – cuộc khủng hoảng hóa đơn này còn đến nhanh hơn cả việc "AI thay thế con người".

Tiêu đề gốc: «"Ngày tận thế Token" đã đến! AI đang đối mặt với một cơn sóng thần định giá»
Nguồn gốc: Máy Tâm

Gần đây, một thuật ngữ mới đã gây ra nhiều tranh luận: "Tokenpocalypse" (Ngày tận thế Token).

Nguyên nhân bắt nguồn từ việc Microsoft tái cấu trúc định giá cho GitHub Copilot. Từ ngày 1 tháng 6, Copilot chuyển hoàn toàn sang mô hình tính phí dựa trên token, với hệ số nhân chi phí token giữa các mô hình khác nhau rất lớn, một số mô hình có giá mỗi token cao gấp 60 lần so với các mô hình khác.

Và những mô hình cao cấp được người dùng công nhận là "thực sự tốt" lại chính là nhóm tăng giá mạnh nhất.

Khi các công ty AI hàng đầu như Anthropic, OpenAI chuẩn bị niêm yết, họ sẽ phải đối mặt với áp lực lợi nhuận nghiêm trọng hơn, điều này có thể buộc nhiều nhà sản xuất khác phải tăng giá theo.

Chi phí sử dụng AI luôn là vấn đề không thể tránh khỏi trong việc mở rộng năng suất của doanh nghiệp. Trào lưu "tokenmaxxing" nổi lên gần đây, với động lực cạnh tranh về lượng token sử dụng của nhân viên, sẽ kết thúc khi ngày tận thế Token đến gần.

"Toàn bộ trào lưu tokenmaxxxing, từ khi nổi lên đến đỉnh cao rồi bị ghẻ lạnh, chỉ kéo dài sáu tháng."

Thế khó của doanh nghiệp

Một nhà phát triển từ doanh nghiệp lớn mô tả một tình huống trớ trêu: Công ty từ lâu đã bắt buộc nhân viên sử dụng công cụ AI, dùng ít token sẽ bị triệu tập nói chuyện. Nhưng khi định giá mới đến, dùng nhiều token cũng bị triệu tập nói chuyện.

Nghiêm trọng hơn, đội ngũ Copilot đến nay vẫn chưa thể triển khai tính năng "giới hạn token cấp nhân viên". Điều này có nghĩa là trong mô hình tính phí mới, một nhân viên có thể đốt hết ngân sách token của cả công ty trong một ngày.

"Công việc của tôi không còn là giải quyết vấn đề kinh doanh bằng phần mềm nữa," nhà phát triển viết, "công việc của tôi đã trở thành giải quyết vấn đề sử dụng token."

Những bình luận trong phần thảo luận còn thú vị hơn. Một người dùng tổng kết: "Chính sách công ty trở thành: 'Dùng AI cho mọi thứ, nhưng cẩn thận đừng dùng quá nhiều, vì nếu LLM tiêu thụ quá nhiều token bạn sẽ bị khóa, rồi bạn sẽ bị chỉ trích vì không dùng AI trong thời gian còn lại của tháng.'"

Việc doanh nghiệp quá coi trọng năng suất AI có thể là con dao hai lưỡi.

Một giám đốc thông tin từ một công ty luật lớn thậm chí còn "khoe" trong hội thảo AI: Khi hệ thống AI của họ gặp sự cố, các luật sư gần như ngừng làm việc vì đã không thể thiếu AI.

Một người được đào tạo chuyên nghiệp nhiều năm lại thoải mái thừa nhận rằng mình không thể làm việc nếu thiếu hộp chat AI? Tôi sẽ cảm thấy xấu hổ và bắt đầu suy ngẫm về sự nghiệp của mình.

Sự kiện chi tiêu quá mức của Uber: Hình ảnh thu nhỏ của ngành

Hiện nay, hầu hết các mô hình AI đều có gói sử dụng, vấn đề kiểm soát ngân sách của doanh nghiệp ngày càng nghiêm trọng dưới xu hướng Token được tính phí theo lượng sử dụng.

Uber đã hoàn thành một vòng cung hoàn chỉnh trong vòng một tháng rưỡi: Đầu tiên phát hiện "ngân sách AI cháy nhanh hơn dự kiến", sau đó khẩn cấp đặt giới hạn sử dụng và hạn chế nhân viên.

"Hãy tưởng tượng, ngay cả một công ty sử dụng AI nhiều như Uber cũng nhanh chóng gặp khó khăn," podcast của TechCrunch đề cập, "Vấn đề là: Liệu các phòng thí nghiệm AI có thể giảm chi phí xuống mức phù hợp với khả năng chi trả của khách hàng không?"

Một sự thật thú vị: Khi ChatGPT Plus ban đầu được định giá 20 USD/tháng, không có bất kỳ cân nhắc chiến lược nào, "chỉ là bừa bãi đưa ra một con số". Toàn bộ ngành công nghiệp vẫn đang trả giá cho điểm khởi đầu này.

"Công việc của bạn sẽ không bị AI thay thế, nhưng ngân sách của bạn có thể"

Trên Reddit còn có nhiều chi tiết đáng suy ngẫm hơn. Có người đã xây dựng một bảng điều khiển chi phí AWS Bedrock trong công ty, đưa chi phí của từng mô hình, từng token (bao gồm cả token bộ nhớ đệm) lên CloudWatch theo thời gian thực, "để nhà phát triển và bộ phận tài chính cùng xem tiền cháy". Phản hồi trong phần bình luận là: "Chúc mừng, bạn vừa cung cấp cho họ một chỉ số KPI mới."

Một công ty lớn khác đã gặp phải tình trạng thắt chặt tương tự: Sau khi hết hạn mức AI, tất cả mọi người bị giảm cấp xuống GPT-4.2, thậm chí tích hợp VSCode cũng biến mất.

Một người ngoài ngành công nghệ đã nói lên suy nghĩ của nhiều người: "Toàn bộ năng lượng tinh thần và thời gian làm việc thực tế tiêu tốn cho việc này đã ảnh hưởng đến việc giao hàng công việc thực sự giúp công ty kiếm tiền."

Khi toàn bộ ngành công nghiệp vẫn còn đắm chìm trong câu chuyện "AI sẽ thay thế mọi thứ", một vấn đề thực tế hơn đã nổi lên: hóa đơn sức mạnh tính toán, cuối cùng cũng phải có người trả. Và "Ngày tận thế Token" có lẽ chỉ là khởi đầu của cuộc thanh lý này.