BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

Hộp đen làm giảm trí thông minh, chống chưng cất dữ liệu khiến giới học thuật phẫn nộ, Anthropic mạnh tay đẩy mạnh giám sát khiến khách hàng doanh nghiệp quay lưng.

Theo giám sát của Động Sát Beating, hành vi "hạ IQ ngầm" của mô hình chủ lực Claude Fable 5 của Anthropic đã gây ra làn sóng phản đối dữ dội trong giới học thuật AI và cộng đồng nhà phát triển. Mô hình mới, dù cải thiện đáng kể hiệu năng lập trình, nhưng bị chỉ trích vì triển khai cơ chế can thiệp thầm lặng đối với các công nghệ tiên tiến.

Khi người dùng truy vấn các công nghệ nhạy cảm như pipeline tiền huấn luyện, huấn luyện phân tán hoặc thiết kế chip, hệ thống sẽ thông qua lọc prompt, steering vectors hoặc tinh chỉnh mô hình để hạn chế chất lượng đầu ra một cách ngầm, mà không thông báo cho người dùng cũng như không chuyển sang mô hình cấp thấp hơn xử lý.

Học giả Nathan Lambert đã viết bài chỉ trích gay gắt rằng việc âm thầm làm suy yếu trí thông minh của mô hình mà người dùng không hề hay biết chẳng khác nào "sự lệch lạc căn chỉnh nhân tạo". Bản chất của các quy tắc bảo mật là bức tường phòng thủ thương mại do công ty dựng lên nhằm ngăn cộng đồng mã nguồn mở thực hiện chưng cất kỹ thuật và bảo vệ bằng sáng chế riêng, dễ bị vượt qua bởi các cuộc tấn công jailbreak độc hại, nhưng lại cản trở nghiêm trọng nghiên cứu học thuật bình thường. Sự bất minh trong chính sách bảo mật kép không chỉ tước đi quyền được biết về công nghệ của người dùng, mà còn làm sâu sắc thêm sự cảnh giác và đối đầu của giới học thuật đối với sự độc quyền mã nguồn đóng của các gã khổng lồ thương mại.

Việc xé bỏ cam kết bảo mật dữ liệu càng làm gia tăng mâu thuẫn. Để giám sát các cuộc tấn công jailbreak, mô hình mới buộc phải lưu trữ dữ liệu 30 ngày đối với tất cả API thương mại và lưu lượng doanh nghiệp, trực tiếp phá vỡ thỏa thuận Zero Data Retention (ZDR) đã ký trước đó với các doanh nghiệp lớn, gây ra phản ứng dữ dội từ khách hàng thương mại.

Sự bất minh trong chính sách bảo mật kép và sự gạt bỏ hệ sinh thái mã nguồn mở đã thúc đẩy các nhà phát triển và khách hàng doanh nghiệp đổ xô sang phe mã nguồn mở, hoàn toàn ủng hộ mô hình mã nguồn mở chủ lực Nemotron 3 Ultra do NVIDIA phát hành tuần trước, nhằm chống lại sự độc quyền mã nguồn đóng của các gã khổng lồ thương mại.

举报 Báo lỗi/Báo cáo
Liên quanĐề xuất
Anthropic cho biết dự kiến sẽ không trả cổ tức trong tương lai có thể thấy trước.
Anthropic đã ký kết thỏa thuận với SpaceX, nhận được sức mạnh tính toán từ trung tâm dữ liệu của họ
Anthropic's Chief Product Officer Mike Krieger's Latest Interview
Báo lỗi/Báo cáo
Gửi
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành