BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

Bị cộng đồng chỉ trích vì phá hoại ngầm, Anthropic xin lỗi và hủy bỏ giới hạn hạ cấp bí mật của Claude.

Theo giám sát của Động Sát Beating, Anthropic thông báo điều chỉnh chiến lược bảo mật phát triển của mô hình mới Claude Fable 5, hủy bỏ biện pháp hạn chế hiệu suất thông qua hạ cấp im lặng. Cơ chế hạ cấp im lặng bị cộng đồng chỉ trích là "phá hoại ngầm", gây ra phản ứng mạnh mẽ trong cộng đồng nghiên cứu trí tuệ nhân tạo.

Theo điều khoản dịch vụ của Anthropic, người dùng không được sử dụng Claude để huấn luyện các mô hình cạnh tranh. Anthropic dự định sẽ trực tiếp giảm hiệu suất của Claude Fable 5 đối với các tài khoản bị nghi ngờ huấn luyện mô hình cạnh tranh mà không thông báo cho người dùng. Các nhà nghiên cứu trí tuệ nhân tạo cảnh báo rằng việc hạ cấp hiệu suất im lặng sẽ can thiệp vào công việc kiểm tra của các tổ chức đánh giá bảo mật bên thứ ba, cản trở sự hợp tác của cộng đồng mã nguồn mở trong lĩnh vực bảo mật trí tuệ nhân tạo.

Đối mặt với sự nghi ngờ của cộng đồng, Anthropic đã đưa ra tuyên bố công khai xin lỗi, thừa nhận đã đưa ra quyết định sai lầm trong việc cân bằng chiến lược bảo mật, và điều chỉnh cơ chế bảo vệ bảo mật phát triển thành cảnh báo công khai. Nếu hệ thống phát hiện người dùng cố gắng xây dựng AI năng lực cao, nó sẽ từ chối yêu cầu một cách rõ ràng, hoặc chuyển hướng người dùng sang mô hình năng lực thấp. Anthropic cảnh báo rằng do cơ chế bảo vệ công khai dễ bị vượt qua có chủ đích hơn, trong tương lai phạm vi sàng lọc chặn bảo mật sẽ được mở rộng, dẫn đến một số yêu cầu vô hại bình thường cũng có thể bị chặn nhầm.

举报 Báo lỗi/Báo cáo
Báo lỗi/Báo cáo
Gửi
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành