Theo giám sát của Động Sát Beating, Anthropic thông báo điều chỉnh chiến lược bảo mật phát triển của mô hình mới Claude Fable 5, hủy bỏ biện pháp hạn chế hiệu suất thông qua hạ cấp im lặng. Cơ chế hạ cấp im lặng bị cộng đồng chỉ trích là "phá hoại ngầm", gây ra phản ứng mạnh mẽ trong cộng đồng nghiên cứu trí tuệ nhân tạo.
Theo điều khoản dịch vụ của Anthropic, người dùng không được sử dụng Claude để huấn luyện các mô hình cạnh tranh. Anthropic dự định sẽ trực tiếp giảm hiệu suất của Claude Fable 5 đối với các tài khoản bị nghi ngờ huấn luyện mô hình cạnh tranh mà không thông báo cho người dùng. Các nhà nghiên cứu trí tuệ nhân tạo cảnh báo rằng việc hạ cấp hiệu suất im lặng sẽ can thiệp vào công việc kiểm tra của các tổ chức đánh giá bảo mật bên thứ ba, cản trở sự hợp tác của cộng đồng mã nguồn mở trong lĩnh vực bảo mật trí tuệ nhân tạo.
Đối mặt với sự nghi ngờ của cộng đồng, Anthropic đã đưa ra tuyên bố công khai xin lỗi, thừa nhận đã đưa ra quyết định sai lầm trong việc cân bằng chiến lược bảo mật, và điều chỉnh cơ chế bảo vệ bảo mật phát triển thành cảnh báo công khai. Nếu hệ thống phát hiện người dùng cố gắng xây dựng AI năng lực cao, nó sẽ từ chối yêu cầu một cách rõ ràng, hoặc chuyển hướng người dùng sang mô hình năng lực thấp. Anthropic cảnh báo rằng do cơ chế bảo vệ công khai dễ bị vượt qua có chủ đích hơn, trong tương lai phạm vi sàng lọc chặn bảo mật sẽ được mở rộng, dẫn đến một số yêu cầu vô hại bình thường cũng có thể bị chặn nhầm.
