Theo giám sát của Động Sát Beating, hành vi "hạ IQ ngầm" của mô hình chủ lực Claude Fable 5 của Anthropic đã gây ra làn sóng phản đối dữ dội trong giới học thuật AI và cộng đồng nhà phát triển. Mô hình mới, dù cải thiện đáng kể hiệu năng lập trình, nhưng bị chỉ trích vì triển khai cơ chế can thiệp thầm lặng đối với các công nghệ tiên tiến.
Khi người dùng truy vấn các công nghệ nhạy cảm như pipeline tiền huấn luyện, huấn luyện phân tán hoặc thiết kế chip, hệ thống sẽ thông qua lọc prompt, steering vectors hoặc tinh chỉnh mô hình để hạn chế chất lượng đầu ra một cách ngầm, mà không thông báo cho người dùng cũng như không chuyển sang mô hình cấp thấp hơn xử lý.
Học giả Nathan Lambert đã viết bài chỉ trích gay gắt rằng việc âm thầm làm suy yếu trí thông minh của mô hình mà người dùng không hề hay biết chẳng khác nào "sự lệch lạc căn chỉnh nhân tạo". Bản chất của các quy tắc bảo mật là bức tường phòng thủ thương mại do công ty dựng lên nhằm ngăn cộng đồng mã nguồn mở thực hiện chưng cất kỹ thuật và bảo vệ bằng sáng chế riêng, dễ bị vượt qua bởi các cuộc tấn công jailbreak độc hại, nhưng lại cản trở nghiêm trọng nghiên cứu học thuật bình thường. Sự bất minh trong chính sách bảo mật kép không chỉ tước đi quyền được biết về công nghệ của người dùng, mà còn làm sâu sắc thêm sự cảnh giác và đối đầu của giới học thuật đối với sự độc quyền mã nguồn đóng của các gã khổng lồ thương mại.
Việc xé bỏ cam kết bảo mật dữ liệu càng làm gia tăng mâu thuẫn. Để giám sát các cuộc tấn công jailbreak, mô hình mới buộc phải lưu trữ dữ liệu 30 ngày đối với tất cả API thương mại và lưu lượng doanh nghiệp, trực tiếp phá vỡ thỏa thuận Zero Data Retention (ZDR) đã ký trước đó với các doanh nghiệp lớn, gây ra phản ứng dữ dội từ khách hàng thương mại.
Sự bất minh trong chính sách bảo mật kép và sự gạt bỏ hệ sinh thái mã nguồn mở đã thúc đẩy các nhà phát triển và khách hàng doanh nghiệp đổ xô sang phe mã nguồn mở, hoàn toàn ủng hộ mô hình mã nguồn mở chủ lực Nemotron 3 Ultra do NVIDIA phát hành tuần trước, nhằm chống lại sự độc quyền mã nguồn đóng của các gã khổng lồ thương mại.
