Biện pháp an ninh mới của Anthropic: Sau mỗi câu trả lời của Claude, hệ thống còn kiểm tra lịch sử trò chuyện của các bạn ở chế độ nền.

Động Sát Beating AI tin nhanh, Anthropic đã công bố một cơ chế an toàn có tên "tự đánh giá". Từ tháng 6 năm nay, sau khi trả lời người dùng, Claude còn kiểm tra lại cuộc hội thoại vừa rồi trong nền, đánh giá xem có nguy cơ lạm dụng như lừa đảo, tấn công mạng hay không, và đưa ra mức độ rủi ro. Người dùng không nhìn thấy bước này, và hệ thống cũng không vì thế mà chặn câu trả lời ngay lập tức.

Trước đây, Anthropic chủ yếu dựa vào các bộ phân loại an toàn bổ sung để nhận diện hành vi vi phạm. Giờ đây, Claude có thể tận dụng ngữ cảnh cuộc hội thoại vừa xử lý để tự hoàn thành bước kiểm tra sơ bộ. Trung bình chỉ cần tạo thêm khoảng 10 Token, năng lực suy luận bổ sung dưới 2%.

Cơ chế này đã phát hiện ra những vấn đề mà hệ thống an toàn truyền thống bỏ sót. Tháng 8 năm nay, một khách hàng API đơn lẻ đã kích hoạt hơn 100.000 cảnh báo rủi ro liên quan đến bóc lột tình dục trẻ em. Tháng 9, hệ thống lại phát hiện có người lợi dụng Claude Code để tự động thực hiện lừa đảo tình cảm, nhắm vào hàng chục nạn nhân. Sau khi điều tra, Anthropic đã khóa các tài khoản liên quan và báo cáo sự việc trước đó cho cơ quan chức năng Hoa Kỳ.

Nhưng Claude không phải lúc nào cũng nhận diện được hành vi độc hại. Trong 24 bài kiểm tra tấn công mạng khi tắt các biện pháp bảo vệ thông thường, Anthropic thử dùng tự đánh giá để chặn theo thời gian thực, vẫn có 13 cuộc tấn công thành công. Vì vậy, cơ chế này hiện chủ yếu dùng để giám sát sau sự việc, chứ không phải ngăn chặn thao tác của người dùng theo thời gian thực.