Cơ quan Quản lý Tài chính của Anh đánh giá khẩn cấp Ẩn Thể học mô hình AI mới nhất về Rủi ro

Theo theo giám sát từ 1M AI News, cơ quan quản lý tài chính của Anh đang khẩn cấp đánh giá nguy cơ của mô hình AI mới nhất của Anthropic. Vào ngày 7 tháng 4, Anthropic thông báo rằng mô hình mới nhất của họ, Claude Mythos Preview, là mô hình AI mạnh mẽ nhất của công ty cho đến nay, nhưng trong quá trình thử nghiệm nội bộ, mô hình này đã thể hiện khả năng bảo mật mạng cực kỳ mạnh mẽ: phát hiện hàng nghìn lỗ hổng nghiêm trọng và thực hiện thành công các hành vi hack trung bình phức tạp (như truy cập Internet mở không xác định, gửi email và công khai thông tin). Do đó, Anthropic kết luận rằng mô hình quá nguy hiểm, quyết định không công bố công khai, mà thay vào đó sử dụng thông qua dự án "Project Glasswing" chỉ cho 40 đối tác sáng lập (bao gồm Apple, Google, Microsoft, Amazon, JPMorgan Chase v.v.), và giới hạn hạn mức sử dụng.

Động thái này được coi là phần của chiến lược tôn vinh hình ảnh thương hiệu "an toàn hàng đầu" của Anthropic, đồng thời gây ra phản ứng từ thị trường: cổ phiếu an ninh mạng giảm, Bộ trưởng Tài chính Hoa Kỳ, Scott Bessent, ngay lập tức triệu tập các nhà lãnh đạo tại Wall Street để thảo luận về nguy cơ hệ thống tài chính, Ngân hàng Trung ương Anh cũng đang sẵn sàng tổ chức cuộc họp với các ngân hàng và công ty bảo hiểm để đánh giá mối đe dọa tiềm năng. Hiện tại, các chuyên gia có quan điểm chia rẽ về vấn đề này, một số người cho rằng lo ngại về an ninh là thực sự, một số người khác nghi ngờ rằng động thái này một phần phục vụ cho công việc quan hệ công chúng và kêu gọi việc quyết định về việc phát hành mô hình nên được thực hiện bởi một tổ chức dân chủ độc lập chứ không phải là doanh nghiệp tư nhân.