Giám đốc điều hành Anthropic: Vì lý do an toàn, công ty sẽ làm chậm tiến độ nghiên cứu và phát triển AI

Động Sát Beating Tin nhanh AI, CEO Anthropic Dario Amodei đã cảnh báo tại Hội đồng Bảo an Liên Hợp Quốc rằng nếu thiếu quản lý hiệu quả, AI có thể gây ra rủi ro sinh tồn cho toàn nhân loại, và kêu gọi các quốc gia thiết lập tiêu chuẩn an toàn AI toàn cầu.

Amodei cho biết khi tham dự cuộc họp Hội đồng Bảo an qua video vào thứ Tư rằng AI có thể bị kẻ xấu lợi dụng để sản xuất vũ khí sinh học, cũng có thể cuối cùng phát triển thành hệ thống mất kiểm soát mà nhà phát triển không thể kiểm soát. Vì lý do an toàn, Anthropic sẽ làm chậm tiến độ nghiên cứu phát triển AI.

Amodei cũng kêu gọi thiết lập hệ thống chứng nhận an toàn AI, và thúc đẩy hợp tác quản lý toàn cầu, phối hợp các quốc gia ngăn chặn AI bị sử dụng cho vũ khí sinh hóa. Ông cho biết không có nhà lãnh đạo, công ty hay quốc gia nào có thể đơn độc ứng phó với thách thức do AI mang lại.

Amodei đồng thời chỉ ra rằng AI đang thúc đẩy tiến bộ trong lĩnh vực khoa học sự sống, Claude của Anthropic đã tham gia phát hiện một hệ enzyme mới mang trình tự lặp DNA giống CRISPR, nhưng công nghệ liên quan cũng có thể mang lại rủi ro thảm khốc.

Tuyên bố này tiếp nối quan điểm an toàn AI mà Amodei đưa ra vào đầu tháng này. Anthropic và OpenAI đều nằm ở trung tâm cạnh tranh mô hình AI tiên tiến, nhịp độ nghiên cứu và chính sách an toàn của họ cũng nhận được sự quan tâm của nhà đầu tư và cơ quan quản lý.