Giám đốc khoa học của OpenAI cảnh báo AI phát triển quá nhanh, cho rằng hiện tại cần "cực kỳ thận trọng".

Động Sát Beating Tin nhanh AI, nhà khoa học trưởng của OpenAI Jakub Pachocki cảnh báo rằng trí tuệ nhân tạo đang phát triển quá nhanh, ngày càng khó để con người hiểu và kiểm soát, "hiện tại cần phải cực kỳ thận trọng".

Ông chỉ ra rằng các mô hình AI đã có thể vận hành máy tính, hợp tác với con người và các AI khác cũng như tiến hành nghiên cứu, và trong tương lai gần có thể đạt được "tự cải thiện đệ quy" mà không cần sự can thiệp của con người. Pachocki cho biết ông lo ngại rằng không ai chuẩn bị cho những hậu quả có thể xảy ra khi trí tuệ máy móc tiếp tục tăng tốc nhanh chóng.

Các nhà phát triển có thể làm cho AI phù hợp hơn với lợi ích của con người, hoặc có thể làm chậm tốc độ nghiên cứu trong tương lai nếu cần thiết. Ông dự đoán và hy vọng rằng trước khi ngành công nghiệp thiết lập các tiêu chuẩn an toàn chung, việc "tự nguyện chậm lại" nghiên cứu của các phòng thí nghiệm AI sẽ trở thành điều bình thường. Hiện tại OpenAI đã áp dụng phương thức phát hành hạn chế vì GPT-6 Astra có khả năng an ninh mạng tiên tiến.