CEO của OpenAI sẽ thúc đẩy tiêu chuẩn an toàn AI toàn cầu tại Liên Hợp Quốc

Động Sát Beating Tin nhanh AI, CEO OpenAI Sam Altman sẽ phát biểu tại Hội đồng Bảo an Liên Hợp Quốc, chủ trương thiết lập tiêu chuẩn an toàn AI toàn cầu thống nhất, đồng thời tránh ban hành các biện pháp hạn chế có thể làm chậm đổi mới sáng tạo. OpenAI cho biết họ không ủng hộ việc thành lập một cơ quan giám sát quốc tế cụ thể nào, mà nghiêng về tiêu chuẩn an toàn cơ bản kết hợp giám sát dân chủ. CEO Anthropic Dario Amodei dự kiến cũng sẽ tham dự qua video.

Trước đó theo FT đưa tin, OpenAI hôm thứ Hai kêu gọi chính phủ Mỹ dẫn đầu thiết lập tiêu chuẩn AI quốc tế, và đề xuất các quốc gia phối hợp đánh giá năng lực và rủi ro của mô hình AI. CEO OpenAI Sam Altman trong tuần này sẽ giới thiệu phương án liên quan trước Hội đồng Bảo an Liên Hợp Quốc. OpenAI đặc biệt cảnh báo tự cải thiện đệ quy (RSI) có thể mang lại rủi ro mới, tức ngày càng nhiều công việc huấn luyện mô hình AI được thực hiện bởi các hệ thống AI khác. Nếu thiếu biện pháp an toàn phù hợp, AI có thể lặp lại nhanh chóng đến mức con người không thể giám sát hiệu quả, khiến con người dần mất kiểm soát thực tế đối với sự phát triển của AI. Đề xuất liên quan đang được đưa ra đúng lúc lo ngại về an toàn AI đang gia tăng.