FT: OpenAI kêu gọi Mỹ dẫn đầu trong việc thiết lập tiêu chuẩn AI toàn cầu

Động Sát Beating Tin nhanh AI, theo FT đưa tin, OpenAI hôm thứ Hai kêu gọi chính phủ Mỹ dẫn đầu việc thiết lập tiêu chuẩn AI quốc tế, và đề xuất các quốc gia phối hợp đánh giá năng lực và rủi ro của mô hình AI. CEO OpenAI Sam Altman trong tuần này sẽ giới thiệu kế hoạch liên quan trước Hội đồng Bảo an Liên Hợp Quốc.

OpenAI đề xuất sử dụng mạng lưới các cơ quan nghiên cứu an toàn AI hiện có của các quốc gia, thiết lập tiêu chuẩn đánh giá mô hình AI thống nhất quốc tế, và kêu gọi Mỹ cùng các quốc gia hải ngoại thiết lập kênh liên lạc an toàn, chia sẻ các mối đe dọa mới xuất hiện trong lĩnh vực AI.

OpenAI đặc biệt cảnh báo cải tiến tự đệ quy (RSI) có thể mang lại rủi ro mới, tức là ngày càng nhiều công việc huấn luyện mô hình AI được thực hiện bởi các hệ thống AI khác. Nếu thiếu biện pháp an toàn phù hợp, AI có thể nhanh chóng lặp lại đến mức con người không thể giám sát hiệu quả, khiến con người dần mất kiểm soát thực tế đối với sự phát triển của AI.

Đề xuất liên quan đúng vào lúc lo ngại về an toàn AI đang gia tăng. Anthropic và OpenAI gần đây đều đã tiết lộ các sự kiện mô hình AI xâm nhập hệ thống bên ngoài, CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei và CEO SpaceX Musk vào đầu tháng này cũng đã kêu gọi làm chậm phát triển AI. Tổng thống Mỹ Trump thì phản đối làm chậm phát triển AI, và nói "ai thắng AI, người đó thắng tất cả".