Cảnh báo an ninh AI leo thang, Vua Charles III triệu tập cuộc họp với bốn ông lớn AI

Động sát Beating Tin nhanh AI, Vua Charles III của Anh sẽ triệu tập lãnh đạo cấp cao của nhiều công ty AI tại Dumfries House ở Scotland trong tuần này để thảo luận về cách phát triển và triển khai AI sao cho thực sự mang lại lợi ích cho xã hội.

Các công ty được Cung điện Buckingham liệt kê bao gồm Nvidia, Google DeepMind, OpenAI và Anthropic, Bộ trưởng AI của Anh Kanishka Narayan cũng sẽ tham dự. OpenAI đã xác nhận CFO Sarah Friar sẽ tham dự.

Cuộc họp này không phải được bổ sung tạm thời vì lời kêu gọi "giảm tốc AI" gần đây. Các sắp xếp liên quan đã được tiết lộ một tuần trước. Nhưng giờ đây nó chính thức diễn ra, đúng lúc va phải vòng tranh cãi gay gắt nhất về an toàn AI. CEO Anthropic Dario Amodei vừa yêu cầu làm chậm tốc độ nâng cao năng lực AI tiên phong, lo ngại rằng sau khi AI bắt đầu hỗ trợ phát triển thế hệ AI tiếp theo, tốc độ tiến bộ sẽ vượt qua khả năng hiểu và kiểm soát của con người. Sam Altman và Elon Musk sau đó đều công khai ủng hộ.

Cuộc họp được tổ chức với sự hỗ trợ của tổ chức phi lợi nhuận Ditchley Foundation của Anh. Các quan chức hoàng gia trước đó đã rõ ràng tuyên bố rằng Charles sẽ không thể hiện lập trường của mình về chính sách AI, vai trò của ông là triệu tập, lắng nghe và thúc đẩy thảo luận.