OpenAI và Anthropic sẽ lần đầu tiên thiết lập "phòng tác chiến" cho bầu cử giữa kỳ Hoa Kỳ, nhằm ứng phó với việc lan truyền thông tin sai lệch và lạm dụng nền tảng

Tin tức BlockBeats, ngày 4 tháng 11, OpenAI và Anthropic sẽ lần đầu tiên thiết lập "phòng chiến tranh" chuyên dụng cho cuộc bầu cử giữa kỳ của Mỹ, nhằm đảm bảo các nền tảng của họ cung cấp thông tin bầu cử chính xác. Người phát ngôn của Anthropic cho biết, các nhóm của công ty đã tăng cường các biện pháp bảo vệ liên quan đến bầu cử và thực thi chính sách nền tảng trong suốt cả năm, nhóm chuyên dụng được thành lập trước bầu cử sẽ giám sát các trường hợp lạm dụng nền tảng và chuẩn bị ứng phó nhanh chóng với các sự cố bất ngờ.

Cách làm thiết lập "phòng chiến tranh" bầu cử của các nền tảng công nghệ có thể truy ngược về năm 2018, khi Meta lần đầu tiên thành lập nhóm như vậy để ứng phó với sự lan truyền thông tin sai lệch về bầu cử. Ngày nay, các nền tảng còn phải đối mặt với rủi ro từ video deepfake và công cụ tìm kiếm AI lan truyền thông tin sai lệch. Báo cáo lấy ví dụ, Google AI Mode tuần trước đã không trả lời câu hỏi "Ai đã thắng cử tổng thống Mỹ năm 2020", Google cho biết đang khắc phục.

Đầu ra của AI khó dự đoán, các vấn đề an ninh mạng gần đây, cùng với xu hướng của các công cụ tìm kiếm AI thiên về chiều theo kỳ vọng của người dùng, đều làm tăng độ khó của việc giám sát và ứng phó. Cựu giám đốc chính sách công của Meta, Katie Harbath, cho biết, vai trò của "phòng chiến tranh" là khi xuất hiện các vấn đề khó lường trước, có thể nhanh chóng đánh giá và phân loại xử lý theo quy trình đã định.