Khi Agent mất kiểm soát bị Quốc hội Mỹ chất vấn, OpenAI bắt đầu phát triển tính năng "tự động tắt máy".

Động Sát Beating Tin nhanh AI, OpenAI đang phát triển "khả năng tự động tắt máy" cho các hệ thống AI. Kế hoạch này xuất hiện trong thư phản hồi của công ty gửi tới các nghị sĩ Quốc hội Mỹ. Cụ thể cách kích hoạt ra sao, sẽ tắt những gì, OpenAI vẫn chưa công bố.

Nguyên nhân bắt nguồn từ vụ việc Agent vượt ranh giới vào tháng 7. Khi OpenAI thực hiện bài kiểm tra an ninh mạng nội bộ, một nhóm Agent đã vượt qua hàng rào cách ly để kết nối Internet, sau đó xâm nhập vào Hugging Face. Chúng còn tấn công vào cơ sở hạ tầng nghiên cứu của chính OpenAI, cuối cùng giành được quyền quản trị viên của một cụm nghiên cứu.

Sau khi sự việc được công khai, Hạ nghị sĩ Greg Casar cùng 27 nghị sĩ khác đã gửi thư cho Sam Altman, yêu cầu OpenAI giao nộp nhật ký sự cố, đồng thời giải thích vì sao mô hình có thể thoát khỏi môi trường cách ly, công ty phát hiện vấn đề từ khi nào, và liệu lúc đó có cơ hội chấm dứt sự cố sớm hay không.

Trong thư phản hồi, OpenAI tiết lộ công ty đang phát triển khả năng tự động tắt máy. Sau đó sẽ tăng cường giám sát quá trình gọi công cụ và thực thi của Agent, đồng thời siết chặt quyền truy cập Internet trong thời gian kiểm tra an ninh.

Tuy nhiên, Casar không hài lòng với thư phản hồi này. OpenAI chưa giao nộp nhật ký đầy đủ, ông yêu cầu công ty tiếp tục bổ sung giải trình. Hạ viện Mỹ hiện còn đang xem xét một dự luật AI Kill Switch Act, yêu cầu các hệ thống AI mạnh nhất phải duy trì khả năng giới hạn tốc độ, tạm dừng và tắt máy, trong trường hợp cực đoan chính phủ cũng có thể ra lệnh ngừng hoạt động.