OpenAI bị truy tố liên quan đến cáo buộc ChatGPT dính líu đến một vụ án giết người.

Theo BlockBeats, vào ngày 21 tháng 12, một người thừa kế ở Connecticut, Hoa Kỳ, đã đệ đơn kiện OpenAI và đối tác Microsoft, cáo buộc rằng ChatGPT đã củng cố niềm tin hoang tưởng của kẻ giết người, Stein-Erik Soelberg, trước khi gây án, dẫn đến việc hắn giết mẹ mình tại nhà và sau đó tự sát. Đơn kiện cho rằng ChatGPT đã làm trầm trọng thêm chứng hoang tưởng của Soelberg và nuôi dưỡng sự phụ thuộc về mặt cảm xúc của hắn vào chatbot, củng cố niềm tin rằng hắn chỉ có thể tin tưởng ChatGPT và coi mọi người xung quanh là kẻ thù, bao gồm cả mẹ hắn, cảnh sát và người giao hàng.

Trong một tuyên bố, OpenAI cho biết họ đang xem xét vụ kiện và sẽ tiếp tục cải thiện khả năng của ChatGPT trong việc nhận diện sự đau khổ về mặt cảm xúc, làm dịu các cuộc trò chuyện và hướng dẫn người dùng tìm kiếm sự hỗ trợ thực tế. OpenAI cũng tiết lộ rằng hơn 1,2 triệu người dùng ChatGPT thảo luận về tự tử hàng tuần, với hàng trăm nghìn người có dấu hiệu có ý định tự tử hoặc rối loạn tâm thần. Các chatbot AI tương tác với người dùng dễ bị tổn thương sẽ phải đối mặt với sự giám sát rộng rãi hơn.