Altman: OpenAI giai đoạn tiếp theo có lẽ tôi sẽ không thể kiểm soát, hoặc tìm người hoặc tạo ra AI

Dựa trên Giám sát Sự phát triển, CEO của Stripe Patrick Collison đã hỏi Sam Altman tại Stripe Sessions: Nếu OpenAI hôm nay có 100 người, sau 5 năm sẽ có bao nhiêu người? Altman trả lời: "Hy vọng là 200."

Anh ta nói rằng OpenAI đang bước vào giai đoạn thứ ba. Giai đoạn đầu tiên là phòng thí nghiệm nghiên cứu thuần túy, nói rằng tạo ra AGI nghe có vẻ như là điên rồ. Giai đoạn thứ hai thêm vào một công ty sản phẩm. Giai đoạn thứ ba muốn biến mình thành một "nhà máy thông hãng" quy mô lớn, biến trí tuệ thành cơ sở hạ tầng công cộng, cung cấp một cách rẻ và dễ dàng sử dụng nhất có thể, đòi hỏi tích hợp toàn diện từng tầng và cơ sở hạ tầng lớn. Mỗi lần chuyển đổi đều đòi hỏi thay đổi lớn về cách quản lý, anh ta nói rằng giai đoạn thứ ba có lẽ "không phải là phong cách tôi giỏi" và cần phải ent entrust vào người khác hoặc "tạo ra một trí tuệ nhân tạo để quản lý".

Collison hỏi về câu chuyện chưa công bố nổi loạn nhất của OpenAI. Altman nói rằng có đến 8 tháng giữa lúc huấn luyện và phát hành GPT-4, toàn bộ công ty sử dụng nội bộ, họ biết nó hoàn toàn khác biệt so với trước đây, nhưng bên ngoài không ai biết. Đôi khi họ tự hỏi lẫn nhau trên hành lang: "Chúng ta có bị đánh lạc cảm tập thể không?" Không có phản hồi bên ngoài nào để hiệu chuẩn đánh giá của chính họ, thời điểm đó rất kỳ lạ.

Khi nói về việc quản lý một nhóm mọi người đều cho rằng mình thông minh nhất, Altman trích dẫn một tóm tắt từ một tác giả viết cuốn sách về OpenAI: "Điểm mạnh của bạn nhất là khiến cho một nhóm mọi người đều cho rằng chỉ có chính họ mới là người giỏi nhất làm việc, làm việc đó để tạo ra sự bứt phá." Anh ta nói rằng cái giá phải trả là "nhiều đau khổ", điều quan trọng là sự đồng thuận: tất cả mọi người đều đặt cược vào quy mô, tập trung sức mạnh tính toán vào một hướng. Khi huấn luyện GPT-3, gần như toàn bộ sức mạnh tính toán của công ty đều được đặt cược vào con đường này, những nhà nghiên cứu DeepMind mà họ tiếp xúc vào thời điểm đó cho rằng phương pháp này điên rồ, sức mạnh tính toán phải được phân bổ đều cho các nhóm, nếu không, nội bộ sẽ tạo ra văn hóa cạnh tranh ác liệt để tranh giành tài nguyên. OpenAI không nghe theo, tiếp tục cược toàn bộ.