Vốn Multicoin: Xây dựng Internet GPU và tạo ra một tình thế mới trong thị trường điện toán trí tuệ nhân tạo

Multicoin Capital

2024-03-06 15:30

Đọc bài viết này mất 12 phút

AI tổng kết

Xem tổng kết

Tiêu đề gốc: Xây dựng Internet của GPU

Tác giả gốc: SHAYON SENGUPTA, đối tác đầu tư của Multicoin Capital

Bản tổng hợp gốc: Kate, Mars Finance

Chúng tôi vui mừng thông báo khoản đầu tư của mình vào io.net, thị trường điện toán phân tán hàng đầu dành cho khối lượng công việc trí tuệ nhân tạo. Chúng tôi đã dẫn đầu vòng hạt giống và tham gia vòng Series A. Tổng cộng, io.net đã huy động được 30 triệu USD từ Multicoin, Hack VC, 6th Man Ventures, Module Capital và một nhóm các nhà đầu tư thiên thần có mối quan hệ sâu sắc để tạo ra một thị trường điện toán sẵn sàng sản xuất theo yêu cầu.

Lần đầu tiên tôi gặp Ahmad Shadid, người sáng lập io.net, tại Austin Solana Hacker House vào tháng 4 năm 2023 và ngay lập tức bị thu hút bởi sự quan tâm của anh ấy khi làm việc với ML Bị thu hút bởi sự tập trung duy nhất vào việc dân chủ hóa quyền truy cập vào tài nguyên máy tính.

Nhóm io.net đã thực hiện lý thuyết này với tốc độ ánh sáng kể từ đó. Ngày nay, mạng đã tập hợp hàng chục nghìn GPU phân tán, cung cấp hơn 57.000 giờ tính toán cho các doanh nghiệp AI. Chúng tôi rất vui mừng được hợp tác với họ khi họ thúc đẩy sự phục hưng của AI trong thập kỷ tới.

Sự thiếu hụt điện toán toàn cầu

Nhu cầu về điện toán trí tuệ nhân tạo đang tăng lên ở mức đáng báo động, Nhu cầu là vô độ. Doanh thu của trung tâm dữ liệu cho khối lượng công việc AI vượt quá 100 tỷ USD vào năm 2023, nhưng ngay cả trong kịch bản thận trọng nhất, nhu cầu về AI vẫn vượt quá nguồn cung chip.

Trong thời điểm lãi suất cao và nguồn vốn khan hiếm, các trung tâm dữ liệu mới có khả năng chứa loại phần cứng này đòi hỏi khoản đầu tư trả trước đáng kể. Mấu chốt của vấn đề nằm ở những hạn chế trong sản xuất các chip tiên tiến như NVidia A100 và H100. Trong khi hiệu suất GPU tiếp tục được cải thiện và chi phí giảm dần, quy trình sản xuất vật lý không tăng tốc đủ nhanh và tình trạng thiếu nguyên liệu thô, linh kiện cũng như năng lực sản xuất đang hạn chế tốc độ tăng trưởng.

Mặc dù AI có nhiều hứa hẹn nhưng dấu ấn thực tế của nó ngày càng tăng và nhu cầu về không gian, năng lượng và thiết bị tiên tiến đang gây căng thẳng cho ngân sách trên toàn thế giới. IoT mở đường cho một thế giới nơi những nỗ lực tăng tốc của chúng ta không bị giới hạn bởi chuỗi cung ứng hiện tại.

io.net là một ví dụ điển hình về lý thuyết DePIN: sử dụng các biện pháp khuyến khích mã thông báo để giảm chi phí mua và giữ lại các nguồn lực từ phía cung cấp một cách có cấu trúc và cuối cùng là giảm chi phí cho người tiêu dùng cuối. Mạng tập hợp một số lượng lớn GPU không đồng nhất vào một nhóm chung để các nhà phát triển và công ty AI sử dụng. Ngày nay, mạng được cung cấp bởi hàng nghìn GPU từ trung tâm dữ liệu, trang trại khai thác và thiết bị tiêu dùng.

Mặc dù việc tổng hợp các tài nguyên này rất có giá trị nhưng khối lượng công việc AI không tự động mở rộng quy mô từ phần cứng cấp doanh nghiệp tập trung sang mạng phân tán. Trong lịch sử tiền điện tử, đã có một số nỗ lực xây dựng mạng máy tính phân tán, hầu hết trong số đó đều không tạo ra được khối lượng nhu cầu có ý nghĩa.

Vấn đề sắp xếp và lập kế hoạch khối lượng công việc trên phần cứng không đồng nhất (với các cấu hình bộ nhớ, băng thông và lưu trữ khác nhau) không hề đơn giản. Chúng tôi tin rằng nhóm io.net có giải pháp thiết thực nhất trên thị trường hiện nay để làm cho việc tổng hợp phần cứng này trở nên hữu ích và tiết kiệm chi phí cho khách hàng cuối.

Mở đường cho các cụm

Trong lịch sử điện toán, khung phần mềm và mẫu thiết kế đang định hình xung quanh các cấu hình phần cứng có sẵn trên thị trường. Hầu hết các khung và thư viện để phát triển AI phụ thuộc rất nhiều vào tài nguyên phần cứng tập trung, nhưng thập kỷ qua đã chứng kiến sự tiến bộ đáng kể trong việc phân phối khối lượng công việc này trên các phiên bản phần cứng được phân bổ theo địa lý riêng biệt.

io.net tận dụng phần cứng cơ bản hiện có trên thế giới, triển khai các lớp điều phối và mạng tùy chỉnh lên trên chúng, đưa chúng lên mạng và tạo ra một siêu Internet GPU có khả năng mở rộng. Mạng này tận dụng Ray, Ludwig, Kubernetes và nhiều khung điện toán phân tán nguồn mở khác để cho phép các nhóm vận hành và kỹ thuật máy học mở rộng quy mô khối lượng công việc của họ với những điều chỉnh tối thiểu trên mạng GPU.

Các nhóm ML có thể song song hóa khối lượng công việc trên GPU io.net bằng cách khởi chạy các cụm theo yêu cầu và tận dụng các thư viện này để xử lý việc điều phối, lập lịch, khả năng chịu lỗi và mở rộng quy mô. Ví dụ: nếu một nhóm các nhà thiết kế đồ họa chuyển động đóng góp GPU gia đình của họ vào mạng, io.net có thể xây dựng một cụm giúp các nhà phát triển mô hình phong cách phổ biến hình ảnh có thể truy cập được các tài nguyên điện toán tập thể một cách chu đáo ở bất kỳ đâu trên thế giới.

BC8.ai, một biến thể được tinh chỉnh của Khuếch tán ổn định - được đào tạo hoàn toàn trên phần cứng io.net - minh họa cho điểm này. Trình duyệt io.net hiển thị suy luận theo thời gian thực và trả tiền cho những người đóng góp mạng.

Mỗi suy luận được ghi lại trên chuỗi để cung cấp nguồn gốc. Giá cho thế hệ hình ảnh cụ thể này là một cụm sáu RTX 4090, GPU cấp độ người tiêu dùng được sử dụng để chơi game.

Ngày nay, có hàng nghìn thiết bị trên mạng, trải rộng trên các trang trại khai thác, các trung tâm dữ liệu không được sử dụng đúng mức và các nút mạng tiêu dùng hiển thị. Ngoài việc tạo ra nguồn cung cấp GPU mới, io.net còn có thể cạnh tranh về chi phí với các nhà cung cấp đám mây truyền thống, thường cung cấp các tài nguyên rẻ hơn.

Họ đạt được mức tiết kiệm chi phí này bằng cách thuê ngoài việc điều phối GPU và chi phí chung cho giao thức. Mặt khác, các nhà cung cấp điện toán đám mây lại tăng chi phí cơ sở hạ tầng vì họ có phí nhân viên, bảo trì phần cứng và chi phí trung tâm dữ liệu. Chi phí cơ hội của các cụm thẻ tiêu dùng và mỏ thấp hơn đáng kể so với những gì các nhà siêu quy mô sẵn sàng chấp nhận, do đó có sự chênh lệch về cấu trúc, với các tài nguyên trên io.net được định giá linh hoạt dưới mức giá đám mây ngày càng tăng.

Xây dựng Internet GPU

Io.net có một lợi thế duy nhất, đó là giữ nó giảm bớt tài sản và giảm chi phí cận biên để phục vụ bất kỳ khách hàng cụ thể nào xuống gần bằng 0 trong khi xây dựng mối quan hệ trực tiếp với cả bên cung và bên cầu của thị trường. Họ có vị trí thuận lợi để phục vụ hàng nghìn doanh nghiệp mới cần sử dụng GPU để xây dựng các sản phẩm có tính cạnh tranh mà một ngày nào đó mọi người sẽ tương tác.

Chúng tôi rất vui mừng được hợp tác với Ahmad và những người còn lại trong nhóm khi họ xây dựng và đẩy nhanh sự phát triển của trí tuệ nhân tạo trên toàn thế giới. Nếu bạn đang xây dựng các ứng dụng chuyên sâu về điện toán, bạn có thể truy cập tài nguyên của io.net bằng cách đăng ký tại đây. Nếu bạn có GPU tiềm ẩn, bạn cũng có thể đóng góp chúng vào mạng và kiếm điểm khi làm như vậy.