Tiêu đề gốc: "Nhóm Tsinghua ra mắt nền tảng mới: sử dụng AI phi tập trung để giải quyết tình trạng thiếu năng lượng tính toán"

Nguồn gốc: Qubits

Gần đây, một dữ liệu đã chỉ ra sự tăng trưởng đáng báo động về nhu cầu sức mạnh tính toán trong lĩnh vực AI. Theo ước tính của các chuyên gia trong ngành, Sora do OpenAI ra mắt cần khoảng 1 tháng đào tạo trên 4.200-10.500 NVIDIA H100 và khi mô hình được tạo đến giai đoạn suy luận, chi phí tính toán sẽ nhanh chóng vượt quá giai đoạn đào tạo.

Nếu xu hướng này tiếp tục, nguồn cung GPU có thể khó đáp ứng nhu cầu tiếp tục cho các model cỡ lớn.

Tuy nhiên, gần đây có một xu hướng mới ở nước ngoài, có thể cung cấp các giải pháp mới cho tình trạng "thiếu năng lượng tính toán" sắp tới - AI phi tập trung.

Ba tuần trước, vào ngày 23 tháng 3, Stability AI bất ngờ đưa ra thông báo thông báo về việc CEO công ty Emad Mostaque từ chức. Bản thân Emad Mostaque đã tiết lộ bước đi tiếp theo của mình là theo đuổi “giấc mơ về AI phi tập trung”.

Tuy nhiên, do sự không chắc chắn và bất ổn của các mạng phi tập trung cũng như những khó khăn và khó khăn kỹ thuật khác không thể giải quyết được, làn sóng AI phi tập trung cuối cùng rất khó đạt được. được thực hiện trong thời đại của các mô hình lớn.

Cho đến gần đây, nhóm Tsinghua đã phát hiện ra qubit, bắt đầu kinh doanh ở nước ngoài, tập trung vào AI phi tập trung và thành lập NetMind.AI. Vào năm 2023, NetMind đã phát hành sách trắng trình bày chi tiết về nền tảng chia sẻ sức mạnh điện toán phi tập trung NetMind Power. Nền tảng này nhằm mục đích giải quyết các điểm yếu của AI phi tập trung trong kỷ nguyên của các mô hình lớn.

1. Hãy để mọi nhà phát triển đủ tiền mua GPU

Vào tháng 9 năm 2021, NetMind .AI đã khởi động một dự án nền tảng điện toán phi tập trung có tên NetMind Power.

Có một lượng lớn sức mạnh tính toán nhàn rỗi trên thế giới: sức mạnh tính toán nhàn rỗi trong các trung tâm dữ liệu truyền thống, sức mạnh tính toán chưa được sử dụng thuộc sở hữu của các doanh nghiệp vừa và nhỏ, và GPU rải rác thuộc sở hữu của cá nhân. Những sức mạnh tính toán này không hoạt động hoặc được sử dụng cho trò chơi và kết xuất video. Đồng thời, sức mạnh tính toán AI ngày càng trở nên khan hiếm. Các nhà nghiên cứu AI, các doanh nghiệp vừa và nhỏ, đặc biệt là các công ty khởi nghiệp AI và các công ty truyền thống tham gia vào các dự án AI đều bị mắc kẹt bởi chi phí cao và ngưỡng cao của sức mạnh tính toán AI.

Kết quả là NetMind Power đã tạo ra một mạng điện toán phi tập trung, sử dụng công nghệ cốt lõi do NetMInd phát triển để tận dụng tài nguyên điện toán toàn cầu và cung cấp các dịch vụ điện toán AI dễ sử dụng và giá cả phải chăng cho ngành AI.

△Nhận được NetMind Power Sự lựa chọn kinh tế về sức mạnh tính toán, cung cấp cho người dùng các giải pháp tài nguyên máy tính hiệu quả và giá cả phải chăng.

Hiện tại, NetMind Power đã sưu tầm được hàng nghìn card đồ họa, bao gồm H100, A100, 4090 và 3090.

Bốn điểm nổi bật của nền tảng:

1 Cụm động lực phi tập trung

1. mạnh mẽ>——Tạo các ứng dụng AI đáng tin cậy và hiệu quả trên sức mạnh tính toán cực kỳ không chắc chắn

Nền tảng Power sử dụng công nghệ cụm phân tán động dựa trên P2P, Kết hợp với định tuyến độc đáo, thuật toán phân cụm và mạng thần kinh, nó kết hợp hàng nghìn nút điện toán thành một kiến trúc cụm mạng mạnh mẽ, đặc biệt phục vụ các nhu cầu cấp cao như ứng dụng AI.

Khi người dùng thực hiện các hoạt động liên quan đến AI trên nền tảng Power, chẳng hạn như đào tạo mô hình, tinh chỉnh hoặc suy luận, mạng phi tập trung của Power có thể nằm trong số các nút điện toán trên toàn thế giới , các tài nguyên tính toán phù hợp nhất sẽ được phân bổ nhanh chóng thông qua các thuật toán tối ưu hóa để cung cấp dịch vụ cho người dùng.

Đồng thời, Power cung cấp cho người dùng B-side các chiến lược cụm động, có thể tổ chức lại và định cấu hình các nút một cách thông minh trong vài giây, mang lại khả năng tùy chỉnh, khả năng mở rộng cao và độ dư thừa cao. Cụm chuyên dụng còn lại.

2 Hệ sinh thái AI hoàn chỉnh: Hạ thấp ngưỡng sử dụng sức mạnh tính toán và mở rộng các kịch bản ứng dụng mạng phi tập trung

Tận dụng sự tích lũy nhiều năm của NetMind trong lĩnh vực AI, Power Network sẽ bao gồm, ngoài các dịch vụ sức mạnh điện toán cơ bản, các cơ sở sinh thái AI như thư viện mô hình nguồn mở, bộ dữ liệu AI, dữ liệu và mã hóa mô hình, v.v., cũng như các dịch vụ toàn diện như đào tạo, suy luận và triển khai mô hình, tạo ra nền tảng MaaS (Mô hình như một dịch vụ) để trao quyền cho cả nhà cung cấp năng lượng điện toán và ứng dụng AI.

Đối với các dự án AI+ của các nhà nghiên cứu khoa học, doanh nghiệp vừa và nhỏ trong lĩnh vực AI và các doanh nghiệp truyền thống, nền tảng MaaS của Power sẽ giảm đáng kể ngưỡng cho sử dụng sức mạnh tính toán, đặc biệt đối với Điều này đặc biệt quan trọng đối với các doanh nghiệp vừa và nhỏ và các doanh nghiệp truyền thống chưa có năng lực phát triển AI chuyên nghiệp.

Đối với các nhà cung cấp năng lượng điện toán truyền thống, có thể tiếp cận được nhiều người dùng hơn với sự trợ giúp của Power Network. Hơn nữa, với sự trợ giúp của nền tảng MaaS của Power, họ có thể mở rộng các kịch bản ứng dụng và thu được lợi nhuận cao hơn. Bằng cách này, Power Network có thể kết hợp sức mạnh tính toán tập trung vừa và nhỏ truyền thống vào mạng sức mạnh tính toán phi tập trung, từ đó mở rộng đáng kể quy mô của mạng.

3 Thuật toán đào tạo không đồng bộ - Giải quyết các tắc nghẽn mạng và khai thác tiềm năng của sức mạnh tính toán nhàn rỗi

Trong lĩnh vực học máy hiện nay, đặc biệt là đào tạo mô hình ngôn ngữ quy mô lớn, việc đào tạo phân tán đồng bộ giữa các GPU thông qua cáp GPU chuyên dụng hoặc mạng nội bộ băng thông cao thường cần phải đạt được Tăng ngưỡng đào tạo và chi phí.

NetMind Power phá vỡ các rào cản về tốc độ và băng thông mạng trong đào tạo phân tán thông qua phân đoạn mô hình tự phát triển và công nghệ không đồng bộ dữ liệu, ngay cả khi nó được phân phối trên toàn cầu. các nút ở các góc khác nhau cũng có thể tham gia đồng thời vào công việc đào tạo mô hình khổng lồ.

4 Mã hóa mô hình và cách ly dữ liệu——Giải quyết các vấn đề bảo mật trong mạng phi tập trung

Power cung cấp công nghệ mã hóa mô hình độc đáo để đảm bảo tính bảo mật cho dữ liệu và mô hình AI của người dùng trong các tình huống điện toán tình nguyện phi tập trung. Tất cả các thông tin liên lạc trên mạng đều được mã hóa để đảm bảo tính bảo mật của việc cách ly dữ liệu và phân tách mô hình đảm bảo rằng không một nút nào trong mạng phi tập trung có thể có được dữ liệu và mô hình hoàn chỉnh, giúp cải thiện đáng kể tính bảo mật.

2. Một trường đại học Thanh Hoa khác. Nhóm nền tảng, đã khởi nghiệp ở nước ngoài trong nhiều năm

Nhóm nòng cốt của NetMind.AI đến từ Đại học Thanh Hoa và đã làm việc trong lĩnh vực AI nhiều năm hơn hơn 10 năm.

Người sáng lập và Giám đốc điều hành của công ty, Kai Zou, tốt nghiệp lớp khoa học cơ bản về toán và vật lý của Đại học Thanh Hoa năm 2010, đồng thời nhận bằng cử nhân toán và thống kê của trường. Đại học Georgetown năm 2013. Bằng thạc sĩ.

Ông là một doanh nhân nối tiếp, người đã lãnh đạo cả ProtagoLabs và tổ chức phi lợi nhuận AGI Odyssey. Anh ấy cũng là một nhà đầu tư thiên thần và đã đầu tư vào một số công ty khởi nghiệp về AI bao gồm Haiper.ai, Auto Edge, Qdot và Orbit.

Điều đáng chú ý là hiện tại, bài viết "EDA: Kỹ thuật tăng cường dữ liệu dễ dàng để tăng hiệu suất cho các nhiệm vụ phân loại văn bản" do Kai Zou và nhà nghiên cứu OpenAI Jason Wei xuất bản đã tích lũy Nó đã được trích dẫn hơn 2.000 lần. Giám đốc điều hành và nhóm của ông tin tưởng chắc chắn rằng nền tảng họ đang xây dựng sẽ cung cấp nguồn lực cho các học giả đang thực sự nghiên cứu học thuật và các kỹ sư doanh nghiệp đang thúc đẩy sự phát triển của AI.

CTO của công ty đã làm việc tại George Washington vào năm 2016 Có bằng thạc sĩ khoa học máy tính của trường đại học; trước khi gia nhập NetMind.AI, anh từng giữ chức vụ trưởng nhóm cấp cao tại Microsoft; anh có nhiều kinh nghiệm về Web3, công nghệ blockchain, hệ thống phân tán, Kubernetes, điện toán đám mây, Azure và AWS, v.v. .; Và có các kỹ năng chuyên nghiệp về điện toán biên, phát triển toàn diện và học máy.

3. Lý tưởng tối thượng: đưa AI đến hàng nghìn hộ gia đình

Sự phân cấp của NetMind Đằng sau tầm nhìn của AI thực sự là lý tưởng của công nghệ toàn diện.

Nhìn lại lịch sử phát triển của công nghệ CNTT, xu hướng phân quyền thường nổi lên như một lực lượng từ dưới lên khi mức độ tập trung tài nguyên máy tính tăng mạnh, dẫn tới. đấu tranh chống lại những gã khổng lồ đang cố gắng độc quyền mọi nguồn tài nguyên, từ đó bắt đầu một làn sóng công nghệ toàn diện mới và cho phép các công nghệ mới thực sự lan rộng đến mọi nơi trên thế giới.

Thị trường mô hình lớn ngày nay có thể đang ở thời điểm như vậy.

Nhìn vào thị trường mô hình rộng lớn, sau cả năm phát triển mạnh mẽ, chưa có nhiều startup thực sự có được chỗ đứng. Ngoại trừ một vài ngôi sao kỳ lân, tương lai của các mô hình lớn dường như đang hội tụ về những gã khổng lồ công nghệ như Microsoft, Google và Nvidia. Theo thời gian, một số công ty có thể phát triển quyền kiểm soát độc quyền về giá cả, tính sẵn có và quyền truy cập vào tài nguyên máy tính.

Tại thời điểm này, cần có một câu chuyện dân chủ hóa như NetMind Power để viết nên một kế hoạch chi tiết mới cho câu chuyện AGI.

Hiện tại, NetMind đã hợp tác trong lĩnh vực học thuật và thương mại -

Về mặt học thuật, NetMind Power hiện đã hợp tác với nhiều trường đại học hàng đầu trong và ngoài nước, trong đó có các trường đại học hàng đầu trong lĩnh vực khoa học máy tính, Đại học Cambridge, Đại học Oxford, Đại học Carnegie Mellon, Đại học Northwestern, Đại học Thanh Hoa, Đại học Khoa học và Công nghệ Huazhong, Đại học Rice , Đại học Phúc Đán, Đại học Giao thông Thượng Hải, v.v.

Khía cạnh kinh doanh, NetMind Power Với tư cách là một doanh nghiệp, chúng tôi cung cấp các giải pháp sức mạnh điện toán AI dựa trên mạng phi tập trung, cho phép doanh nghiệp tập trung vào phát triển mô hình và đổi mới sản phẩm. Ngày càng có nhiều công ty đẩy nhanh việc ra mắt các sản phẩm AI cải tiến với sự trợ giúp của Netmind Power. Ví dụ: Haiper.ai, nhóm video Vincentian gần đây đang có đà phát triển ở Bắc Mỹ, đã tích hợp sâu hoạt động đào tạo và suy luận mô hình của mình với nền tảng NetMind Power.

Trong tương lai, NetMind Power sẽ dần phát triển tham gia vào cộng đồng AI phi tập trung sẽ đẩy nhanh quá trình đổi mới AI toàn cầu.

Những người thực hành học máy, các nhà nghiên cứu hàn lâm và các công ty về ứng dụng AI có thể tìm thấy sức mạnh tính toán và các mô hình họ cần trên nền tảng NetMind Power hoặc sử dụng The các mô hình do bạn tự đào tạo được lưu trữ trên nền tảng và thậm chí còn được cung cấp cho những người dùng khác trên nền tảng với một khoản phí nhất định.

Người dùng không chỉ có thể sử dụng sức mạnh tính toán tương ứng trên nền tảng để giải quyết nhu cầu đào tạo của riêng mình mà còn có thể cung cấp các mô hình đã đào tạo của mình cho nhiều người có nhu cầu hơn thông qua nền tảng Hoặc các doanh nghiệp, được truyền qua từng lớp.

Kéo dài thời gian, để thực sự hiện thực hóa AGI, việc phổ cập và dân chủ hóa AI là điều kiện tiên quyết tất yếu. Ngày nay, NetMind.AI, công ty dẫn đầu, đang có đóng góp của riêng mình, tìm kiếm thêm đối tác và thực hiện một bước nhỏ nhưng vững chắc hướng tới kỷ nguyên AGI dân chủ.

Bài viết này là từ một bài gửi và không thể hiện quan điểm của BlockBeats.

Liên kết gốc