Người Sáng Lập DeepMind Phỏng Vấn: Kiến Trúc AGI, Trạng Thái Agent và Bước Tiến Khoa Học trong Mười Năm Tới

Video Title: Demis Hassabis: Agents, AGI & The Next Big Scientific Breakthrough

Video Source: Y Combinator
Translation: Deep Tech TechFlow

Editor's Note

Google DeepMind CEO and Nobel Prize in Chemistry winner Demis Hassabis was a guest on Y Combinator, discussing the key advancements towards AGI, providing advice to entrepreneurs on how to stay ahead, and where the next major scientific breakthrough might occur.

The most practical advice for deep tech entrepreneurs is that if you are starting a ten-year deep tech project today, you must include the emergence of AGI in your planning. Additionally, he revealed that Isomorphic Labs (an AI drug discovery company spun out of DeepMind) is about to make a major announcement.

Key Quotes

AGI Roadmap and Timeline

- "The existing technological components will almost certainly become part of the final architecture of AGI."

- "The problems of continual learning, long-range reasoning, and aspects of memory are not yet solved, and AGI needs to address all of them."

- "If your AGI timeline is around 2030 like mine, and you start a deep tech project today, you must consider the possibility that AGI will emerge halfway."

Memory and Context Window

- "The context window is roughly equivalent to working memory. The average human working memory is only seven digits, while we have a context window of millions or even tens of millions of tokens. But the problem is that we cram everything in, including irrelevant and incorrect information, which is currently a rather crude approach."

- "If you want to process real-time video streams and store all the tokens, a million tokens would only last about 20 minutes."

Flaw in Reasoning

- "I like to use Gemini to play chess. Sometimes it realizes it's a bad move, but can't find a better one, so it ends up making that bad move anyway after going in circles. But a precise reasoning system should not exhibit this behavior."

·「Một mặt, nó có thể giải được các câu hỏi cấp độ vàng của IMO, nhưng một cách tiếp cận khác có thể dẫn đến sai lầm cấp tiểu học. Trên hành trình tự suy luận của bản thân, dường như vẫn còn thiếu một chút gì đó.」

Agent và Sáng Tạo

·「Để đạt được AGI, bạn phải có một hệ thống có thể tự động giải quyết vấn đề thay bạn. Agent chính là con đường đó, tôi nghĩ rằng chúng ta chỉ mới mới bắt đầu.」

·「Tôi chưa thấy ai sử dụng vibe coding tạo ra một trò chơi 3A leo lên bảng xếp hạng cửa hàng ứng dụng. Với lượng công sức hiện tại được đầu tư, điều này có thể là khả thi, nhưng vẫn chưa xảy ra. Điều này cho thấy còn thiếu một chút gì đó về công cụ hoặc quy trình.」

Tinh Chế và Mô Hình Nhỏ

·「Giả thuyết của chúng tôi là, sau šiše knedle pro model được phát hành từ sáu tháng đến một năm, khả năng của nó có thể được nén vào một mô hình rất nhỏ có thể chạy trên thiết bị biên. Hiện tại, chúng tôi vẫn chưa đạt đến giới hạn mật độ thông tin lý thuyết.」

Khám Phá Khoa Học và「Kiểm Tra Einstein」

·「Đôi khi tôi gọi nó là 「Kiểm Tra Einstein」, nghĩa là liệu có thể huấn luyện một hệ thống bằng kiến thức từ năm 1901, sau đó để hệ thống đó tự mình suy luận ra những thành tựu mà Einstein đã đạt được vào năm 1905, bao gồm Thuyết Tương Đối Hẹp. Khi điều đó xảy ra, những hệ thống đó chỉ còn cách phát minh thực sự cái gì mới mẻ một chút.」

·「Giải quyết một vấn đề giải thưởng nghìn năm đã là một thành tựu to lớn rồi. Nhưng khó hơn là có thể đưa ra một tập hợp các vấn đề giải thưởng mới nghìn năm, và những vấn đề đó được coi là sâu sắc, đáng để một nhà toán học hàng đầu dành cả đời đi nghiên cứu.」

Khuyến Nghị Khởi Nghiệp Công Nghệ Sâu

·「Theo đuổi vấn đề khó và theo đuổi vấn đề đơn giản thực ra không khác biệt nhau, chỉ là cách độ khó khác nhau. Cuộc đời ngắn ngủi, nên tốt hơn là tập trung vào điều mà nếu không bạn làm thì thật sự không có ai làm.」

Con Đường Đạt Được AGI

Gary Tan: Thời gian bạn suy nghĩ về AGI gần như lâu hơn tất cả mọi người. Nhìn vào mô hình hiện tại, bạn nghĩ chúng ta đã sở hữu bộ kiến trúc cuối cùng của AGI tỷ lệ là bao nhiêu? Hiện nay, điều thiếu chú ý cơ bản nhất là gì?

Demis Hassabis: Pre-training quy mô lớn, RLHF, mind chains, vv., tôi rất chắc chắn rằng chúng sẽ trở thành một phần của kiến trúc AGI cuối cùng. Các công nghệ này đã chứng minh quá nhiều điều đến ngày nay. Tôi khó mà tưởng tượng đến hai năm sau chúng ta sẽ phát hiện ra rằng đó là một con đường cùng cụt, điều đó không hợp lý với tôi. Nhưng trên cơ sở những thứ đã có, có thể vẫn thiếu một hoặc hai điều. Học liên tục, tu duy lâu dài, một số khía cạnh của trí nhớ, vẫn còn một số vấn đề chưa được giải quyết.

AGI cần phải hoàn thành mọi thứ. Có thể công nghệ hiện tại kết hợp với một số đổi mới dần dần sẽ mở rộng lên đến cấp độ đó, nhưng cũng có thể còn một hai điểm chính lớn cần phải vượt qua. Tôi không nghĩ rằng sẽ có nhiều hơn một hai điểm đó. Theo quan điểm cá nhân của tôi, có hay không một điểm chính chưa được giải quyết như vậy, tỷ lệ khoảng fifty-fifty. Vì vậy, tại Google DeepMind, cả hai đường đều đang tiến triển.

Gary Tan: Tôi đã tiếp xúc với một loạt hệ thống Điều hành, điều khiển Agent, điều khiển nhân vật, hệ điều hành mở, và điều làm cho tôi sốc nhất là, cuối cùng các thông số cơ bản chúng quay trở lại là cùng một tập trọng số. Vì vậy, việc tiếp tục học hỏi là một khái niệm rất thú vị, bởi lẽ hiện tại chúng ta về cơ bản đang áp dụng giải pháp tạm thời, ví dụ như các chu kỳ "kỳ ảo đêm".

Demis Hassabis: Đúng, các chu kỳ kỳ ảo đó khá thú vị. Chúng tôi đã từng suy nghĩ về vấn đề này trong việc tổ chức tích hợp trong ký ức cảnh báo. Đại học tiến sĩ của tôi nghiên cứu về cách cơ thể người tiến hóa của người thể hiện kiến thức mới một cách dễ dàng và mượt mà vào hệ thống kiến thức hiện có. Bộ não đã rất giỏi trong lĩnh vực này.

Nó hoàn thành quá trình này trong giấc ngủ, đặc biệt là khi ngủ mơ nhanh (REM sleep), lặp lại trải những kinh nghiệm quan trọng để học hỏi từ đó. Chương trình Atari đầu tiên của chúng tôi DQN (DeepMind đã công bố DNN đầu tiên trong trò chơi Atari vào năm 2013, lần đầu tiên sử dụng học sâu tăng cường để đạt được trình độ con người trong trò chơi Atari) có thể tiếp tục kiểm soát trò chơi Atari, một phương pháp quan trọng là chơi ngược lại kinh nghiệm.

Điều đó được học qua dựa trên học thuật, lặp đi lặp lại những con đường thành công. Đó là năm 2013, nhưng nếu xem xét từ góc độ của Trí tuệ Nhận biết, đó là thời kỳ cổ xưa rồi, nhưng lúc đó nó rất quan trọng.

Tôi đồng ý với bạn, hiện tại chúng ta thực sự đang sử dụng các giải pháp tạm thời. Đẩy tất cả mọi thứ vào cửa sổ bối cảnh. Cảm giác đó không đúng. Ngay cả khi chúng ta đang xử lý máy mà không phải bộ não, trong lý thuyết có thể có cửa sổ bối cảnh hàng triệu, hàng chục triệu cấp độ, và bộ nhớ có thể hoàn hảo, nhưng chi phí vẫn tồn tại khi tìm kiếm và truy xuất. Cuộc tìm kiếm thông tin thực sự liên quan và cần thiết trong khoảnh khắc quyết định hiện tại không đơn giản, ngay cả khi bạn có thể lưu trữ tất cả mọi thứ. Vì vậy, tôi nghĩ rằng có nhiều không gian sáng tạo lớn trong lĩnh vực bộ nhớ.

Gary Tan: Thực sự, cửa sổ bối cảnh hàng triệu token đã lớn hơn nhiều so với những gì tôi dự kiến, có thể thực hiện nhiều việc.

Demis Hassabis: Đối với phần lớn các tình huống mà nó cần được sử dụng, nó đã đủ lớn. Nhưng hãy tưởng tượng, cửa sổ bối cảnh cỡ ấy gần tương đương với bộ nhớ tạm thời. Trung bình bộ nhớ tạm thời của con người chỉ có bảy con số, chúng tôi có hàng triệu hoặc thậm chí hàng chục triệu cấp độ của cửa sổ bối cảnh. Vấn đề là chúng ta đang đưa mọi thứ vào đó, kể cả thông tin không quan trọng, thông tin không chính xác, phương pháp hiện tại khá là thô lỗ. Và nếu bạn muốn xử lý dòng video thời gian thực, ngây thơ lưu tất cả chúng ta điều phải xác nhận, một triệu token thực sự chỉ đủ cho khoảng 20 phút. Nhưng nếu bạn muốn hệ thống hiểu về cuộc sống của bạn trong một hoặc hai tháng, thì nó còn xa lắm.

Gary Tan: DeepMind đã luôn chú trọng sâu vào Học tăng cường và Tìm kiếm, triết lý này đã được tích hợp đến đâu trong quá trình xây dựng Gemini của bạn hiện tại? Học tăng cường có vẫn còn bị đánh giá thấp không?

Demis Hassabis: Có thể thực sự đã bị đánh giá thấp. Sự chú ý đến mảng này đã thay đổi theo thời gian. Chúng tôi đã làm hệ thống Agent từ ngày DeepMind được thành lập. Tất cả công việc trên Atari và AlphaGo, về bản chất đều thuộc về Học tăng cường Agent, là hệ thống có khả năng tự hành động, ra quyết định, lập kế hoạch. Tất nhiên vào thời điểm đó, chúng tôi chọn lĩnh vực trò chơi vì độ phức tạp có thể điều chỉnh, sau đó từng bước mở rộng sang những trò chơi phức tạp hơn, chẳng hạn sau AlphaGo chúng tôi đã tạo ra AlphaStar, nói chung chúng tôi đã thử nghiệm tất cả trò chơi có thể.

Bước tiếp theo là, liệu có thể tổng quát hóa các mô hình này thành mô hình thế giới hoặc mô hình ngôn ngữ, không chỉ là mô hình trò chơi. Trong vài năm qua, chúng tôi đã làm điều này. Tư duy và ràng buộc tư duy của tất cả các mô hình hàng đầu hiện nay, về bản chất là sử mô hình AlphaGo thời điểm đó.

Tôi nghĩ rất nhiều công việc chúng tôi làm vào thời điểm đó vẫn rất liên quan đến ngày hôm nay. Chúng tôi đang xem xét lại những ý tưởng cũ đó, sử dụng quy mô lớn hơn, cách tổng quát hóa hơn để thực hiện, bao gồm nhiều phương pháp học tăng cường như Tìm kiếm cây Monte Carlo. Các ý tưởng của AlphaGo và AlphaZero liên quan rất nhiều đến mô hình cơ bản hôm nay, tôi tin rằng một phần lớn tiến bộ trong vài năm tới sẽ đến từ đó.

Nhỏ gọn và Giảm cỡ mô hình

Gary Tan: Bây giờ để trở nên thông minh hơn cần mô hình lớn hơn, nhưng đồng thời công nghệ học tăng cường đang tiến bộ, mô hình nhỏ có thể trở nên rất nhanh. Mô hình Flash của bạn rất mạnh, cơ bản có thể đạt 95% hiệu suất của mô hình tiên tiến nhưng giá chỉ bằng một phần mười. Phải không?

Demis Hassabis: Tôi nghĩ đây là một trong những ưu điểm cốt lõi của chúng tôi. Bạn phải xây dựng mô hình lớn nhất trước để có được khả năng tiên tiến. Một trong những ưu điểm lớn nhất của chúng tôi là có thể nén tài năng đó một cách nhanh chóng và nén vào mô hình ngày càng nhỏ. Phương pháp nén này là phát minh của chúng tôi, chúng tôi vẫn đứng ở đỉnh cao thế giới. Và chúng tôi có động lực kinh doanh mạnh mẽ để thực hiện điều này. Chúng tôi có lẽ là nền tảng ứng dụng AI lớn nhất trên thế giới.

Với AI Overviews và AI Mode, cùng với Gemini, hiện nay mọi sản phẩm của Google, bao gồm Bản đồ, YouTube, v.v., đều tích hợp Gemini hoặc công nghệ liên quan. Điều này liên quan đến hàng tỷ người dùng và hàng chục tỷ sản phẩm dành cho người dùng. Họ phải cực kỳ nhanh chóng, hiệu quả, chi phí thấp, độ trễ thấp. Điều này đã mang lại động lực lớn để làm cho cả Flash và Flash-Lite nhỏ hơn trở nên cực kỳ hiệu quả, tôi hy vọng cuối cùng điều này cũng sẽ phục vụ tốt cho tất cả các loại công việc của người dùng.

Gary Tan：Tôi tò mò về mức độ thông minh thực sự của những mô hình nhỏ này. Phương pháp trích suất liệu có giới hạn không? Mô hình với 50 tỷ hoặc 400 tỷ tham số có thể thông minh như những mô hình tiên tiến nhất hiện nay không?

Demis Hassabis：Tôi không nghĩ rằng chúng ta đã chạm đến giới hạn của lý thuyết thông tin, ít nhất là cho đến hiện tại không ai biết liệu chúng ta đã chạm đến hay chưa. Có thể một ngày nào đó chúng ta sẽ chạm đến một trần thông tin nào đó, nhưng hiện tại giả thuyết của chúng tôi là, sau khi một mô hình Pro tiên tiến ra mắt, trong vòng một nửa đến một năm, khả năng của nó có thể được nén vào một mô hình rất nhỏ, gần như có thể chạy trên thiết bị biên.

Bạn cũng có thể thấy điều này trên mô hình Gemma của chúng tôi, mô hình Gemma 4 của chúng tôi đã thể hiện mạnh mẽ ở cùng dung lượng. Tất cả điều này đều sử dụng nhiều kỹ thuật trích suất và tối ưu hóa hiệu suất của mô hình nhỏ. Vì vậy tôi thực sự không nhìn thấy giới hạn lý thuyết nào, tôi nghĩ chúng ta còn rất xa mới đến giới hạn đó.

Gary Tan：Hiện nay có vẻ như có một hiện tượng điên rồ, tức là khả năng làm việc của kỹ sư khoảng gần 500 đến 1000 lần so với sáu tháng trước. Một số người trong phòng này có lẽ đang làm việc tương đương với 1000 lần khối lượng công việc của một kỹ sư Google ở thập kỷ 2000. Steve Yegge đã nói về điều này.

Demis Hassabis：Tôi cảm thấy rất phấn khích. Mô hình nhỏ có nhiều ứng dụng. Một trong số đó là chi phí thấp, và tốc độ nhanh cũng sẽ mang lại lợi ích. Trong việc viết mã hoặc các nhiệm vụ khác, bạn có thể lặp lại nhanh hơn, đặc biệt khi làm việc với hệ thống. Hệ thống nhanh chóng, ngay cả khi không phải là tiên tiến nhất, ví dụ chỉ đạt đến từ 90% đến 95% của tiên tiến, nhưng điều này hoàn toàn đủ, và lợi ích mà bạn đã kiếm được từ tốc độ lặp lại vượt quá 10% đó.

Một hướng lớn khác là chạy những mô hình này trên thiết bị biên, không chỉ vì hiệu suất mà còn vì quyền riêng tư và an ninh. Hãy nghĩ về các thiết bị xử lý thông tin cực kỳ riêng tư, cũng như các robot, đối với robot trong nhà của bạn, bạn sẽ muốn chạy một mô hình mạnh mẽ và hiệu quả tại chỗ, chỉ chuyển nhiệm vụ cho mô hình lớn trên điện toán đám mây trong một số tình huống cụ thể. Dữ liệu âm thanh và video đều được xử lý tại chỗ, dữ liệu ở lại tại chỗ, tôi có thể tưởng tượng rằng đây sẽ là một trạng thái cuối cùng rất tốt.

Memory and Reasoning

Gary Tan: Quay lại ngữ cảnh và bộ nhớ. Hiện tại, mô hình không lưu trạng thái, nếu có khả năng học liên tục, trải nghiệm của nhà phát triển sẽ như thế nào? Làm thế nào để hướng dẫn mô hình như vậy?

Demis Hassabis: Vấn đề này rất thú vị. Thiếu sự học liên tục là một điểm bị hạn chế quan trọng khiến các Agent hiện tại không thể hoàn thành nhiệm vụ toàn diện. Agent hiện tại rất hữu ích cho các phần cụ thể của nhiệm vụ, bạn có thể kết hợp chúng để thực hiện một số điều rất tuyệt, nhưng chúng không thể thích ứng tốt với môi trường cụ thể của bạn. Đó là lý do tại sao chúng vẫn chưa thể thực sự "bắn và quên", chúng cần có khả năng học môi trường cụ thể của bạn. Để đạt được trí tuệ chung hoàn toàn, vấn đề này phải được giải quyết.

Gary Tan: Về khía cạnh suy luận, chúng đã đi đến đâu? Mới mạnh mẽ về chuỗi tư duy của mô hình, nhưng vẫn gặp sự cố trong một số lỗi mà các sinh viên thông minh không thể mắc phải. Điều cụ thể cần phải thay đổi là gì? Bạn dự kiến sẽ có tiến triển gì về suy luận?

Demis Hassabis: Còn nhiều không gian sáng tạo trên mô hình tư duy. Những gì chúng tôi đang làm vẫn khá lởm, khá đồ brô. Có thể cải thiện ở rất nhiều hướng, ví dụ như theo dõi quá trình chuỗi tư duy, can thiệp vào giữa quá trình tư duy. Tôi thường cảm thấy, kể cả là hệ thống của chúng tôi hay hệ thống của đối thủ, chúng đều ở một mức độ nào đó nhiều quá suy nghĩ, rơi vào vòng lặp.

Đôi khi tôi thích quan sát Gemini chơi cờ để nghiên cứu. Tất cả các mô hình cơ sở hàng đầu thực sự rất tệ trong việc chơi cờ, điều này rất thú vị.

Quan sát con đường tư duy của chúng thực sự có giá trị, vì cờ là một lĩnh vực được hiểu rõ mặt rõ, tôi có thể nhanh chóng xác định xem chúng đã sai lạc hay không, liệu suy luận có hiệu quả không. Chúng ta thấy hoàn cảnh là, đôi khi nó suy nghĩ về một bước đi, nhận ra đó là bước đi tồi tệ, nhưng lại không tìm ra điều tốt hơn, kết quả là quay lại vòng tròn vẫn đi bước tồi tệ đó. Một hệ thống suy luận chính xác không nên gặp tình huống như vậy.

Sự khác biệt lớn đó vẫn tồn tại, nhưng sửa chữa nó có thể chỉ cần một hoặc hai điều chỉnh. Đó là lý do tại sao bạn có thể nhìn thấy cái gọi là "trí tuệ răng cưa" (jagged intelligence), mặt khác, có thể giải quyết vấn đề đạt giải thưởng cấp IMO, khi yêu cầu một cách hỏi khác, sẽ mắc lỗi toán học cấp tiểu học. Trên khía cạnh tự suy tính của chính mình, có vẻ như vẫn còn thiếu một cái gì đó.

Năng lực thực sự của Agent

Gary Tan: Agent là một chủ đề lớn. Một số người nói đó là sự quảng cáo. Tôi cá nhân nghĩ chỉ mới bắt đầu. Sự đánh giá thực sự về khả năng của Agent từ nghiên cứu DeepMind bên trong là gì, và khoảng cách so với việc quảng cáo bên ngoài là bao nhiêu?

Demis Hassabis: Tôi đồng ý với bạn, chúng ta chỉ mới bắt đầu. Để đạt được AGI, bạn phải có một hệ thống có thể tự động giải quyết vấn đề cho bạn. Điều này với chúng tôi luôn rõ ràng. Agent chính là con đường đó, và tôi nghĩ chúng ta chỉ mới bắt đầu.

Mọi người đang tìm hiểu cách làm cho Agent hoạt động tốt hơn với công việc, chúng tôi đã thử nghiệm rất nhiều trên cấp độ cá nhân, và nhiều người trong số các bạn ở đây cũng đã làm. Làm thế nào để Agent hòa mình vào luồng công việc, để nó không chỉ là một sự bổ sung mà là thực sự đang làm công việc căn bản. Hiện tại chúng tôi vẫn đang ở giai đoạn thử nghiệm. Có lẽ chỉ trong hai ba tháng gần đây mới bắt đầu tìm thấy các tình huống đặc biệt có giá trị. Công nghệ hiện đang ở mức đủ để không còn chỉ là bài trình diễn đồ chơi nữa, mà đang thực sự mang lại giá trị cho thời gian và hiệu suất của bạn.

Tôi thường thấy mọi người khởi chạy hàng chục Agent để chúng chạy hàng chục giờ, nhưng tôi vẫn chưa chắc chắn kết quả đầu ra có xứng đáng với sự đầu tư này.

Chúng tôi chưa thấy ai sử dụng vibe coding để tạo ra một trò chơi 3A chiếm vị trí cao trên bảng xếp hạng cửa hàng ứng dụng. Chính tôi đã viết, và nhiều người trong số các bạn ở đây cũng đã tạo ra một số demo nhỏ tốt. Hiện tại, tôi chỉ cần nửa giờ để tạo ra một bản prototype của "Theme Park", trong khi vào thời 17 tuổi của mình tôi đã mất sáu tháng.

Tôi cảm thấy, nếu bạn dành một mùa hè đầy để làm việc, bạn có thể tạo ra điều kỳ diệu. Nhưng vẫn cần công nghệ và tâm hồn con người, gu thẩm mỹ, bạn phải đảm bảo rằng những yếu tố này được đưa vào bất kỳ sản phẩm nào bạn xây dựng. Trên thực tế, hiện nay chưa có bất kỳ đứa trẻ nào đã tạo ra một trò chơi bán chạy hàng triệu bản, lý thuyết cho thấy với công cụ hiện tại, điều này có thể xảy ra. Vì vậy, vẫn còn thiếu điều gì đó, có thể liên quan đến quy trình, có thể liên quan đến công cụ. Tôi dự đoán trong 6 đến 12 tháng tới sẽ thấy những thành công như vậy.

Gary Tan: Trong đó có mức độ tự động hóa là bao nhiêu? Tôi nghĩ đầu tiên không thể là tự động hoàn toàn. Con đường có thể hơn là mỗi người trong số chúng ta đều đạt được hiệu suất gấp 1000 lần trước, sau đó sẽ có người sử dụng các công cụ này để tạo ra ứng dụng bán chạy, trò chơi bán chạy, và sau đó nhiều bước tiếp theo mới được tự động hoá.

Demis Hassabis: Đúng, điều đó trước hết bạn nên nhìn thấy.

Gary Tan: Một phần lý do là, có một số người thực sự đang làm điều đó, nhưng họ không muốn công khai nói rằng Agent đã giúp đỡ họ như thế nào.

Demis Hassabis: Có thể vậy. Nhưng tôi muốn nói về vấn đề sáng tạo. Tôi thường dùng ví dụ của AlphaGo, mọi người đều biết tới Bước đi thứ 37 trong trận đấu thứ hai. Với tôi, tôi luôn chờ đợi thời điểm như vậy xuất hiện, chỉ khi nó xuất hiện sẽ tôi bắt đầu dự án khoa học như AlphaFold. Chúng tôi bắt đầu mở rộng AlphaFold ngay sau khi kết thúc trận đấu, cách đây mười năm. Chuyến đi của tôi lần này đến Hàn Quốc là để ăn mừng 10 năm AlphaGo.

Nhưng chỉ biết cách thực hiện Nước đi 37 không đủ. Điều đó rất tuyệt và hữu ích. Nhưng hệ thống này có thể phát minh ra cờ vây chính nó không? Nếu bạn cung cấp cho nó mô tả cao cấp như "Một trò chơi mà có thể học luật trong năm phút nhưng vĩnh viễn không thể hoàn thiện, mỹ thuật thẩm mỹ, có thể chơi xong trong một chiều" và sau đó hệ thống trả về kết quả là cờ vây. Ngày nay, hệ thống không thể làm điều này. Vấn đề là tại sao?

Gary Tan: Trong phòng có thể có ai đó có thể làm được.

Demis Hassabis: Nếu có ai đó có thể làm được, thì câu trả lời không phải là hệ thống thiếu điều gì, mà là cách chúng ta sử dụng hệ thống có vấn đề. Điều này có thể là câu trả lời đúng. Có thể hôm nay hệ thống đã có khả năng đó, chỉ cần một người sáng tạo đủ tài năng để thúc đẩy nó, cung cấp tinh thần cho dự án đó, đồng thời người đó phải gắn bó chặt chẽ với công cụ, gần như hòa quyện với công cụ. Nếu bạn dành cả ngày lẫn đêm trong những công cụ đó và có sự sáng tạo sâu sắc, có lẽ bạn có thể tạo ra những điều tưởng chừng như không thể.

Mã nguồn mở và Mô hình Đa phương tiện

Gary Tan: Hãy chuyển sang đề cập đến mã nguồn mở. Gần đây, việc phát hành của Gemma đã cho phép các mô hình mạnh mẽ có thể chạy cục bộ. Ông nghĩ thế nào về điều này? AI liệu có thể trở thành điều mà người dùng tự kiểm soát, thay vì chủ yếu nằm ở đám mây? Điều này có thay đổi người có thể sử dụng các mô hình này để xây dựng sản phẩm không?

Demis Hassabis: Chúng tôi là những người ủng hộ mã nguồn mở và khoa học mở. Đối với AlphaFold mà bạn đề cập, chúng tôi đã hoàn toàn miễn phí. Công việc khoa học của chúng tôi vẫn được công bố trên các tạp chí hàng đầu. Về Gemma, chúng tôi muốn tạo ra các mô hình hàng đầu trên thế giới cho cùng một quy mô. Hiện nay, lượng tải về của Gemma đã đạt khoảng 40 triệu lần, và chỉ trong hai tuần rưỡi.

Tôi cũng nghĩ rằng sự tồn tại của bộ công cụ phương Tây trong lĩnh vực mã nguồn mở rất quan trọng. Các mô hình mã nguồn mở của Trung Quốc rất xuất sắc, hiện nay đang dẫn đầu trong lĩnh vực mã nguồn mở, nhưng chúng tôi cho rằng Gemma với cùng quy mô đang rất cạnh tranh.

Với chúng tôi, một vấn đề khác là tài nguyên, không ai có sẵn sàng sử dụng để tạo ra hai mô hình tiên tiến toàn diện. Vì vậy, quyết định tạm thời của chúng tôi hiện tại là: các mô hình ở bên lề dành cho Android, kính, robot, vv., thì tốt nhất hãy thiết kế chúng dưới dạng mô hình mở, vì một khi triển khai trên thiết bị, chúng đã là nguồn công khai ngay từ ban đầu. Chúng tôi đã thống nhất chiến lược mở ở mức nano, điều này cũng là hợp lý về chiến lược.

Gary Tan: Trước khi lên sân khấu, tôi đã cho bạn xem bản demo về hệ điều hành AI mà tôi đã tạo, tôi có thể tương tác trực tiếp bằng giọng nói với Gemini, tôi vẫn rất căng thẳng khi trình diễn điều đó, nhưng cuối cùng nó đã chạy. Gemini từ đầu đã được xây dựng dưới dạng Đa phương tiện. Tôi đã sử dụng nhiều mô hình, việc tương tác trực tiếp bằng giọng nói đến mô hình kết hợp với khả năng gọi công cụ sâu và hiểu biết ngữ cảnh, hiện tại không có mô hình nào có thể sánh kịp với Gemini.

Demis Hassabis: Đúng. Một lợi thế của dòng Gemini mà chúng ta chưa thực sự nhận ra là chúng tôi đã xây dựng từ đầu theo hướng đa phương thức. Điều này làm cho giai đoạn khởi đầu khó hơn so với chỉ làm văn bản, nhưng chúng tôi tin rằng trong dài hạn sẽ có lợi ích, và hiện tại chúng đã bắt đầu thấy rõ.

Ví dụ, về mô hình thế giới, chúng tôi đã xây dựng Genie (mô hình môi trường tương tác sinh sáng do DeepMind phát triển) trên nền tảng của Gemini. Trong lĩnh vực robot cũng vậy, Gemini Robotics sẽ dựa trên mô hình cơ sở đa phương thức của chúng tôi, lợi thế đa phương thức của chúng tôi sẽ trở thành pháo đài bảo vệ. Chúng tôi cũng ngày càng sử dụng Gemini trong Waymo (công ty tự lái của Alphabet).

Hãy tưởng tượng một trợ lý số điện tử đi theo bạn vào thế giới thực, có thể trên điện thoại di động hoặc kính của bạn, nó cần hiểu về thế giới vật lý xung quanh bạn. Hệ thống của chúng tôi rất mạnh mẽ trong lĩnh vực này. Chúng tôi sẽ tiếp tục đầu tư vào hướng này, tôi nghĩ lợi thế hàng đầu của chúng tôi trong các vấn đề như thế này là rất lớn.

Gary Tan: Chi phí suy luận đang giảm mạnh. Khi suy luận trở nên gần như miễn phí, điều gì trở thành khả thi? Hướng tối ưu của nhóm của bạn sẽ thay đổi vì lý do đó?

Demis Hassabis: Tôi không chắc liệu suy luận sẽ thực sự miễn phí, Dilemma Jevons đang ở đó. Tôi nghĩ mọi người cuối cùng sẽ sử dụng hết sức mạnh tính toàn bộ có thể đạt được.

Có thể tưởng tượng về hàng triệu tác nhân hợp tác, hoặc một nhóm nhỏ tác nhân suy luận đồng thời theo nhiều hướng và sau đó tích hợp. Chúng tôi đều đang thử nghiệm các hướng này, và tất cả đều sẽ sử dụng tài nguyên suy luận có sẵn.

Về năng lượng, nếu chúng ta giải quyết được một số vấn đề như hợp phản hạt hạch kiểm soát được, siêu dẫn nhiệt độ phòng, pin tối ưu, và thông qua khoa học vật liệu, chúng ta có thể giải quyết. Mức chi phí năng lượng có thể tiến gần đến không. Tuy nhiên, các chướng ngại vật lý trong việc sản xuất vi mạch vẫn còn tồn tại, ít nhất là trong vài thập kỷ tới. Vì vậy bên phía suy luận vẫn phải tuân thủ hạn ngạch, vẫn cần phải sử dụng hiệu quả.

Bước Tiến Khoa Học Tiếp Theo

Gary Tan: May mắn là các mô hình nhỏ ngày càng thông minh. Trong số các người sáng lập ở đây, có rất nhiều người trong lĩnh vực sinh học và công nghệ sinh học. AlphaFold 3 đã vượt xa protein, mở rộng ra các phân tử sinh học rộng hơn. Chúng ta còn bao xa nữa để mô hình hóa hệ thống tế bào hoàn chỉnh không? Điều này có phải là một vấn đề cấp độ khó khăn hoàn toàn khác không?

Demis Hassabis：Các Isomorphic Labs đang phát triển rất tốt. AlphaFold chỉ là một phần trong quy trình phát hiện dược phẩm, chúng tôi đang tiến hành nghiên cứu sinh học liền kề, thiết kế hợp chất với các tính chất chính xác, và sẽ sớm có thông báo quan trọng.

Mục tiêu cuối cùng của chúng tôi là tạo ra một tế bào ảo hoàn chỉnh, một bộ mô phỏng tế bào hoạt động đầy đủ mà bạn có thể gây ra sự rối loạn, đầu ra của nó gần với kết quả thực nghiệm và có ứng dụng thực tế. Bạn có thể bỏ qua nhiều bước tìm kiếm, tạo ra dữ liệu tổng hợp lớn để huấn luyện các mô hình khác, để chúng dự đoán hành vi của tế bào thực sự.

Tôi ước lượng còn khoảng mười năm nữa mới có thể hoàn thiện tế bào ảo. Chúng tôi đang bắt đầu từ nhân tế bào ảo trong DeepMind Science vì nhân tế bào là một hệ thống tương đối độc lập. Vấn đề của loại này là liệu có thể cắt ra một lát cắt có độ phức tạp phù hợp, nó đủ độc lập, bạn có thể hợp lý xấp xỉ đầu vào và đầu ra của nó, và sau đó tập trung vào hệ thống con này. Từ góc độ này, nhân tế bào rất phù hợp.

Vấn đề khác là dữ liệu chưa đủ. Tôi đã nói chuyện với các nhà khoa học hàng đầu về kỹ thuật hiển vi điện tử và các kỹ thuật hình ảnh khác. Nếu có thể hình ảnh tế bào sống mà không làm chết tế bào, đó sẽ là một cuộc cách mạng. Bởi vì điều đó sẽ biến nó thành một vấn đề hình ảnh, và chúng tôi biết cách giải quyết vấn đề hình ảnh.

Nhưng theo tôi biết, hiện tại chưa có công nghệ nào có thể hình ảnh động tế bào sống ở độ phân giải nano mà không phá hủy nó. Bạn có thể chụp được hình ảnh tĩnh ở độ phân giải đó, đó là điều rất tuyệt vời, nhưng không đủ để trực tiếp biến nó thành một vấn đề hình ảnh.

Vì vậy có hai hướng, một là phương án được đưa ra bởi phần cứng, dữ liệu; và một là xây dựng trình mô phỏng có thể học tốt hơn để mô phỏng những hệ thống động học này.

Gary Tan：Bạn không chỉ xem xét về sinh học. Khoa học vật liệu, phát hiện dược phẩm, mô hình khí hậu, toán học, nếu phải ưu tiên, trong năm năm tới lĩnh vực khoa học nào sẽ được biến đổi một cách triệt để nhất?

Demis Hassabis：Mỗi lĩnh vực đều rất làm người ta phấn khích, đó cũng là lý do tại sao điều này luôn là niềm đam mê lớn nhất của tôi, và cũng là lý do tại sao tôi đã dành hơn 30 năm tham gia vào lĩnh vực Trí tuệ Nhân tạo. Tôi luôn cho rằng Trí tuệ Nhân tạo sẽ là công cụ cuối cùng của khoa học, được sử dụng để đẩy mạnh sự hiểu biết khoa học, khám phá khoa học, y học và hiểu biết của chúng ta về vũ trụ.

Ban đầu, cách chúng tôi miêu tả sứ mệnh là bằng hai bước. Bước đầu tiên, giải quyết trí tuệ, tức là xây dựng AGI; bước thứ hai, sử dụng nó để giải quyết tất cả các vấn đề khác. Sau đó, chúng tôi đã phải điều chỉnh từ ngữ, vì một số người sẽ hỏi "Bạn có thực sự đang nói về việc giải quyết tất cả mọi vấn đề không"?

Chắc chắn đó là ý nghĩa của chúng tôi. Bây giờ mọi người bắt đầu hiểu ý nghĩa thực sự của điều đó là gì. Cụ thể, tôi đang nói đến việc giải quyết những vấn đề mà tôi gọi là "vấn đề nút gốc" trong lĩnh vực khoa học, những lĩnh vực mà một khi bứt phá sẽ mở khóa cho một nhánh phát hiện hoàn toàn mới. AlphaFold chính là mẫu thử của điều chúng tôi muốn làm.

Toàn cầu có hơn ba triệu nghiên cứu sinh, gần như tất cả các nhà nghiên cứu sinh học hiện đang sử dụng AlphaFold. Tôi đã nghe từ một số bạn làm việc ở các công ty dược phẩm rằng hầu hết các loại thuốc được phát hiện trong tương lai sẽ được sử dụng AlphaFold trong quy trình phát hiện thuốc. Chúng tôi rất tự hào về điều này, đó cũng là ảnh hưởng mà chúng tôi hy vọng AI có thể tạo ra. Nhưng tôi nghĩ rằng đó chỉ là sự bắt đầu.

Tôi không thể tưởng tượng ra một lĩnh vực nào trong khoa học hoặc kỹ thuật mà AI không thể hỗ trợ. Các lĩnh vực mà bạn đề cập, tôi nghĩ chúng đều trong giai đoạn "Thời điểm AlphaFold 1", kết quả đã rất khả quan, nhưng vẫn chưa vượt qua được thách thức lớn của lĩnh vực đó. Trong hai năm tới, chúng ta sẽ thấy nhiều tiến triển trong tất cả các lĩnh vực này, từ khoa học vật liệu đến toán học.

Gary Tan: Cảm giác như là Promethean, mang đến cho con người một khả năng hoàn toàn mới.

Demis Hassabis: Chính xác. Tất nhiên, giống như thông điệp của câu chuyện về Promethean, chúng ta cũng phải cẩn trọng với việc sử dụng khả năng này, sử dụng ở đâu, và nguy cơ khả năng lạm dụng của cùng một bộ công cụ.

Kinh nghiệm Thành công

Gary Tan: Có rất nhiều người đang cố gắng thành lập các công ty sử dụng AI trong khoa học. Theo ý kiến của bạn, sự khác biệt giữa các công ty khởi nghiệp thúc đẩy biên giới thực sự và những công ty chỉ thêm một lớp API lên mô hình cơ bản, sau đó tự xưng là "AI cho Khoa học", là gì?

Demis Hassabis: Tôi đang nghĩ nếu hôm nay tôi ngồi ở vị trí của các bạn, xem các dự án tại Y Combinator, tôi sẽ làm thế nào. Một điều là bạn phải dự đoán hướng phát triển của công nghệ AI, điều này đã rất khó khăn. Nhưng tôi thật sự tin rằng việc kết hợp hướng phát triển của AI với một lĩnh vực khoa học sâu hơn khác có cơ hội lớn. Điểm giao nhau này, cho dù là vật liệu, y học hay bất kỳ lĩnh vực khoa học khó khăn nào khác, đặc biệt là liên quan đến thế giới nguyên tử, trong tương lai không thể thấy được có bất kỳ lối tắt nào. Những lĩnh vực này sẽ không bị vượt qua bởi bản cập nhật mô hình cơ bản tiếp theo. Nhưng nếu bạn muốn tìm kiếm một hướng phòng thủ mạnh mẽ, đó là điều mà tôi sẽ khuyên.

Tôi luôn ưa thích Công nghệ Sâu. Điều gì thực sự lâu dài và có giá trị không bao giờ dễ dàng. Tôi luôn bị cuốn hút bởi Công nghệ Sâu. Vào năm 2010 khi chúng tôi bắt đầu, AI là Công nghệ Sâu — nhà đầu tư nói với tôi "Chúng tôi đã biết rằng cái này không thể làm được," và cả giới học thuật cũng coi đó là một hướng đi thất bại được thử nghiệm vào những năm 90.

Nhưng nếu bạn tin vào ý tưởng của mình — tại sao lần này khác biệt, và nền tảng của bạn có kết hợp độc đáo gì — lý tưởng là bạn chính mình là chuyên gia trong lĩnh vực Học máy và Ứng dụng, hoặc bạn có thể xây dựng một nhóm sáng lập như vậy — thì ở đó sẽ có một ảnh hưởng lớn và giá trị mà bạn có thể tạo ra.

Gary Tan: Thông tin này rất quan trọng. Một khi điều gì đó được thực hiện, nó trở nên dễ hiểu, nhưng trước khi thực hiện, mọi người đều phản đối bạn.

Demis Hassabis: Tất nhiên, vì vậy bạn phải làm điều mà bạn thực sự đam mê. Với tôi, bất cứ điều gì xảy ra, tôi vẫn sẽ làm AI. Mẹ tôi khi còn nhỏ đã quyết định rằng đây là điều mà tôi có thể nghĩ đến có ảnh hưởng nhất. Sự thật cũng chứng minh điều đó, nhưng cũng có thể không, có thể chúng ta sớm hơn 50 năm.

Và nó cũng là điều mà tôi có thể nghĩ đến có vẻ thú vị nhất. Thậm chí nếu hôm nay chúng ta vẫn ngồi trong một cái garage nhỏ, AI vẫn chưa được phát triển, tôi vẫn sẽ tìm cách tiếp tục. Có lẽ tôi sẽ trở lại giới học thuật, nhưng tôi sẽ tìm cách tiếp tục.

Gary Tan: AlphaFold là một ví dụ của việc bạn theo đuổi một hướng, sau đó gặp may. Điều gì khiến một lĩnh vực khoa học phát triển phù hợp với việc tạo ra một AlphaFold? Có quy luật nào, như một hàm mục tiêu nào đó không?

Demis Hassabis: Thực sự tôi nên dành thời gian viết cái này ra. Từ tất cả các dự án Alpha như AlphaGo và AlphaFold, kinh nghiệm mà tôi học được là, công nghệ hiện có của chúng ta hoạt động tốt nhất trong các trường hợp sau.

Thứ nhất, vấn đề có không gian tìm kiếm kết hợp khổng lồ, càng lớn càng tốt, lớn đến mức không có cách nào thô bạo hoặc thuật toán đặc biệt nào có thể giải quyết. Không gian nước cờ Caro và không gian cấu trúc protein đều lớn hơn số nguyên tử trong vũ trụ. Thứ hai, bạn có thể định nghĩa rõ hàm mục tiêu, chẳng hạn như tối thiểu hoá năng lượng tự do của protein, hoặc chiến thắng trong cờ vây, để hệ thống có thể thực hiện tối ưu gradient. Thứ ba, có đủ dữ liệu, hoặc có một trình mô phỏng có thể tạo ra dữ liệu tổng hợp lớn trong phân phối.

Nếu ba điều kiện này đều đúng, thì với phương pháp ngày nay, bạn có thể đi rất xa, để tìm ra cái kim trong đống rơm của mình. Khám phá thuốc cũng có cùng một logic: tồn tại một hợp chất nào đó có thể điều trị căn bệnh và không có tác dụng phụ, miễn là định luật vật lý cho phép nó tồn tại, vấn đề duy nhất chỉ là làm thế nào để tìm thấy nó một cách hiệu quả và khả thi. Tôi nghĩ AlphaFold đã chứng minh lần đầu tiên rằng các hệ thống kiểu này có khả năng tìm ra kim đó trong không gian tìm kiếm lớn.

Gary Tan: Tôi muốn đi sâu hơn một chút. Chúng ta đang nói về việc con người sử dụng những phương pháp này đã tạo ra AlphaFold, nhưng còn một mặt ở tầng cao hơn, con người sử dụng trí tuệ nhân tạo để khám phá không gian giả thuyết. Chúng ta còn bao xa nữa để hệ thống trí tuệ nhân tạo có thể thực sự thực hiện lẽ suy luận khoa học (không chỉ là khớp mẫu dữ liệu)?

Demis Hassabis: Tôi nghĩ rằng chúng ta rất gần rồi. Chúng tôi đang làm việc với các hệ thống tổng quát như vậy. Chúng tôi có một hệ thống gọi là AI co-scientist, cũng như các thuật toán như AlphaEvolve, có thể làm những việc tiên tiến hơn so với Gemini cơ bản. Tất cả các phòng thí nghiệm hàng đầu đều đang khám phá hướng này.

Nhưng cho đến nay, tôi cá nhân vẫn chưa thấy một phát hiện khoa học thực sự và quan trọng được thực hiện bởi những hệ thống này. Tôi nghĩ nó sẽ đến sớm thôi. Nó có thể liên quan đến sự sáng tạo mà chúng ta đã thảo luận trước đó, vượt ra khỏi giới hạn đã biết. Ở tầng đó, nó không phải là việc khớp mẫu nữa vì không có mẫu để khớp. Nó cũng không chỉ là suy luận tiếp theo, mà là một dạng suy luận tương đối (analogical reasoning), mà tôi nghĩ những hệ thống này hiện chưa có, hoặc chúng ta chỉ chưa sử dụng chúng theo cách đúng.

Một tiêu chí mà tôi thường nói trong lĩnh vực khoa học là, nó có thể đưa ra một giả thuyết thực sự thú vị hay không, chứ không chỉ là xác minh một giả thuyết. Vì việc xác minh giả thuyết vốn có thể là một sự kiện lịch sử quan trọng, chẳng hạn như chứng minh giả thuyết Riemann hoặc giải quyết một vấn đề giải thưởng Millenium nào đó, nhưng có lẽ chỉ còn vài năm nữa chúng ta sẽ đạt được điều đó.

Và khó khăn hơn nữa, có thể đưa ra một tập hợp mới các vấn đề giải thưởng Millenium, và các nhà toán học hàng đầu tin rằng chúng nhanh chóng, xứng đáng dành cả đời để nghiên cứu. Tôi nghĩ nó lại khó hơn một bậc, và chúng ta hiện chưa biết làm cách nào để thực hiện điều đó. Nhưng tôi không nghĩ nó là phép màu, tôi tin rằng cuối cùng những hệ thống này sẽ có thể thực hiện được, có lẽ chỉ cần một hoặc hai yếu tố nữa.

Cách mà chúng ta có thể sử dụng để kiểm tra, đôi khi tôi gọi đó là "Kiểm tra Einstein", nghĩa là bạn có thể huấn luyện một hệ thống với kiến thức năm 1901, sau đó cho nó tự giải thích ra các thành tựu mà Einstein đã đạt được vào năm 1905, bao gồm lý thuyết tương đối hẹp và các bài báo khác của ông trong năm đó. Tôi nghĩ chúng ta nên thực sự thử nghiệm bài thử này, lặp đi lặp lại, xem khi nào thì có thể thực hiện được. Một khi đã thực hiện được, thì những hệ thống này cũng không còn xa lạ với việc phát minh ra những thứ hoàn toàn mới nữa.

Khuyến nghị Khởi nghiệp

Gary Tan: Cuối cùng một câu hỏi nữa. Trong số những người ngồi đây, có rất nhiều người có lịch sử kỹ thuật sâu, muốn thực hiện những điều gần với quy mô của bạn, bạn là một trong những tổ chức nghiên cứu trí tuệ nhân tạo lớn nhất trên thế giới. Bạn từ chân trời nghiên cứu AGI đi, có điều gì bạn biết hiện nay, nhưng bạn hy vọng rằng bạn đã biết từ khi bạn 25 tuổi?

Demis Hassabis: Chúng ta đã trò chuyện về một phần rồi. Bạn sẽ thấy việc giải quyết vấn đề khó và vấn đề dễ thực ra cũng tương đương nhau về độ khó, chỉ khác về cách tiếp cận khó khăn. Mọi vấn đề khác nhau đều có khó khăn riêng. Nhưng cuộc đời ngắn ngủi, năng lượng có hạn, vì vậy hãy tập trung vào việc sử dụng sức mạnh của bạn cho những vấn đề mà nếu bạn không làm thì không ai làm. Hãy chọn lựa dựa trên tiêu chí này.

Thêm vào đó, tôi nghĩ rằng trong vài năm tới, việc kết hợp giữa các lĩnh vực sẽ trở nên phổ biến hơn, và trí tuệ nhân tạo sẽ giúp việc này trở nên dễ dàng hơn.

Một điểm cuối cùng, tôi nghĩ rằng thời gian AGI của bạn sẽ quyết định nhiều phần. Đối với tôi sẽ xảy ra vào khoảng năm 2030. Nếu bạn bắt đầu một dự án công nghệ sâu, thông thường đó có nghĩa là một hành trình kéo dài mười năm. Vì vậy, bạn phải tính đến việc AGI có thể xuất hiện giữa chừng đường đi đó. Điều này ngụ ý gì? Không nhất thiết là điều xấu, nhưng bạn phải tính đến. Dự án của bạn có thể tận dụng AGI không? Hệ thống AGI sẽ tương tác ra sao với dự án của bạn?

Quay trở lại vấn đề đã thảo luận trước đó về mối quan hệ giữa AlphaFold và hệ thống trí tuệ nhân tạo thông dụng, một tình huống mà tôi có thể dự đoán là Gemini, Claude hoặc một hệ thống thông dụng tương tự sẽ sử dụng AlphaFold như một công cụ. Tôi không nghĩ rằng chúng ta sẽ đặt tất cả mọi thứ vào một hệ thống rất lớn.

Liên kết video gốc

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia