Chín năm sau "Tám người con của Transformer": Google không giữ được một ai.

Tiêu đề gốc: "Tám 'cha mẹ' của Transformer, giờ đang ở đâu?"
Nguồn gốc: Máy Tâm

Ngày 18 tháng 6, Noam Shazeer, một trong những đồng tác giả của bài báo Transformer, đã thông báo trên X rằng ông từ chức và gia nhập OpenAI. Hai ngày sau, người đoạt giải Nobel Hóa học 2024, trưởng nhóm AlphaFold John Jumper, cũng tuyên bố rời khỏi Google DeepMind, điểm đến là Anthropic.

Hai tin tức liên tiếp đổ xuống, thị trường vốn phản ứng mạnh mẽ: cổ phiếu của công ty mẹ Google, Alphabet, đã giảm hơn 7%, vốn hóa thị trường bốc hơi hơn 300 tỷ USD. Nhiều tổ chức phân tích đều quy đợt bán tháo này cho "sự ra đi của nhân tài". Nhà phân tích Gil Luria của D.A. Davidson thẳng thắn nói rằng việc Shazeer gia nhập OpenAI và Jumper gia nhập Anthropic, cả hai rời đi gần như cùng lúc, khiến thị trường bắt đầu lo ngại Google đang thất thế trong cuộc chiến giành nhân tài AI.

Sự ra đi lần này của Shazeer đặc biệt đáng suy ngẫm – đây đã là lần thứ hai ông rời khỏi Google.

Năm 2021, vì không hài lòng với việc công ty không muốn công khai phát hành chatbot do mình chủ trì phát triển, ông đã ra đi và thành lập Character.AI; tháng 8 năm 2024, Google đã chi khoảng 2,7 tỷ USD để mua bản quyền công nghệ của Character.AI, nhân cơ hội đó mời ông trở lại DeepMind, bổ nhiệm ông làm Phó chủ tịch kỹ thuật của dự án Gemini, cùng Jeff Dean đồng lãnh đạo dự án này. Chưa đầy hai năm sau, ông vẫn ra đi, lần này còn đến thẳng OpenAI, đối thủ không đội trời chung.

Đến nay, tám đồng tác giả của bài báo "Attention Is All You Need" được công bố chín năm trước, đều đã rời khỏi Google.

Người dùng Tyler Maran đã tạo một biểu đồ, vẽ lại nơi ở hiện tại của từng người, biểu đồ này đã được lan truyền điên cuồng trên mạng xã hội.

Tuy nhiên, biểu đồ này có thể sẽ sớm lỗi thời. Chỉ trong hai ngày qua, thị trường lan truyền tin đồn rằng Nvidia đang âm thầm thu hút đội ngũ cốt lõi của Essential AI, trong đó có một trong những tác giả của bài báo Transformer, đồng sáng lập kiêm CEO của Essential AI, Ashish Vaswani. Tính đến thời điểm viết bài, cả Nvidia và Essential AI đều chưa có phản hồi chính thức về vấn đề này.

Nhân cơ hội này, chúng ta hãy cùng điểm lại toàn bộ hành trình chín năm qua của tám người được gọi là "Cha đẻ của Transformer", cũng như nơi họ thực sự đang đến hiện tại.

Cần lưu ý rằng thứ tự tác giả của bài báo "Attention Is All You Need" được sắp xếp ngẫu nhiên. Phần chú thích cuối bài viết đã ghi rõ: Tất cả các tác giả đóng góp như nhau, thứ tự ngẫu nhiên, do đó không tồn tại khái niệm "tác giả đầu tiên" hay "tác giả liên hệ". Bài viết này sẽ giới thiệu lần lượt tám người theo thứ tự ký tên gốc của bài báo.

"Nguồn gốc của vạn vật": Tám người Google không chuyên

Để hiểu được nơi họ đến hôm nay, trước tiên phải quay lại năm 2017. Lúc đó, phương pháp chủ đạo trong lĩnh vực dịch máy là mạng nơ-ron hồi tiếp (RNN), mô hình phải xử lý câu từng từ một theo thứ tự, giống như xếp hàng qua đường trên làn đường một chiều, không thể tính toán song song, việc huấn luyện vừa chậm vừa tốn kém.

Tám người của Google Brain quyết định thử một ý tưởng gần như táo bạo: loại bỏ toàn bộ cấu trúc hồi tiếp, chỉ giữ lại "cơ chế chú ý", cho phép mô hình nhìn toàn bộ câu một lần và tự quyết định từ nào cần được chú trọng hơn. Câu "Attention Is All You Need" trong tiêu đề bài báo được phỏng theo bài hát "All You Need Is Love" của The Beatles, và sau đó trở thành hình mẫu cho nhiều tiêu đề bài báo khác.

Phần ghi chú đóng góp của tác giả trong bài báo đã ghi lại ngắn gọn những gì mỗi người cụ thể đã làm:

· Jakob Uszkoreit là người đầu tiên đề xuất thay thế cấu trúc hồi tiếp bằng tự chú ý, và chủ trì việc xác minh sớm ý tưởng này;

· Ashish Vaswani cùng với Illia Polosukhin thiết kế và triển khai mô hình Transformer ban đầu, tham gia hầu hết mọi khía cạnh của dự án;

· Noam Shazeer đề xuất cơ chế chú ý tích vô hướng có tỷ lệ, cơ chế chú ý đa đầu và phương pháp biểu diễn vị trí không tham số, là một người khác cũng tham gia hầu hết mọi công việc;

· Niki Parmar đã thiết kế, triển khai và gỡ lỗi vô số biến thể mô hình trong kho mã nguồn ban đầu và sau đó là framework tensor2tensor;

· Llion Jones cũng thử nghiệm rất nhiều biến thể mô hình mới, đồng thời phụ trách kho mã nguồn ban đầu, tối ưu hiệu suất suy luận và công việc trực quan hóa;

· Łukasz Kaiser và Aidan N. Gomez đã dành vô số ngày đêm để xây dựng các module của tensor2tensor, thay thế kho mã nguồn cũ, từ đó cải thiện đáng kể kết quả thí nghiệm và hiệu quả nghiên cứu.

Đoạn mô tả này cũng gián tiếp tiết lộ một chi tiết: mặc dù thứ tự tác giả trong bài báo là ngẫu nhiên, nhưng Uszkoreit, Vaswani, Polosukhin và Shazeer rõ ràng đảm nhận vai trò cốt lõi hơn ở cấp độ kiến trúc, trong khi Parmar, Jones, Kaiser và Gomez lại gánh vác trọng trách về triển khai kỹ thuật và xây dựng hệ thống – đây chính là dấu hiệu ban đầu cho thấy sự khác biệt về tính cách và chuyên môn khi tám người sau này chọn những con đường riêng.

Cái tên "Transformer" cũng có một giai thoại. Uszkoreit thích cách phát âm của từ này, vì vậy nhóm nội bộ tự gọi mình là "Team Transformer", và trên bìa tài liệu thiết kế ban đầu còn vẽ sáu nhân vật trong phim hoạt hình Transformers.

Kể từ khi bài báo được công bố đến nay, số lượng trích dẫn đã vượt quá 260.000 lần, là một trong những bài báo được trích dẫn nhiều nhất thế kỷ 21.

Ashish Vaswani

Vaswani sinh năm 1986, người Ấn Độ, năm 2002 nhận bằng Cử nhân Khoa học Máy tính từ Học viện Công nghệ Birla (BIT Mesra) tại Ấn Độ, sau đó sang Mỹ, theo học tiến sĩ dưới sự hướng dẫn của David Chiang tại Đại học Nam California, chuyên ngành dịch máy thống kê và mô hình hóa ngôn ngữ mạng nơ-ron. Sau khi hoàn thành chương trình tiến sĩ, ông làm nhà khoa học máy tính trong hai năm tại Viện Khoa học Thông tin của Đại học Nam California, và chính thức gia nhập Google Brain vào năm 2016 với tư cách là nhà khoa học nghiên cứu, làm việc tại đây cho đến năm 2021.

Theo phần mô tả đóng góp của tác giả trong bài báo, Vaswani cùng với Illia Polosukhin đã thiết kế và triển khai mô hình Transformer ban đầu, là một trong những nhân vật cốt lõi "tham gia hầu như mọi khâu của dự án".

Sau khi rời Google, Vaswani vào năm 2021 đã cùng Niki Parmar, cựu Phó Chủ tịch Kỹ thuật của OpenAI David Luan và những người khác đồng sáng lập Adept AI, giữ vai trò Nhà khoa học trưởng, với mục tiêu xây dựng "mô hình hành vi" có thể tự động thực hiện các thao tác trong bất kỳ phần mềm nào.

Adept từng huy động được hơn 400 triệu USD, định giá khoảng 1 tỷ USD, nhưng sản phẩm mãi không ra mắt được, và nội bộ cũng nảy sinh bất đồng. Vaswani và Parmar đã sớm chọn rút lui – nhiệm kỳ Nhà khoa học trưởng của ông tại Adept kết thúc vào tháng 11 năm 2022.

Đầu năm 2023, Vaswani và Parmar lại bắt tay nhau, cùng thành lập Essential AI, với ông giữ chức CEO. Công ty lần lượt nhận được đầu tư chiến lược từ Google, Nvidia, AMD: vòng hạt giống 8,3 triệu USD do Thrive Capital dẫn đầu, vòng Series A 56,5 triệu USD vào cuối năm 2023 do March Capital dẫn đầu, với sự tham gia của Google, Nvidia, AMD, KB Investment, Franklin Templeton và các tổ chức khác.

Đầu năm 2026, công ty hoàn tất vòng gọi vốn Series B trị giá 175 triệu USD, do Lightspeed Venture Partners dẫn đầu, Thrive Capital tham gia, định giá đạt 1 tỷ USD, chính thức trở thành kỳ lân.

Cuối năm 2025, công ty phát hành bộ mô hình mã nguồn mở đầu tiên mang tên Rnj-1 (đặt theo tên nhà toán học Ấn Độ Ramanujan).

Tuy nhiên, chỉ trong hai ngày qua, tình thế đột ngột thay đổi. Theo báo cáo, Nvidia đang tuyển dụng đội ngũ cốt lõi của Essential AI, bao gồm cả Vaswani, người sẽ tham gia phát triển mô hình mã nguồn mở Nemotron của Nvidia trong tương lai.

Các nguồn tin tiết lộ, lý do khá thực tế: Essential AI đang gặp khó khăn trong việc huy động vốn, và việc kéo Vaswani cùng đội ngũ khỏi phe đối thủ AMD của Nvidia (AMD luôn là một trong những nhà đầu tư chiến lược giai đoạn đầu của Essential AI, và công ty cũng phụ thuộc lâu dài vào GPU của AMD) tự nó đã là một thương vụ có lợi.

Một số nhà nghiên cứu của Essential AI (bao gồm Alok Tripathy, Saurabh Srivastava) đã cập nhật hồ sơ LinkedIn, cho thấy họ đã gia nhập Nvidia. Tuy nhiên, tính đến thời điểm hiện tại, cả Nvidia và Essential AI đều chưa chính thức xác nhận thông tin này.

Noam Shazeer

Shazeer sinh năm 1976 tại Philadelphia, là một tín đồ Do Thái chính thống; cha ông, Dov Shazeer, là một kỹ sư xuất thân từ giáo viên toán, còn chị gái ông được Học viện Hebrew phong chức Rabbi. Ngay từ nhỏ, ông đã bộc lộ tài năng xuất chúng. Năm 1994, với tư cách thành viên đội tuyển Mỹ tham dự Kỳ thi Olympic Toán học Quốc tế, ông giành huy chương vàng tuyệt đối. Sau đó, ông theo học ngành Toán và Khoa học Máy tính tại Đại học Duke, là người nhận Học bổng Tưởng niệm Angier B. Duke và từng đạt giải trong Kỳ thi Toán Putnam.

Năm 2000, Shazeer gia nhập Google. Thành tựu đầu tiên đưa ông lên danh tiếng là sửa lỗi chức năng kiểm tra chính tả của Google Search.

Theo phần ghi chú đóng góp của tác giả trong bài báo Transformer, ông đã đề xuất cơ chế chú ý tích vô hướng có tỷ lệ, cơ chế chú ý đa đầu và phương pháp biểu diễn vị trí không tham số. Ngoài Vaswani và Polosukhin, ông là người "tham gia hầu hết mọi chi tiết".

Sau khi đồng tác giả bài báo Transformer vào năm 2017, ông cùng đồng nghiệp Daniel De Freitas đã phát triển chatbot Meena, nhưng Google vì lý do thận trọng đã không công bố nó. Cả hai chọn rời đi vào năm 2021 và thành lập Character.AI, từng huy động được hơn 150 triệu USD từ các tổ chức như a16z, tạo nên một ứng dụng trò chuyện nhập vai khá phổ biến.

Tháng 8 năm 2024, câu chuyện có bước ngoặt: Google đạt được thỏa thuận cấp phép với Character.AI, với số tiền được báo cáo lên tới 2,7 tỷ USD. Shazeer và De Freitas cùng một nhóm nhỏ đồng nghiệp quay trở lại Google DeepMind. Ông được bổ nhiệm làm Phó Chủ tịch Kỹ thuật, cùng với Jeff Dean và Oriol Vinyals đồng lãnh đạo dự án Gemini.

Do ông nắm giữ khoảng 30% đến 40% cổ phần của Character.AI, thương vụ này giúp ông thu về cá nhân ước tính từ 750 triệu đến 1 tỷ USD. Năm 2026, ông được bầu làm Viện sĩ Viện Kỹ thuật Quốc gia Hoa Kỳ, lý lịch của ông trông như đang ở đỉnh cao.

Nhưng chỉ vài tháng sau, ông lại một lần nữa chọn rời đi, lần này là đến OpenAI, được báo cáo sẽ phụ trách một hướng đi có tên "Nghiên cứu Kiến trúc", trùng với thời điểm OpenAI đang tuyển dụng ồ ạt để chuẩn bị cho IPO (công ty đã bí mật nộp Mẫu S-1 lên Ủy ban Chứng khoán và Giao dịch Hoa Kỳ vào ngày 8 tháng 6, với tin đồn định giá lên tới 852 tỷ USD).

CEO của OpenAI, Sam Altman, hiếm khi lên tiếng công khai: "Ngay từ ngày đầu thành lập OpenAI, anh ấy là một trong những người tôi muốn hợp tác nhất", và còn nói rằng việc tuyển dụng này đã được "ấp ủ suốt một thập kỷ".

Đối với Google, đây là một "nỗ lực mua lại bất thành" đầy tốn kém: Người mà họ đã chi 2,7 tỷ USD để mời về cách đây hai năm, nay lại gia nhập đối thủ cạnh tranh hàng đầu, và điều này cũng trở thành một trong những nguyên nhân trực tiếp khiến cổ phiếu Google giảm mạnh trong tuần này.

Niki Parmar

Parmar sinh ra tại Pune, Ấn Độ, theo học đại học tại Học viện Công nghệ Máy tính Pune (Pune Institute of Computer Technology), chuyên ngành Công nghệ Thông tin. Trong thời gian học, cô đã có hứng thú với trí tuệ nhân tạo và học máy thông qua các khóa học trực tuyến mở của Andrew Ng và Peter Norvig, sau đó đến Mỹ theo học chương trình Thạc sĩ Khoa học Máy tính tại Đại học Nam California, nghiên cứu các vấn đề khoa học xã hội bằng phương pháp học máy dưới sự hướng dẫn của giáo sư Morteza Dehghani.

Năm 2015, Parmar gia nhập Google Research với tư cách kỹ sư phần mềm, năm 2017 chuyển sang Google Brain làm kỹ sư phần mềm nghiên cứu – theo báo cáo, cô là nhà nghiên cứu trẻ nhất và duy nhất không có bằng tiến sĩ trong đội ngũ Google Brain thời điểm đó.

Theo phần ghi chú đóng góp của bài báo, cô đã thiết kế, triển khai và gỡ lỗi vô số biến thể mô hình trong mã nguồn ban đầu và framework tensor2tensor sau này. Sau khi bài báo được công bố, cô tiếp tục mở rộng Transformer ra ngoài lĩnh vực ngôn ngữ, tham gia vào nghiên cứu mở rộng cơ chế tự chú ý sang tạo hình ảnh và thị giác máy tính.

Năm 2021, Parmar rời Google, cùng Ashish Vaswani, David Luan và những người khác đồng sáng lập Adept AI, giữ chức Giám đốc Công nghệ. Giống như Vaswani, cô đã rời Adept từ rất sớm, và đầu năm 2023 cùng Vaswani thành lập Essential AI, tiếp tục làm đồng sáng lập.

Nhưng cô đã không chờ đợi vòng gọi vốn Series B và danh hiệu kỳ lân của Essential AI. Cuối năm 2024, Parmar lặng lẽ rời Essential AI, gia nhập Anthropic, và công bố tin này vào tháng 2 năm 2025. Cô viết trên X: "Hôm nay cũng như mọi ngày, thích hợp để chia sẻ: Tôi đã gia nhập Anthropic vào tháng 12 năm ngoái."

Sau đó, cô tham gia phát triển Claude 3.7 Sonnet – một trong những bản phát hành mô hình quan trọng nhất trong lịch sử của Anthropic. Hiện cô là Thành viên Kỹ thuật (Member of Technical Staff) tại Anthropic, tập trung vào nghiên cứu năng lực tiên tiến và công việc liên quan đến học tăng cường.

Hai đồng tác giả từng không rời nhau, hai lần cùng nhau khởi nghiệp, cuối cùng lại đi đến hai đích đến hoàn toàn khác biệt: Parmar âm thầm rút lui hơn một năm trước, lặng lẽ hòa nhập vào một phòng thí nghiệm hàng đầu; trong khi Vaswani chọn tiếp tục đẩy Essential AI tiến lên, cho đến tuần này mới được đối thủ cạnh tranh dang tay đón nhận.

Jakob Uszkoreit

Uszkoreit sinh ra trong một gia đình ngôn ngữ học. Cha của ông, Hans Uszkoreit, là một nhà ngôn ngữ học tính toán nổi tiếng. Khi con trai đề xuất giả thuyết "chỉ cần cơ chế chú ý là đủ", ngay cả cha ông cũng nghi ngờ. Uszkoreit lấy bằng tiến sĩ tại Đại học Kỹ thuật Berlin, sau đó đạt cấp bậc "Nhà khoa học xuất sắc" (Distinguished Scientist) tại Google Brain.

Theo phần giải thích đóng góp của tác giả trong bài báo, chính Uszkoreit là người đầu tiên đề xuất thay thế mạng nơ-ron hồi tiếp bằng cơ chế tự chú ý, và dẫn dắt quá trình xác thực ban đầu cho ý tưởng này – hạt giống của giả thuyết này thực ra đã được gieo từ năm 2016, trong bài báo "Mô hình chú ý có thể phân rã" (Decomposable Attention Model) mà ông đồng tác giả với Ankur Parikh, Oscar Täckström và Dipanjan Das.

Cái tên "Transformer" cũng được chọn vì ông thích cách phát âm của từ này; nhóm nội bộ tự gọi mình là "Team Transformer", và trên bìa của các tài liệu thiết kế ban đầu là hình ảnh sáu nhân vật trong bộ phim hoạt hình Transformers.

Cuối năm 2020, AlphaFold2 của DeepMind đã chứng minh rằng mô hình kiểu Transformer có thể giải quyết các vấn đề ở cấp độ "Chén thánh sinh học" như gấp protein. Ông cũng ngày càng nhận ra rõ ràng rằng, điều khiến học sâu chưa thể thực sự thay đổi sinh học không phải là thuật toán, mà là dữ liệu. "Điều này gần như trở thành một nghĩa vụ đạo đức," sau này ông nhớ lại.

Vì vậy, vào năm 2021, ông đã cùng đồng sáng lập Inceptive với giáo sư hóa sinh của Đại học Stanford, Rhiju Das – người phát triển trò chơi thiết kế RNA nổi tiếng Eterna. Trụ sở chính của công ty đặt tại Berkeley, nhóm nghiên cứu ở lại Berlin – bản thân ông sống tại Berlin, nhân viên còn phân bố ở Zurich, London, Vancouver và nhiều thành phố khác ở Bờ Đông nước Mỹ.

Ý tưởng cốt lõi của công ty là làm thí nghiệm theo hướng ngược lại: thay vì có dữ liệu trước rồi mới huấn luyện mô hình, họ sử dụng robot và con người để tạo ra hàng loạt dữ liệu thí nghiệm RNA hoàn toàn mới, sau đó đưa vào cho mô hình học.

Inceptive đã huy động được khoảng 120 triệu USD từ các tổ chức như Nvidia, a16z, Obvious Ventures, Section 32. Tiến triển mới nhất diễn ra trong tháng này: đầu tháng 6, Alnylam Pharmaceuticals – công ty tiên phong trong liệu pháp can thiệp RNA – đã ký kết hợp tác chiến lược với Inceptive, sử dụng mô hình nền tảng của Inceptive để đẩy nhanh thiết kế các ứng cử viên thuốc siRNA, với khoản thanh toán trước 30 triệu USD, theo báo cáo tổng giá trị tiềm năng của toàn bộ thỏa thuận có thể lên tới khoảng 2 tỷ USD.

Uszkoreit phát biểu trong tuyên bố: "Hầu hết thiết kế thuốc vẫn dựa vào thử và sai – thử nghiệm hàng nghìn phân tử, đặt cược một trong số đó sẽ thành công. Điểm xuất phát của Inceptive khác biệt: sự sống tuân theo những quy luật cực kỳ phức tạp, chỉ có AI mới có thể học được chúng."

Trong số tám tác giả, ông là người duy nhất chuyển hẳn sang lĩnh vực công nghệ sinh học, và điều này đúng với một lời tiên tri trong bài báo năm đó: tiềm năng của cơ chế chú ý không chỉ dừng lại ở dịch máy.

Llion Jones

Jones là người xứ Wales, tốt nghiệp Đại học Birmingham, gia nhập Google vào năm 2011 với vai trò kỹ sư phần mềm, làm việc suốt hơn một thập kỷ. Anh là một trong số ít tác giả trong tám người không có bằng tiến sĩ, hoàn toàn dựa vào trực giác kỹ thuật để tìm ra hướng đi.

Theo phần giải thích đóng góp của tác giả trong bài báo, anh đã thử nghiệm nhiều biến thể mô hình mới, đồng thời chịu trách nhiệm về mã nguồn ban đầu, tối ưu hóa hiệu suất suy luận và công việc trực quan hóa.

Sau này anh nhớ lại khoảnh khắc quyết định: "Lúc đó chúng tôi bắt đầu thử cắt bỏ trực tiếp một số phần của mô hình, chỉ để xem hiệu suất giảm đi bao nhiêu. Kết quả đáng ngạc nhiên là nó lại tốt hơn." Đây chính là lần đầu tiên giả thuyết "cấu trúc tuần hoàn thực ra là thừa" được kiểm chứng.

Năm 2023, Jones cùng David Ha – cũng xuất thân từ Google – thành lập Sakana AI tại Tokyo. "Sakana" trong tiếng Nhật có nghĩa là "cá". Ha làm CEO, Jones làm CTO, và một đồng sáng lập khác của công ty, Ren Ito, làm COO.

Jones hiện đang sống tại Tokyo, tự xưng là "nhà nghiên cứu AI người xứ Wales sống ở Tokyo" trên mạng xã hội. Hướng nghiên cứu của công ty này mang màu sắc phản xu hướng rõ rệt: thay vì chỉ tập trung vào sức mạnh tính toán và tham số, họ học hỏi logic tiến hóa tự nhiên, để một nhóm các mô hình nhỏ hơn hợp tác như một đàn cá. Các thành tựu nghiên cứu tiêu biểu của công ty bao gồm Continuous Thought Machine (Máy suy nghĩ liên tục) và dự án "AI Scientist" có khả năng tự thực hiện nghiên cứu từ đầu đến cuối.

Gần đây, công ty này đã ra mắt mô hình Sakana Fugu với hiệu suất tiên tiến.

Sakana AI đã huy động tổng cộng 379 triệu USD, bao gồm vòng gọi vốn Series B hoàn thành vào tháng 3 năm 2026, với Mitsubishi Electric là một trong những nhà đầu tư. Vào tháng 3 năm 2026, công ty cũng đã ký thỏa thuận hợp tác nhiều năm với Tập đoàn Tài chính Mitsubishi UFJ (MUFG). Bên sau có kế hoạch sử dụng công nghệ của Sakana để cải tạo hệ thống ngân hàng, và theo báo cáo, thỏa thuận này có thể giúp công ty, với định giá khoảng 1,5 tỷ USD, đạt lợi nhuận trong vòng một năm.

Bản thân Jones đã nhiều lần bày tỏ sự hoài nghi về việc "scaling" đơn thuần.

Vào tháng 3 năm 2026, tại một sự kiện nội bộ ngành ngân hàng, ông nói rằng nghiên cứu AI hiện tại đang đối mặt với một thực tế khó xử: đầu tư và nhân tài đổ vào ồ ạt, về lý thuyết sẽ thúc đẩy nhiều đột phá hơn, nhưng hiệu quả thực tế có thể ngược lại: nhà đầu tư thúc ép kết quả, cạnh tranh thúc ép ra mắt sớm, không gian "tự do khám phá" dành cho nhà nghiên cứu bị thu hẹp.

Ông đề cập rằng nội bộ Sakana luôn giữ một phần nhỏ tự do nghiên cứu "không có KPI", bởi vì đột phá tiếp theo chắc chắn đến từ những khoản đầu tư dài hạn không tính toán hậu quả này – đây chính là cách mà văn phòng Google Brain năm đó đã ấp ủ ra Transformer.

Ông cũng từng nói một câu được trích dẫn nhiều lần: để một kiến trúc mới thực sự thay thế Transformer, chỉ "tốt hơn" thôi là chưa đủ, mà phải "tốt hơn rõ ràng, không thể nghi ngờ".

Aidan N. Gomez

Gomez là người trẻ nhất trong số tám tác giả. Vào năm bài báo được công bố, anh chỉ là một thực tập sinh đại học 20 tuổi tại Google Brain, đang học song bằng Khoa học Máy tính và Toán học tại Đại học Toronto.

Theo phần ghi chú đóng góp của tác giả trong bài báo, anh ấy và Łukasz Kaiser đã dành vô số ngày đêm để xây dựng các mô-đun của framework tensor2tensor, thay thế các thư viện mã cũ, qua đó cải thiện đáng kể kết quả thí nghiệm và hiệu quả nghiên cứu. "Lúc đó tôi chỉ muốn hiểu cơ chế attention thực sự hoạt động như thế nào," anh ấy sau này nhớ lại, "hoàn toàn không ngờ nó lại trở thành 'kiến trúc của vạn vật'." Sau bài báo, anh ấy theo học tiến sĩ tại Đại học Oxford, tạm dừng việc học để khởi nghiệp, và phải đến năm 2024 mới chính thức nhận bằng tiến sĩ – có thể nói anh ấy vừa khởi nghiệp vừa hoàn thành chương trình học.

Năm 2019, Gomez cùng Ivan Zhang và Nick Frosst thành lập Cohere, định vị công ty là nhà cung cấp dịch vụ AI cho doanh nghiệp, cố tình tránh cuộc đua đốt tiền vào chatbot tiêu dùng, tập trung vào quyền riêng tư dữ liệu, triển khai tại chỗ và khả năng đa ngôn ngữ, với khách hàng chủ yếu là các tập đoàn lớn và chính phủ các nước.

Năm 2023, Gomez được tạp chí Time bình chọn vào danh sách 100 nhân vật có ảnh hưởng nhất trong lĩnh vực AI, và cùng hai đồng sáng lập giành vị trí đầu tiên trong bảng xếp hạng Những người tiên phong xu hướng AI của tạp chí Maclean's năm đó; tháng 4 năm 2025, anh ấy lại được bầu vào ban giám đốc của công ty xe điện Rivian.

Chiến lược tương đối "không hấp dẫn" này lại giúp công ty đạt được những chỉ số tài chính khả quan: Tính đến giữa năm 2026, doanh thu định kỳ hàng năm của Cohere đã vượt 200 triệu USD, tăng gấp 6 lần so với năm trước, biên lợi nhuận gộp khoảng 70%, tổng số vốn huy động gần 1,7 tỷ USD, định giá khoảng 7 tỷ USD; vào tháng 8 năm 2025, công ty đã mời Francois Chadwick, người từng tham gia vào đợt IPO của Uber, làm CFO đầu tiên, và cửa sổ cho nhân viên bán cổ phần trên thị trường thứ cấp cũng đã mở một lần. Bản thân Gomez nhiều lần nói rằng IPO "sắp diễn ra", nhưng tính đến nay công ty vẫn chưa nộp hồ sơ đăng ký cho cơ quan quản lý.

Trong những năm gần đây, Gomez ngày càng trở nên giống một người phát ngôn AI theo nghĩa địa chính trị. Ngay trong tuần này, anh ấy đã viết một bài báo trên tạp chí Fortune, kêu gọi các quốc gia coi trọng vấn đề "chủ quyền kỹ thuật số".

Bài báo trực tiếp đề cập đến sự kiện gần đây quyền truy cập vào mô hình Anthropic bị thắt chặt, cảnh báo các quốc gia không nên "cho thuê" tương lai của mình cho một số ít gã khổng lồ công nghệ tập trung, đồng thời đề xuất xây dựng một hệ sinh thái thực sự đa dạng, cho phép các quốc gia phụ thuộc vào các nhà cung cấp AI khác nhau, đồng thời bảo vệ các giá trị, ngôn ngữ và hệ thống pháp luật riêng của mình.

Anh ấy cũng từng công khai bày tỏ rằng những lo ngại bên ngoài về rủi ro tồn tại kiểu "ngày tận thế AI" đã bị thổi phồng quá mức, và mối lo ngại thực tế hơn của anh ấy là thông tin sai lệch bị khuếch đại tự động trên mạng xã hội. Những gì Gomez nói đến ngày nay không chỉ còn là bản thân mô hình, mà còn là ai có tư cách quyết định thế giới sẽ sử dụng loại AI nào.

Łukasz Kaiser

Kaiser là người Ba Lan, nền tảng học thuật ban đầu của ông thuộc lĩnh vực khoa học máy tính lý thuyết như logic học, lý thuyết automata, lý thuyết mô hình thuật toán và lý thuyết trò chơi: Ông lấy bằng thạc sĩ kép về Toán học và Khoa học máy tính tại Đại học Wrocław, hoàn thành chương trình tiến sĩ tại Đại học RWTH Aachen, sau đó có vị trí giáo sư chính thức tại Trung tâm Nghiên cứu Khoa học Quốc gia Pháp (CNRS) và Đại học Paris Diderot, chuyên sâu vào nghiên cứu lý thuyết thuần túy về logic học và lý thuyết automata.

Sau đó, ông chuyển hướng sang ứng dụng, làm việc tại Google Brain gần 8 năm, trong thời gian đó ông cũng là một trong những đồng tác giả của TensorFlow, đồng thời hợp tác với Samy Bengio để công bố bài báo đầu tiên về "Liệu bộ nhớ chủ động có thể thay thế sự chú ý hay không", và hợp tác với Ilya Sutskever để công bố "Thuật toán học Neural GPU".

Theo phần ghi chú đóng góp của tác giả trong bài báo, ông và Aidan N. Gomez đã dành vô số ngày đêm để xây dựng framework tensor2tensor, giúp cải thiện đáng kể kết quả thí nghiệm và hiệu quả nghiên cứu.

Trong số tám tác giả, ông là người duy nhất không khởi nghiệp mà luôn ở lại các phòng thí nghiệm lớn để làm nghiên cứu thuần túy.

Năm 2021, ông gia nhập OpenAI, khi đó ChatGPT vẫn chưa ra mắt. Tại OpenAI, ông tham gia phát triển Codex (sau này trở thành nền tảng kỹ thuật của GitHub Copilot) cùng với chuẩn lập trình HumanEval đi kèm, cũng tham gia nghiên cứu bộ dữ liệu bài toán GSM8K. Công trình này đã sớm chứng minh rằng "cho mô hình suy luận lâu hơn một chút và lấy mẫu nhiều lần hơn" có thể cải thiện đáng kể độ chính xác – đây chính là hình mẫu ban đầu của mô hình suy luận sau này.

Ông cũng là một trong những tác giả ký tên trong báo cáo kỹ thuật của GPT-4, sau đó trở thành người đóng góp cốt lõi cho mô hình suy luận đầu tiên của OpenAI là o1 (phát hành tháng 9 năm 2024), được coi là vai trò "trưởng nhóm nghiên cứu", và tiếp tục phát triển đến o3 cùng các mô hình suy luận mới hơn, cho đến dòng GPT-5 ngày nay.

Gần đây, trong podcast MAD do Matt Turck chủ trì, ông đã chia sẻ rằng Transformer đã được chứng minh bằng toán học có thể giải quyết bất kỳ vấn đề nào, miễn là cho phép mô hình tạo ra đủ các bước suy luận trung gian. Ở một mức độ nào đó, đây là một lời giải thích muộn màng nhưng chính xác hơn cho bài báo chín năm trước.

Illia Polosukhin

Polosukhin đến từ Kharkiv, Ukraine, tốt nghiệp ngành Toán ứng dụng và từng là quán quân của cuộc thi Lập trình Sinh viên Quốc tế (ICPC). Theo hồi ức của anh, sau khi xem bộ phim "Ma trận" năm 10 tuổi, anh đã có niềm đam mê gần như ám ảnh với trí tuệ nhân tạo. Năm 2014, anh gia nhập Google, tham gia nghiên cứu liên quan đến TensorFlow và cũng thực hiện các nghiên cứu về đọc hiểu máy tính và hệ thống hỏi đáp.

Theo phần ghi chú đóng góp của tác giả trong bài báo, anh cùng với Ashish Vaswani đã thiết kế và triển khai mô hình Transformer ban đầu, phần anh phụ trách chủ yếu là xác minh tính hiệu quả của kiến trúc này trong các tác vụ dịch máy.

Sau khi bài báo được công bố, anh rời Google vào năm 2017 và cùng Alexander Skidanov thành lập một công ty AI ban đầu có tên NEAR.AI. Nhưng họ nhanh chóng nhận ra rằng xây dựng cơ sở hạ tầng phi tập trung có thể thú vị hơn so với phát triển mô hình, vì vậy công ty đã chuyển đổi thành dự án blockchain NEAR Protocol vào khoảng năm 2018.

NEAR sử dụng công nghệ sharding có tên Nightshade và cung cấp mạng layer-2 tương thích với Ethereum thông qua Aurora. Mạng chính thức ra mắt vào năm 2020 và cho đến nay đã huy động được hơn 530 triệu USD từ các tổ chức như a16z, Coinbase, Tiger Global, Hashed, Dragonfly Capital.

Ngày nay, Polosukhin đang cố gắng kết hợp lại hai danh tính ban đầu của mình: Vào tháng 3 năm 2026, anh nói với truyền thông rằng "Người dùng tương lai của blockchain sẽ là các tác nhân AI, chứ không phải con người", và định vị NEAR như một "lớp thanh toán" cho nền kinh tế tác nhân.

Cùng tháng 4 năm đó, anh công khai kêu gọi xây dựng một khuôn khổ quản lý hoàn thiện hơn để đối phó với các tác nhân AI tự chủ; anh cho rằng các tổ chức và hệ thống hiện tại chưa sẵn sàng xử lý các vấn đề về trách nhiệm và rủi ro hệ thống do các hệ thống này gây ra, đồng thời kêu gọi thiết lập cơ chế trách nhiệm rõ ràng hơn và giám sát kiểu "con người trong vòng lặp".

Hiện anh thường trú tại Bồ Đào Nha. Giữa hai danh tính "người viết bài báo nền tảng về LLM" và "người điều hành một công ty blockchain trị giá hàng tỷ đô la", có lẽ trên thế giới chỉ có một mình anh sở hữu cả hai.

Tám con đường, tiếp tục khám phá

Vào tháng 3 năm 2024, tại hội nghị GTC của NVIDIA, bảy trong số tám tác giả (Niki Parmar vắng mặt vì lý do cá nhân) lần đầu tiên xuất hiện cùng nhau trên sân khấu với tư cách một nhóm, tham gia cuộc phỏng vấn với Jensen Huang.

Jensen Huang nói: "Mọi thứ chúng ta tận hưởng ngày hôm nay đều có thể truy ngược về khoảnh khắc đó."

Khi cuộc đối thoại kết thúc, ông tặng mỗi người một tấm kỷ niệm có chữ ký trên siêu máy tính DGX-1 của NVIDIA, khắc dòng chữ "Các bạn đã thay đổi thế giới (You transformed the world)". Cùng năm đó vào tháng 11, Quỹ C&C của NEC Nhật Bản đã trao giải thưởng C&C năm đó cho "Nhóm Transformer" gồm tám người này. Cùng nhận giải với họ là ba kỹ sư kỳ cựu nghiên cứu công nghệ truyền dẫn cáp quang xuyên đại dương. Hai nhóm nhà xây dựng hạ tầng thuộc hai lĩnh vực hoàn toàn khác nhau được đặt chung trong một giải thưởng.

Chín năm trôi qua, tám quỹ đạo cuộc đời này đã phân tán đến những nơi gần như không còn giao nhau: đường đua dịch vụ doanh nghiệp ở Thung lũng Silicon, phòng thí nghiệm thuật toán tiến hóa ở Tokyo, công ty sinh học phân tử ở Berlin, giao thức blockchain ở Bồ Đào Nha, và một số phòng thí nghiệm AI hàng đầu vẫn đang tái tổ chức trong tuần này.

Nhưng nếu nhìn tổng thể những gì họ đã nói trong những năm qua, sẽ thấy một nhận định chung lặp đi lặp lại: Không ai thực sự tin rằng Transformer sẽ là điểm kết thúc.

Aidan N. Gomez nói rằng thế giới cần thứ tốt hơn Transformer; Llion Jones nói rằng kiến trúc tiếp theo phải "rõ ràng, không thể nghi ngờ là tốt hơn" mới có thể thay thế nó; còn Łukasz Kaiser vẫn đang dùng ngôn ngữ toán học để cố gắng giải thích kiến trúc ra đời cách đây chín năm này cuối cùng có thể đưa nhân loại đi xa đến đâu.

Đây có lẽ là di sản lâu dài nhất mà bài báo này để lại: Tám tác giả của nó rải rác khắp nơi, nhưng không một ai ngừng tìm kiếm câu trả lời tiếp theo.

Liên kết gốc

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia