Mythos nguy hiểm đến mức nào? Anthropic quyết định không phát hành mô hình mới ra ngoài

Đề mục gốc: Cách Anthropic Học Được Mythos Quá Nguy Hiểm đối với Môi Trường Hoang Dã
Tác giả gốc: Margi Murphy, Jake Bleiberg và Patrick Howell O'Neill, Bloomberg
Dịch: Peggy, BlockBeats

Phác thảo: Khi một công ty trí tuệ nhân tạo chọn không phát hành mô hình mạnh nhất trực tiếp cho công chúng, điều đó chỉ ra vấn đề.

Mythos của Anthropic đã có khả năng hoàn thành một chuỗi hoạt động tấn công toàn diện. Từ việc phát hiện lỗ hổng zero-day, viết mã khai thác, đến liên kết các bước để xâm nhập vào hệ thống cốt lõi, những công việc mà trước đây cần sự hợp tác lâu dài của các hacker hàng đầu đã được nén xuống chỉ trong vài giờ hoặc thậm chí là phút.

Đó cũng là lý do tại sao, ngay sau khi mô hình được tiết lộ, Scott Bessent và Jerome Powell đã triệu tập các tổ chức tài chính Wall Street họp nhằm yêu cầu sử dụng nó để "tự kiểm tra". Khi khả năng phát hiện lỗ hổng được giải phóng một cách rộng rãi, hệ thống tài chính không còn phải đối mặt với các cuộc tấn công phân tán mà thay vào đó là quét mãi mãi.

Sự thay đổi sâu hơn nằm ở cấu trúc cung cấp. Trước đây, việc phát hiện lỗ hổng phụ thuộc vào một số ít đội ngũ an ninh và kinh nghiệm hacker, với tốc độ chậm và không thể sao chép. Bây giờ, khả năng này bắt đầu được đầu ra hàng loạt từ các mô hình, ngưỡng cửa cho cuộc tấn công và phòng thủ đều giảm. Một phép so sánh của một nguồn tin cậy: cho một hacker thông thường sử dụng mô hình có nghĩa giống như cho họ khả năng chiến đấu đặc biệt.

Các tổ chức đã bắt đầu kiểm tra ngược lại các hệ thống của chính họ bằng cùng một công cụ. JPMorgan Chase, Cisco Systems và nhiều hơn đã thực hiện kiểm thử nội bộ với hy vọng vá lỗ hổng trước khi bị khai thác. Nhưng rào cản thực tế vẫn không thay đổi, tốc độ phát hiện đang tăng, sửa lỗi vẫn chậm. "Chúng ta giỏi tìm lỗ hổng, nhưng không giỏi sửa chúng", phán đoán của Jim Zemlin, chỉ ra sự không đồng bộ về nhịp độ.

Thực tế, vì Mythos không chỉ là việc cải thiện khả năng của một điểm, mà là việc tích hợp, tăng tốc độ và giảm ngưỡng sử dụng của khả năng tấn công ban đầu phân tán và hạn chế. Một khi rời khỏi môi trường kiểm soát, khả năng này sẽ lan rộng như thế nào, không có kinh nghiệm có sẵn để tham chiếu.

Nguy hiểm không nằm ở khả năng của nó, mà nằm ở ai có thể sử dụng nó, và trong điều kiện nào nó sẽ được sử dụng.

Dưới đây là đoạn văn gốc:

Vào một buổi tối ấm áp vào tháng Hai, trong lúc dự một đám cưới tại Bali, Nicholas Carlini tạm rời khỏi bàn, mở máy tính xách tay, sẵn sàng "gây rối". Lúc đó, Anthropic vừa mở một mô hình trí tuệ nhân tạo mới có tên Mythos cho đánh giá nội bộ, và nhà nghiên cứu trí tuệ nhân tạo nổi tiếng này định xem mô hình này thực sự có thể gây ra rắc rối tới mức nào.

Anthropic đã thuê Carlini để thực hiện công việc kiểm tra "áp lực" trên mô hình AI nội bộ, đánh giá xem tin tặc có thể tận dụng chúng để thực hiện hoạt động gián điệp, lẻn vào hoặc phá hủy hay không. Trong khi tham gia lễ cưới Ấn Độ tại Bali, Carlini đã bị ấn tượng bởi khả năng của mô hình này.

Chỉ trong vài giờ, anh ấy đã tìm thấy nhiều kỹ thuật có thể được sử dụng để xâm nhập vào các hệ thống phổ biến trên toàn cầu. Khi anh ấy trở về văn phòng của Anthropic tại trung tâm thành phố San Francisco, anh ấy đã phát hiện thêm: Mythos đã có thể tự tạo ra các công cụ xâm nhập mạnh mẽ, bao gồm thậm chí cả các phương tiện tấn công đối với Linux - hệ điều hành mã nguồn mở nền tảng của hầu hết các hệ thống tính toán hiện đại.

Mythos đã thực hiện một "vụ cướp ngân hàng số": nó có thể vượt qua giao thức bảo mật, xâm nhập vào hệ thống mạng qua cửa chính, sau đó đột nhập vào kho bạc số để tiếp cận tài sản trực tuyến. Trước đây, AI chỉ có thể "mò khoá", nhưng bây giờ, nó đã có khả năng lên kế hoạch và thực hiện cả một "vụ cướp" toàn diện.

Carlini và một số đồng nghiệp đã bắt đầu cảnh báo bên trong công ty về những phát hiện của họ. Đồng thời, họ hầu như mỗi ngày đều phát hiện các lỗ hổng cấp độ nguy hiểm hoặc nguy hiểm trong các hệ thống mà Mythos đã phát hiện - những vấn đề này thường chỉ có các tin tặc hàng đầu thế giới mới có khả năng khai thác.

Mô hình trí tuệ nhân tạo thế hệ tiếp theo Mythos do Anthropic giới thiệu đã được chứng minh có khả năng xâm nhập vào các hệ thống trên toàn thế giới. (Nguồn hình ảnh: Jakub Porzycki / NurPhoto / AP)

Đồng thời, một nhóm gọi là "Frontier Red Team" bên trong Anthropic - được tạo thành từ 15 nhân viên, được gọi là "Ants" - cũng đang tiến hành các bài kiểm tra tương tự. Trách nhiệm của nhóm này là đảm bảo rằng mô hình của công ty sẽ không được sử dụng để gây hại cho con người. Họ sẽ mang robot chó đến kho hàng, thực hiện kiểm tra cùng các kỹ sư để xem liệu chatbot có thể bị kiểm soát độc hại hay không; họ cũng sẽ hợp tác với các nhà sinh học để đánh giá xem mô hình có thể sử dụng để sản xuất vũ khí sinh học hay không.

Và lần này, họ dần nhận ra rằng mối đe dọa lớn nhất từ Mythos đến từ lĩnh vực an ninh mạng. "Chỉ trong vài giờ nhận được mô hình, chúng tôi đã biết rằng nó khác biệt," Logan Graham, người chịu trách nhiệm của nhóm này cho biết.

Mô hình trước đây là Opus 4.6, đã thể hiện khả năng giúp con người tận dụng lỗ hổng phần mềm. Nhưng Graham chỉ ra rằng, Mythos đã có thể "tự tay" tận dụng những lỗ hổng này. Điều này tạo ra một mối đe dọa ở mức độ an ninh quốc gia, và dựa trên điều này, anh ấy đã cảnh báo lãnh đạo công ty. Điều này khiến anh ấy phải đối mặt với một tình hình phức tạp: giải thích với ban quản lý rằng động cơ tạo ra doanh thu quan trọng tiếp theo của công ty có thể không thể công bố cho công chúng vì quá nguy hiểm.

Anthropic 联合创始人兼首席科学官 Jared Kaplan cho biết rằng trong quá trình huấn luyện Mythos, anh luôn theo dõi một cách "rất sát sao" tiến triển của nó. Đến thời điểm tháng 1, anh bắt đầu nhận ra rằng khả năng của mô hình này trong việc khám phá lỗ hổng hệ thống rất mạnh mẽ. Là một nhà vật lý lý thuyết, Kaplan cần phải quyết định xem những khả năng này liệu có chỉ là "hiện tượng thú vị từ mặt kỹ thuật" hay "vấn đề thực tế liên quan mật thiết đến cơ sở hạ tầng Internet". Cuối cùng, anh rút ra kết luận là điều sau.

Hình ảnh Jared Kaplan (Anthropic Cofounder & Chief Scientific Officer) được cung cấp bởi: Chris J. Ratcliffe / Bloomberg

Trong một vài tuần cuối tháng 2 đến đầu tháng 3, Kaplan và Sam McCandlish, người đồng sáng lập, đã suy nghĩ: liệu họ có nên phát hành mô hình này hay không.

Vào tuần đầu tiên của tháng 3, Ban lãnh đạo của công ty — bao gồm CEO Dario Amodei, Tổng giám đốc Daniela Amodei, Giám đốc An ninh thông tin Vitaly Gudanets và những người khác — đã tổ chức cuộc họp để lắng nghe báo cáo từ Kaplan và McCandlish.

Kết luận của họ là: Mythos mang rủi ro quá cao, không phù hợp để công bố công khai. Tuy nhiên, Anthropic vẫn cho phép một số công ty, thậm chí là đối thủ cạnh tranh, thực hiện thử nghiệm trên nó.

"Chúng tôi nhanh chóng nhận ra rằng lần này chúng tôi cần áp dụng một phương pháp khá khác biệt, điều này không phải là một lần ra mắt sản phẩm thông thường," Kaplan cho biết.

Vào tuần đầu tiên của tháng 3, công ty cuối cùng đã đưa ra một quyết định thống nhất: chấp nhận Mythos là một công cụ phòng vệ an ninh mạng.

Hình ảnh Dario Amodei (Giám đốc điều hành Anthropic) được cung cấp bởi: Samyukta Lakshmi / Bloomberg

Phản ứng từ thị trường gần như đã xuất hiện ngay lập tức. Trong ngày Anthropic tiết lộ tồn tại của Mythos, Bộ trưởng Tài chính Mỹ Scott Bessent và Chủ tịch Ngân hàng Dự trữ Liên bang Jerome Powell đã triệu tập các nhà lãnh đạo cấp cao của Wall Street để tổ chức một cuộc họp khẩn cấp tại Washington. Thông điệp được truyền đạt rất rõ ràng: ngay lập tức tận dụng Mythos để phát hiện lỗ hổng trong hệ thống của bạn.

Theo nguồn tin từ một số nguồn có liên quan đến các nhà quản lý tham dự cuộc họp (yêu cầu giữ bí mật danh tính do tính chất của cuộc trò chuyện riêng tư), mức độ nghiêm túc của cuộc họp đã được thể hiện rõ—thậm chí các người tham dự đã từ chối tiết lộ nội dung cuộc họp cho một số cố vấn lõi.

Các quan chức Nhà Trắng đã phát đi cảnh báo khẩn về tiềm năng của Mythos như một công cụ hacker và cũng đã đưa ra quan điểm khuyến nghị "sử dụng nó cho mục đích phòng ngự," tất cả đều trỏ đến một sự thay đổi sâu hơn: Trí tuệ nhân tạo đang nhanh chóng trở thành một lực lượng quyết định trong lĩnh vực an ninh mạng. Anthropic đã mở Mythos dưới dạng hạn chế trong dự án "Project Glasswing" cho một số tổ chức sử dụng, bao gồm các doanh nghiệp như Amazon Web Services, Apple và JPMorgan Chase, để cho phép họ thử nghiệm; đồng thời, các cơ quan chính phủ cũng đã thể hiện sự quan tâm sâu sắc.

Trước khi công bố công khai, Anthropic đã thông báo cho các quan chức cao cấp của chính phủ Mỹ về khả năng của phiên bản xem trước của Mythos, bao gồm tiềm năng ứng dụng của nó trong cả tấn công mạng và phòng ngự. Đồng thời, công ty cũng đang liên tục tiếp xúc với nhiều cơ quan chính phủ. Một nhân viên của Anthropic yêu cầu giữ bí mật danh tính vì liên quan đến vấn đề nội bộ đã tiết lộ tình hình này.

Đối thủ cạnh tranh OpenAI cũng đã nhanh chóng phản ứng, thông báo vào thứ Ba rằng họ sẽ phát hành một công cụ có tên là GPT-5.4-Cyber để phát hiện lỗ hổng phần mềm.

Trong quá trình thử nghiệm các phiên bản sớm, các nhà nghiên cứu đã phát hiện hàng chục trường hợp hành vi "đáng lo ngại," bao gồm không tuân thủ hướng dẫn của con người, thậm chí trong một số trường hợp hiếm, các mô hình sẽ cố gắng che giấu hành vi của mình sau khi vi phạm hướng dẫn.

Hiện tại, Anthropic chưa chính thức công bố Mythos như một công cụ an ninh mạng, và các nhà nghiên cứu bên ngoài cũng chưa thực sự xác minh khả năng của nó. Nhưng quyết định "hạn chế truy cập" trước đây của công ty đã phản ánh một thỏa thuận ngày càng rõ ràng trong ngành và trong chính phủ: Trí tuệ nhân tạo đang tái cấu trúc cấu trúc kinh tế của an ninh mạng—nó đã đáng kể giảm chi phí phát hiện lỗ hổng, rút ngắn thời gian chuẩn bị tấn công và giảm ngưỡng công nghệ của một số loại tấn công.

Anthropic cũng cảnh báo rằng khả năng hành động tự trị mạnh mẽ hơn của Mythos mang theo rủi ro của nó. Trong quá trình thử nghiệm, nhóm đã quan sát nhiều trường hợp đáng lo ngại: mô hình không tuân thủ hướng dẫn và thậm chí cố gắng che giấu vết tích sau khi vi phạm. Trong một sự kiện, mô hình đã tự thiết kế một loạt các bước tấn công, "thoát" khỏi môi trường hạn chế, có được quyền truy cập Internet rộng hơn và tự động phát hành nội dung.

Trong thế giới thực, phần mềm mà ứng dụng ngân hàng hay hệ thống bệnh viện phụ thuộc vào thường chứa đầy lỗ hổng mã code phức tạp và ẩn, những vấn đề này thường cần các chuyên gia mất vài tuần hoặc thậm chí vài tháng để phát hiện. Nhưng một khi hacker tận dụng các lỗ hổng này trước, có thể gây ra rò rỉ dữ liệu hoặc tấn công ransomware, mang theo hậu quả nghiêm trọng.

Tuy nhiên, cũng có nhiều chuyên gia hàng đầu đã đặt câu hỏi về khả năng thực sự của Mythos và nguy cơ tiềm tàng của nó. Cố vấn trí tuệ nhân tạo của Nhà Trắng, David Sacks, đã chia sẻ trên nền tảng xã hội X: “Ngày càng có nhiều người bắt đầu nghi ngờ xem Anthropic có phải là 'chàng trai kêu cứu sói' trong ngành trí tuệ nhân tạo hay không. Nếu mối đe dọa mà Mythos mang lại không xuất hiện, công ty sẽ đối mặt với một vấn đề uy tín nghiêm trọng.”

Tuy nhiên, thực tế là, các hacker đã bắt đầu sử dụng các mô hình ngôn ngữ lớn để thực hiện các cuộc tấn công phức tạp. Ví dụ, một tổ chức gián điệp mạng đã sử dụng mô hình Claude của Anthropic để tấn công khoảng 30 mục tiêu; những kẻ tấn công khác đã sử dụng trí tuệ nhân tạo để đánh cắp dữ liệu từ các cơ quan chính phủ, triển khai phần mềm kẻ tống tiền, và thậm chí phá hủy hàng trăm công cụ tường lửa được sử dụng để bảo vệ dữ liệu.

Theo một nguồn tin được biết, theo quan điểm của các quan chức liên quan đến an ninh quốc gia của Hoa Kỳ, sự xuất hiện của Mythos đang mang lại mức độ không chắc chắn chưa từng có—việc đánh giá rủi ro an ninh mạng trở nên khó khăn hơn. Nếu mô hình này rơi vào tay hacker cá nhân, hiệu quả của nó có thể tương đương với việc biến một lính bình thường trực tiếp thành một chiến binh đặc biệt.

Đồng thời, mô hình này cũng có thể trở thành một “bộ khuếch đại khả năng”: biến một tổ chức hacker tội phạm trở nên có khả năng tấn công cấp quốc gia nhỏ, và cho phép các hacker thông tin và quân đội của một số quốc gia nhỏ có thể thực hiện các cuộc tấn công mạng mà trước đây chỉ có các quốc gia lớn mới có thể thực hiện.

Người đứng đầu an ninh mạng trước đây của Cơ quan An ninh Quốc gia Hoa Kỳ, Rob Joyce, cho biết: “Tôi thực sự tin rằng, trong tương lai xa hơn, trí tuệ nhân tạo sẽ giúp chúng ta an toàn hơn, đáng tin cậy hơn. Nhưng trong khoảng thời gian từ bây giờ đến một thời điểm trong tương lai, sẽ có một khoảng thời gian 'tối tăm', trong thời gian này, trí tuệ nhân tạo tấn công sẽ có ưu thế rõ rệt—những người chưa chuẩn bị bảo vệ cơ bản sẽ bị tấn công trước tiên.”

Đáng chú ý, Mythos không phải là mô hình duy nhất có khả năng như vậy. Nhiều tổ chức đã sử dụng mô hình ngôn ngữ lớn để khai thác lỗ hổng, bao gồm cả các phiên bản sớm của Claude và Big Sleep.

JPMorgan Chase đã thành công trong việc sử dụng mô hình ngôn ngữ lớn để phát hiện lỗ hổng trong phần mềm ngân hàng trước khi Mythos được phát hành. Một nguồn tin am hiểu vấn đề đã tiết lộ thông tin này (yêu cầu không tiết lộ danh tính do dự án an ninh nội bộ).

Theo nguồn tin này, những lỗ hổng “zero-day” mà trước đây mất vài ngày hoặc thậm chí vài tuần để phát hiện, cùng quá trình viết mã khai thác cho chúng, hiện nay có thể được thực hiện nhanh chóng nhất chỉ trong một giờ, thậm chí chỉ trong vài phút thông qua trí tuệ nhân tạo. Thuật ngữ “zero-day” chỉ ra các lỗ hổng bảo mật mà phe phòng thủ chưa nhận ra, do đó rất ít thời gian để sửa chữa.

Hiện tại, JPMorgan Chase tập trung chủ yếu vào lĩnh vực chuỗi cung ứng và phần mềm mã nguồn mở, đã phát hiện nhiều lỗ hổng và thông báo vấn đề cho các nhà cung cấp liên quan.

CEO của công ty Jamie Dimon trong cuộc họp báo báo cáo tài chính cho biết, sự xuất hiện của Mythos "chỉ ra rằng vẫn còn rất nhiều lỗ hổng cần phải được sửa chữa ngay".

Nguồn hình ảnh của Jamie Dimon: Krisztian Bocsi / Bloomberg

Theo một nguồn tin được biết, trước khi công bố về sự tồn tại của Mythos với công chúng, JPMorgan Chase đã tiến hành trao đổi với Anthropic để thảo luận về việc thử nghiệm mô hình này. Người này yêu cầu không tiết lộ danh tính vì không được phép phát ngôn công khai. JPMorgan Chase từ chối bình luận về vấn đề này.

Hiện nay, các ngân hàng Wall Street khác và các công ty công nghệ cũng đang thử nghiệm việc sử dụng Mythos để sửa chữa nhược điểm hệ thống trước khi tin tặc phát hiện lỗ hổng. Theo báo cáo của Bloomberg, các tổ chức tài chính như Goldman Sachs, Citigroup, Bank of America và Morgan Stanley đã thử nghiệm công nghệ này nội bộ.

Nhân viên của Cisco Systems đặc biệt cảnh giác với một vấn đề: liệu tin tặc có tận dụng trí tuệ nhân tạo để tìm đường mở vào trong phần mềm thiết bị mạng toàn cầu của họ - những thiết bị này bao gồm bộ định tuyến, tường lửa và bộ điều chế. Giám đốc an ninh và niềm tin cao nhất của công ty, Anthony Grieco, cho biết anh đặc biệt lo lắng về việc trí tuệ nhân tạo có thể làm tăng tốc độ tin tặc tấn công vào những thiết bị đã "kết thúc vòng đời" - những thiết bị này trong tương lai sẽ không còn được hỗ trợ cập nhật từ Cisco nữa.

Tuy nhiên, việc sửa chữa các lỗ hổng mà trí tuệ nhân tạo phát hiện vẫn sẽ là một vấn đề khó khăn kéo dài. Quá trình này được gọi là "bản vá bảo mật" (security patching), thường đòi hỏi chi phí cao, chu kỳ kéo dài, đến mức nhiều tổ chức chọn lựa bỏ qua các lỗ hổng. Vụ tấn công thảm họa như của Equifax - khoảng 147 triệu người bị đánh cắp dữ liệu - chính là do các lỗ hổng đã biết nhưng không được sửa chữa kịp thời.

Trong vụ rò rỉ dữ liệu của Equifax, tin tặc đã đánh cắp khoảng 147 triệu hồ sơ cá nhân. (Nguồn hình ảnh: Elijah Nouvelage / Bloomberg)

Mặc dù sau khi từ chối hợp tác trong việc thực hiện giám sát quy mô lớn đối với công dân Mỹ, Anthropic từng được Chính phủ Trump xác định là "đe dọa chuỗi cung ứng", nhưng hiện tại công ty vẫn đang tiếp tục trao đổi và hợp tác với các cơ quan liên bang.

Bộ Tài chính Hoa Kỳ đang tìm kiếm sự cho phép sử dụng Mythos trong tuần này. Bộ trưởng Tài chính Scott Bessent cho biết rằng mô hình này sẽ giúp Hoa Kỳ duy trì ưu thế hàng đầu đối với các quốc gia khác trong lĩnh vực trí tuệ nhân tạo.

Hình ảnh Scott Bessent: Nguồn ảnh Matt McClain / Bloomberg

Trong một bài kiểm tra, Mythos viết ra một đoạn mã tấn công trình duyệt, kết hợp bon trong lỗ hổng khác nhau thành một chuỗi khai thác hoàn chỉnh—loại hành động này với các hacker con người thực sự là một nhiệm vụ cực kỳ khó khăn. Một báo cáo nghiên cứu an ninh mạng chỉ ra rằng, chuỗi "lỗ hổng" như vậy thường có thể xâm phạm qua biên giới hệ thống ban đầu với mức độ an ninh cao, tương tự như cách mà Stuxnet đã tấn công phân cách lõi Iran khi chúng sử dụng.

Hơn nữa, theo Anthropic, được dẫn dắt bằng các chỉ thị cụ thể, Mythos thậm chí còn có thể nhận biết và khai thác các "lỗ hổng zero-day" trong tất cả các trình duyệt phổ biến.

Anthropic cho biết họ đã sử dụng Mythos để phát hiện lỗ hổng trong mã nguồn Linux. Jim Zemlin chỉ ra rằng Linux "chạy trên hầu hết các hệ thống tính toán hiện nay", từ điện thoại thông minh Android, bộ định tuyến Internet, cho đến siêu máy tính của NASA, gần như vô cùng. Mythos có khả năng tự phát hiện nhiều lỗi trong mã nguồn mở này, và một khi lỗ hổng đã được khai thác, kẻ tấn công thậm chí còn có thể hoàn toàn kiểm soát toàn bộ máy tính.

Hiện nay, Linux Foundation đã có hàng chục nhân viên bắt đầu thử nghiệm Mythos. Theo Zemlin, một vấn đề quan trọng là: mô hình của Anthropic có thể cung cấp thông tin hữu ích đủ để giúp các nhà phát triển viết phần mềm an toàn hơn từ đầu, từ đó giảm thiểu việc phát sinh lỗ hổng hay không.

"Chúng tôi giỏi trong việc phát hiện lỗ hổng," ông nói, "nhưng lại làm rất tệ trong việc sửa chúng."

[Liên kết gốc]

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia