Động Sát Beating Tin nhanh AI, OpenAI bắt đầu khóa chuỗi tư duy ẩn của GPT-6.2 Astra và Sol, ngăn các mô hình khác thông qua API đánh cắp quá trình suy luận để huấn luyện mô hình của riêng mình. Cơ chế này có độ tương đồng cao với biện pháp chống chưng cất mà Anthropic đã ra mắt trước đó.
Cuối tháng 10, 《The Information》 dẫn lời người hiểu biết cho biết, DeepSeek và Moonshot AI đã sử dụng một lượng lớn đầu ra của GPT-6 Astra khi huấn luyện mô hình mới. Trước đó, các công ty AI trong nước từng chưng cất Claude với số lượng lớn, nhưng Anthropic không ngừng tăng cường phong tỏa, khiến một số nhà sản xuất chuyển mục tiêu sang OpenAI.
Chưng cất là để một mô hình học đầu ra của mô hình mạnh hơn, nhằm đạt được năng lực tương tự với chi phí thấp hơn. Nếu có thể lấy được chuỗi tư duy hoàn chỉnh, thậm chí cả cách mô hình phân tách vấn đề và từng bước đi đến đáp án đều có thể học được, có giá trị hơn là chỉ nhìn đáp án cuối cùng.
Anthropic vào tháng 6 năm nay đã thêm "khóa ngữ cảnh" cho chuỗi tư duy mã hóa của Claude. OpenAI hiện nay cũng áp dụng cơ chế tương tự: trong hội thoại nhiều lượt, mỗi đoạn suy luận đều được ràng buộc với các tin nhắn lịch sử trước khi nó được tạo ra. Nếu nhà phát triển sửa đổi lời nhắc cũ, cấu hình công cụ hoặc nội dung hội thoại, API có thể loại bỏ các mục suy luận sau vị trí thay đổi, ngăn kẻ tấn công thông qua việc giả mạo ngữ cảnh dụ dỗ mô hình tiết lộ suy nghĩ nội bộ.
Kết quả tự kiểm tra do OpenAI công bố cho thấy, trong các cuộc tấn công cố gắng trích xuất suy luận ẩn của lượt trước, tỷ lệ tấn công thành công trung bình của GPT-6 Astra lên tới 54%, GPT-6.2 Astra giảm xuống 0.2%, Sol là 0.5%.
Nhà phát triển bình thường cũng sẽ bị ảnh hưởng. Sửa đổi tin nhắn cũ hoặc nén lịch sử trò chuyện có thể khiến Agent mất đi thành quả suy luận trước đó, làm tăng mức tiêu thụ Token và độ trễ phản hồi. Do đó OpenAI khuyến nghị cố gắng giữ nguyên lịch sử hội thoại gốc và sử dụng giao diện nén ngữ cảnh do chính thức cung cấp.
