Theo Động Sát Beating giám sát, kỳ lân AI châu Âu Mistral đã ra mắt mô hình kiểm duyệt nội dung Shieldstral. Mô hình chỉ có 3 tỷ tham số, có thể kiểm tra văn bản, hình ảnh và nội dung kết hợp, đồng thời đánh giá xem AI có nên từ chối trả lời hay không.
Nhiều mô hình kiểm duyệt truyền thống thường thiết lập sẵn các danh mục như khiêu dâm, bạo lực, thù hận. Khi tiêu chuẩn kiểm duyệt thay đổi, thường cần bổ sung dữ liệu, sau đó huấn luyện lại hoặc tinh chỉnh mô hình.
Shieldstral có thể trực tiếp đọc các quy tắc ngôn ngữ tự nhiên. Nhà phát triển chỉ cần thay đổi yêu cầu kiểm duyệt là có thể đổi sang một bộ tiêu chuẩn mới, mà không cần huấn luyện lại mô hình.
Mô hình hỗ trợ 12 ngôn ngữ bao gồm tiếng Trung, sử dụng giấy phép Apache 2.0. Theo công bố chính thức, chỉ cần một card đồ họa NVIDIA có 16GB VRAM là có thể chạy, kết quả kiểm duyệt văn bản ngang bằng với GPT-OSS-Safeguard-20B có số tham số gấp khoảng 7 lần.
