میسترال مدل Shieldstral را عرضه کرد: یک مدل کوچک ۳ میلیاردپارامتری که برای تعدیل محتوای چندوجهی روی یک GPU با حافظه ۱۶ گیگابایت اجرا می‌شود و به ادعای این شرکت، به بالاترین سطح عملکرد در میان مدل‌های متن‌باز دست یافته است.
هوش مصنوعی Mistral در تاریخ ۴ اوت از مدل جدیدی برای بررسی محتوا با نام Shieldstral رونمایی کرد؛ مدلی که می‌توان آن را «بمب اتمِ بررسی محتوا» نامید. این مدل در مجموع ۳ میلیارد پارامتر دارد، با وزن‌های باز عرضه شده و تحت مجوز Apache 2.0 در دسترس قرار گرفته است. Shieldstral در پلتفرم Hugging Face منتشر شده و از ۱۲ زبان پشتیبانی می‌کند. جذاب‌ترین ویژگی آن این است که می‌تواند روی یک GPU با حافظه ۱۶ گیگابایت اجرا شود. Mistral ادعا می‌کند عملکرد این مدل در زمینه ایمنی محتوا می‌تواند با مدل‌های متن‌بازِ هفت برابر بزرگ‌تر رقابت کند و در بررسی محتوای چندوجهی نیز به SOTA یا بالاترین سطح عملکرد فعلی دست یافته است.
بیشتر مدل‌های محافظت و ایمنی یک مشکل مشترک دارند: آن‌ها نظام دسته‌بندی محتوای مضر را مستقیماً در وزن‌های مدل جای می‌دهند. بنابراین، وقتی محصول یا سناریوی استفاده تغییر می‌کند، توسعه‌دهندگان اغلب مجبور می‌شوند مدل را دوباره آموزش دهند. Shieldstral رویکرد متفاوتی دارد و سیاست‌های بررسی محتوا را در ورودی مدل قرار می‌دهد. اپراتور می‌تواند خودش یک پرسش «بله یا خیر» بنویسد، سپس سناریوی ارزیابی و توضیحی درباره میزان سخت‌گیری را به آن اضافه کند. پس از آن، مدل تنها یک امتیاز ایمنیِ تنظیم‌شده را از طریق یک توکن خروجی ارائه می‌دهد.
از نظر سازوکار، Shieldstral هر وظیفه بررسی را به یک پرسش و پاسخ دودویی تبدیل می‌کند. ورودی مدل از سه بخش برچسب‌گذاری‌شده تشکیل می‌شود:
: سناریوی ارزیابی و میزان سخت‌گیری را توضیح می‌دهد.
: یک پرسش «بله یا خیر» مطرح می‌کند؛ برای مثال: «آیا این محتوا خشونت فیزیکی را ترویج می‌کند؟»
: محتوایی را که باید بررسی شود ارائه می‌دهد. این محتوا می‌تواند یک پرامپت، یک پاسخ، ترکیبی از هر دو، یا یک تصویر همراه با متن اختیاری باشد.
در زمان استنتاج، مدل فقط مقادیر منطقی مربوط به توکن‌های «بله» و «خیر» را بررسی می‌کند، آن‌ها را با استفاده از تابع softmax به یک امتیاز پیوسته تبدیل می‌کند و سپس با درنظرگرفتن آستانه ۰٫۵، یک قضاوت دودویی ارائه می‌دهد. این طراحی باعث می‌شود مدل بتواند طبقه‌بندی پرامپت، بررسی پاسخ، تشخیص امتناع از پاسخ‌گویی و شناسایی محتوای سمی را هم‌زمان پوشش دهد و بررسی چندوجهی محتوا را در توان یک GPU معمولیِ مصرفی قرار دهد.