نسخه آزمایشی 0.2.0 ابزار متنباز اجرای محلی مدلهای هوش مصنوعی، یعنی Strata، با بهروزرسانیهای مهمی منتشر شد. این ابزار که برای اجرای روان مدلهای بزرگ زبانی مانند Qwen روی رایانههای خانگی طراحی شده است، در این نسخه جدید علاوه بر ارائه رابط گرافیکی مستقل، آستانه سختافزاری لازم برای استقرار محلی را بیش از پیش کاهش داده است.
در بخش الزامات سختافزاری، نسخه جدید بهینهسازی عمیقی روی مصرف ترکیبی رم و حافظه ویدیویی (RAM + VRAM) انجام داده است. مجموع رم و حافظه گرافیکی مورد نیاز برای اجرای روان مدلها اکنون به حداقل 27.6 گیگابایت رسیده است. این یعنی کاربری با یک کارت گرافیک 12 گیگابایتی و 20 گیگابایت حافظه رم سیستم میتواند حداقل شرایط لازم را برآورده کند. در رتبهبندیهای پیشنهادی، سطح پیشنهادی IQ2_XS از 48 گیگابایت به 40 گیگابایت کاهش یافته و سطح کیفیت بالای IQ3_XXS نیز از 64 گیگابایت به 48 گیگابایت تقلیل یافته است که نشاندهنده کاهش 8 تا 16 گیگابایتی سختافزار مورد نیاز است.
بهبود عملکرد پردازشی و شتابدهی سختافزاری
علاوه بر کاهش نیازمندیهای سختافزاری، Strata 0.2.0 در زمینه سرعت استنتاج نیز بهینهسازی شده است:
- کارتهای انویدیا (NVIDIA): سرعت تولید متن در سری RTX 30 تا حدود 13 درصد افزایش یافته است (افزایش 10.2 درصدی در RTX 3060 و 13 درصدی در RTX A4000).
- کارتهای ایامدی (AMD): سرعت پردازش دستورات در برخی مدلها روی کارتهای سری RX 9000 نزدیک به دو برابر شده است.
- کارتهای اینتل (Intel): سرعت پردازش دستورات گرافیک Arc A750 نیز حدود 42 درصد بهبود یافته است.
تجربه کاربری و رابط گرافیکی جدید
از نظر تجربه کاربری، نسخه 0.2.0 Strata پیچیدگیهای استقرار مبتنی بر خط فرمان را کنار گذاشته و از سیستمعاملهای ویندوز، مکاواس و لینوکس پشتیبانی کامل میکند. این نسخه مجهز به رابط گرافیکی بومی و راهنمای نصب هوشمند است. همچنین یک ایجنت برنامهنویسی هوش مصنوعی درون رابط کاربری جدید تعبیه شده که از خواندن و ویرایش فایلها، جستجوی وب و اجرای وظایف خودکار پشتیبانی میکند.
