در رویداد اسنپدراگون ۲۰۲۶، شرکت کوالکام با همکاری پریزمال (PrismML) موفق شد یک مدل بینایی کوانتیزهشده ۱ بیتی با ۲ میلیارد پارامتر به نام Bonsai را روی پلتفرم عینک هوش مصنوعی Snapdragon AR1 Gen 1 اجرا کند. این فناوری به عینکهای هوش مصنوعی امکان میدهد حتی در حالت آفلاین نیز تشخیص تصویر انجام داده و به پرسشها پاسخ دهند.
کوانتیزهسازی ۱ بیتی؛ مصرف حافظه برابر با یکچهارم مدلهای ۴ بیتی
مدل ۱ بیتی Bonsai بر اساس نسخه ۱.۷ میلیاردی این مدل ساخته شده است. با فشردهسازی دقت مدل به ۱ بیت، حافظه مورد نیاز برای ذخیرهسازی و استنتاج بهشدت کاهش مییابد. طبق اعلام رسمی، این مدل میتواند حدود چهار برابر پارامترهای بیشتر را در همان ظرفیت حافظه جای دهد؛ بهطوریکه میزان مصرف حافظه آن حدود یکچهارم مدلهای سنتی ۴ بیتی بوده و سرعت تولید توکن متنی نیز دو برابر شده است.
بهبود تعامل آفلاین برای افزایش عمر باتری و راحتی کاربر
بر اساس اعلام شرکت سازنده، در سناریوهای دنیای واقعی تعاملات هوش مصنوعی دیگر نیازی به اتصال به ابر و انتظار کشیدن ندارند. کارهایی نظیر شناسایی اشیای مقابل کاربر، ترجمه متن، پاسخ به پرسشهای پیرامونی و ارائه دستیار صوتی، بهصورت محلی و بدون نیاز به استفاده از دست انجام میشوند. مدل ۱ بیتی همچنین با کاهش مصرف حافظه و توان مصرفی، به افزایش عمر باتری و کاهش تولید حرارت کمک میکند که برای عینکهای هوش مصنوعی با محدودیت ابعاد و سیستم خنککننده، اهمیت بسیار بالایی دارد.
