در تاریخ ۳۱ ژوئیه، هواوی بهطور رسمی مدل زبانی بزرگ openPangu-2.0-Pro را تحت برند openPangu منتشر کرد. این انتشار شامل وزنهای مدل، کدهای پایه استنتاج و گزارشهای فنی است که گامی مهم در جهت تقویت اکوسیستم هوش مصنوعی Ascend و ارائه بهترین شیوهها برای توسعهدهندگان و شرکتهای مبتنی بر فناوریهای بومی هواوی محسوب میشود.
بر اساس اطلاعات منتشر شده، openPangu-2.0-Pro یک مدل زبانی بزرگ با معماری «ترکیب متخصصان» (MoE) است که بر روی پردازندههای Ascend NPU آموزش دیده است. این مدل دارای ۵۰۵ میلیارد پارامتر کل است که در هر توکن حدود ۱۸ میلیارد پارامتر آن فعال میشود. همچنین این مدل از طول متن ۵۱۲ هزار توکن پشتیبانی کرده و با استفاده از ۳۴ تریلیون توکن داده آموزش دیده است. در مرحله پس از آموزش، این مدل فرآیندهای تنظیم دقیق نظارتشده (SFT) و یادگیری تقویتی تخصصی را پشت سر گذاشته و از طریق تقطیر آنلاین (OPD) به قابلیتهای پیشرفتهای دست یافته است.
این اقدام بخشی از برنامه متنباز openPangu 2.0 هواوی است. در کنفرانس توسعهدهندگان HDC 2026، یو چنگدونگ، مدیر اجرایی هواوی، اعلام کرد که این شرکت هفت مؤلفه کلیدی از جمله کدهای پیشآموزش و پسآموزش را بهصورت مرحلهای منتشر خواهد کرد. پیش از این، مدل openPangu-2.0-Flash با ۹۲ میلیارد پارامتر در ۳۰ ژوئن عرضه شده بود.
یو چنگدونگ تأکید کرد که هواوی با وجود محدودیت در منابع محاسباتی، تمرکز ویژهای بر بهینهسازی کارایی مدل از نظر تأخیر و توان عملیاتی دارد. انتظار میرود با تداوم انتشار مدلهای هستهای و قابلیتهای آموزشی توسط هواوی، اکوسیستم توسعه هوش مصنوعی Ascend بیش از پیش تقویت شود.
جامعه متنباز Ascend: https://www.huaweicloud.com/product/modelarts/studio