عصر روز ۲۸ جولای، شرکت Moonshot AI به طور رسمی مدل ۲.۸ تریلیون پارامتری Kimi K3 را متنباز کرد و وزنهای مدل و گزارش فنی آن را منتشر نمود. در همان روز، حساب رسمی ویبو MoLeThread اعلام کرد که سازگاری فوقسریع و راهاندازی پایدار Kimi K3 را بر اساس کارت محاسباتی هوشمند MTT S5000 و پشته نرمافزاری MUSA خود که برای آموزش و استنتاج هوش مصنوعی طراحی شده است، تکمیل کرده است.
Kimi K3 به عنوان اولین مدل بزرگ متنباز در سطح ۳ تریلیون پارامتر در جهان و قدرتمندترین نسخه Kimi تا به امروز، دارای ۲.۸ تریلیون پارامتر و پنجره متنی ۱۰۰,۰۰۰ توکنی است. این مدل به طور بومی از درک بصری پشتیبانی میکند و چندین نوآوری معماری مانند مکانیسم توجه خطی ترکیبی KDA (Kimi Delta Attention)، باقیماندههای توجه، Gated MLA و Stable LatentMoE را ادغام کرده است. این ویژگیها به طور خاص برای سناریوهای هوشمند پیشرفته مانند برنامهنویسی طولانیمدت، کارهای دانشمحور و استدلال پیچیده طراحی شدهاند.
این سازگاری فوقسریع نه تنها قابلیتهای واکنش سریع و همکاری کامل پشته اکوسیستم نرمافزاری MUSA شرکت MoLeThread را برای مدلهای بزرگ پیشرفته نشان میدهد، بلکه تواناییهای قوی پردازندههای گرافیکی داخلی با عملکرد کامل را در پشتیبانی از تحقیق و توسعه و پیادهسازی مهندسی مدلهای بزرگ تریلیون پارامتری تأیید میکند. با ادغام عمیق قدرت محاسباتی داخلی با کارایی بالا و اکوسیستمهای متنباز برتر، صنعت مدلهای بزرگ به سمت مرحلهای از نوآوری سختافزاری-نرمافزاری کارآمد، خودکنترل و کاملاً یکپارچه در حال شتاب است.
