شرکت دیپ‌سیک (DeepSeek) پس از انتشار مجموعه‌ای از مدل‌های بزرگ، ابزار کامپایلر TileLang و کتابخانه عملگرهای استنتاج، اکنون فریم‌ورک استنتاج داخلی خود یعنی DeepInfer را به‌طور کامل متن‌باز کرد. این شرکت قصد دارد یکی از حلقه‌هایی را که مدت‌ها در پشت صحنه پنهان بود، تقویت کند؛ یعنی فریم‌ورک استنتاج.
از نظر دیپ‌سیک، سقف توانمندی مدل توسط خود آن تعیین می‌شود، اما «نحوه ارائه مقیاس‌پذیرترین مدل‌ها با هزینه معقول» به این لایه معماری میانی بستگی دارد. آموزش به مدل یاد می‌دهد که چهاردنگ باشد، اما استنتاج باعث می‌شود که قابل استفاده برای عموم مردم شود. هنگامی که تعداد زیادی از کاربران به صورت همزمان درخواست ارسال می‌کنند، فریم‌ورک استنتاج وظیفه مدیریت و هماهنگی خوشه‌های محاسباتی پیچیده را بر عهده دارد و میزان بهره‌وری آن به‌طور مستقیم هزینه‌های پردازشی و مصرف برق خدمات هوش مصنوعی را کاهش می‌دهد.
متن‌باز کردن برای کاهش هزینه‌های استفاده از هوش مصنوعی
هدف دیپ‌سیک کاملاً روشن است: به اشتراک‌گذاری تجربیات استقرار داخلی برای کمک به توسعه‌دهندگان و سازمان‌ها جهت بهینه‌سازی توان عملیاتی (Throughput) و تأخیر استنتاج در مقیاس بزرگ، تا بتوانند استقرار خصوصی یا ابری را به شکل کارآمدتری انجام داده و هزینه‌های محاسباتی را کاهش دهند. به عبارت دیگر، هدف این است که هوش مصنوعی با قیمت ارزان‌تر به دست افراد بیشتری برسد و «فراگیری واقعی مدل‌های بزرگ» محقق شود.
این فریم‌ورک تنها در حد یک ایده نیست. دیپ‌سیک بر اساس DeepInfer توانسته خدمات استنتاج مقیاس بزرگ با توان عملیاتی بالا و تأخیر کم را برای مدل DeepSeek V4.1 Flash راه‌اندازی کند؛ کدهای استنتاج مدل‌های جدید و بهینه‌سازی‌های بعدی نیز در همین‌جا به‌روزرسانی خواهند شد. فهرست قابلیت‌های عمومی نشان می‌دهد که DeepInfer عملگرهای با عملکرد بالا و موتورهای استنتاج بهینه‌سازی‌شده را یکپارچه کرده و از استنتاج توزیع‌شده، گمانه‌زنی رمزگشایی (Speculative Decoding)، خروجی‌های ساختاریافته و سایر ویژگی‌ها پشتیبانی می‌کند. همچنین با هر دو پلتفرم انویدیا و هواوی (Ascend) سازگار است.
همزمان با این فریم‌ورک، کامپوننت رمزگذار-رمزگشای توکن در سطح تولید با نام deepseek-recipe نیز متن‌باز شده است که منطق پردازشی آن کاملاً با API رسمی دیپ‌سیک مطابقت دارد. این دو کد در گیت‌هاب (GitHub) در مخزن‌های deepseek-ai/DeepInfer و deepseek-ai/deepseek-recipe میزبانی می‌شوند.
از مدل‌ها گرفته تا کتابخانه عملگرها و فریم‌ورک استنتاج، دیپ‌سیک در حال انتقال تمام مهارت‌های «مدل‌سازی» خود به جامعه متن‌باز است. هنگامی که هزینه پردازشی به بزرگ‌ترین مانع برای پذیرش هوش مصنوعی تبدیل می‌شود، تحویل هسته بهره‌وری شاید بیش از انتشار چند وزن مدل بتواند اکوسیستم را تحت تأثیر قرار دهد.