چرا باید هوش مصنوعی شخصی داشته باشیم؟

درشرایطی که امکان قطع شدن اینترنت و به طبع آن دسترسی به مدل های زبانی بلا مانع هست داشتن یک مدل زبانی متن باز (Open Source) یا هوش مصنوعی شخصی بر روی سیستم میتواند برای ما خیلی کمک کننده باشد .

علاوه بر این به  مزیت های دیگه ای هم  میتوان شاره کرد از جمله رایگان بودن این مدل های زبانی ( بدون خرید API) و حفظ حریم خصوصی کاربر ( داده ها از کامپیوتر خارج نمیشوند ) و قابلیت شخصی سازی (کاربری مورد نیاز و قدرت سخت افزاری سیستم ) .

 جعبه‌ابزار هوش مصنوعی شخصی: معرفی نرم‌افزارهای اجرای مدل

برای نصب مدل های زبانی به صورت لوکال روی سیستم نیاز به نرم افزارهایی دارید که مدل زبانی را روی سیستم شما نصب و جرا کنند که به این نرم افزار ها به اصطلاح جعبه ابزار هوش مصنوعی گفته میشود که به زبان ساده تر نقش یک پلیر که موزیک را پخش میکند بازی میکنند که چند تا از این نرم افزار هارو براتون نام میبریم که هر کدام مزیت متفاوتی دارند و بر اساس نیازتون میتوانید هر کدوم رو روی سیستم شخصی خودتان اجرا کنید .

(LM Studio) : محبوب‌ترین و ساده‌ترین

این ابزار یکی از محبوب ترین نرم افزار های هستش که میتوانید از آن استفاده کنید و بسیار رابط گرافیکی ساده ای داره مثل رابط کاربری ChatGPT که بدون  نیاز به دانش فنی و کد نویسی قابلیت اجرا روی ویندوز مک و لینوکس رو داره و متویند توی خود برنامه مدل زبانی  مثل gpt _oss /qwen3/gemma3/deep seek   رو داره و میتوانید مدل مورد نظرتون رو سرچ و دانلود نصب کنید.

 (Ollama) : سبک و حرفه‌ای

این ابزار یک مقدار نیاز به دانش فنی دارد و بر اخلاف LM Studio باید برای نصب مدل های زبانی از خط فرمان (Command Line/CMD) استفاده کرد.
این نرم افزار با این که نسخه های ویندوز و لینوکس هم دارد ولی برای استفاده در سیستم عامل مک شناخته شده تر است  و مزیت دیگری که دارد میتوان با این ابزار مدل های زبانی مناسب ساخت عکس  (مثل xz-image-turbo یا flux) رو هم روی سیستم شخصی نصب کرد  و با نوشتن پرامت متنی به صورت افلاین این زبان ها عکس تولید بکنند فعلا برای نسخه مک موجوده .

 (GPT4All) : مناسب سیستم های  گرافیک ضعیف

این نرم افزار مناسب سیستم هایی با GPU  ضعیف تر هستند و این نرم افزار فشار روی پردازنده اصلی CPU  می اندازد که این ویژگی باعث میشه روی اکثر لپتاپ ها قابل اجرا باشد.
این نرم افزار هم نسخه های قابل  نصب روی سیستم عامل های ویندوز مک و لینوکس رو دارد.

انتخاب LLM مناسب در جعبه بزار های هوش مصنوعی  :

دانلود و نصب جعبه ابزار هایی که فهرست کردیم به تنهایی کاربردی نیست و باید داخل نرم افزار های نام برده که مدل های مختلفی لیست شده بر اساس موارد استفاده  ( کد نویسی ،ترجمه ،تولید عکس و..) و مشخصات سخت افزاری سیستم شخصی شما از جمله CPU GPU  و فضای خالی آن مدل مد نظر خود را دانلود کنید..

مدل‌های پیشنهادی منابع عبارتند از:

Llama 3  متا:  مدل استاندارد و قدرتمند (نسخه ۸ میلیارد پارامتری).

Gemma  گوگل:  مدل‌های سبک و اپن‌سورس گوگل که برای کارهای عمومی عالی هستند.

DeepSeek : گزینه‌ای فوق‌العاده برای برنامه‌نویسی و کارهای فنی.

نکته درباره حجم و سخت‌افزار:

مدل‌های ۷ تا ۸ میلیارد پارامتری (7B/8B) حدود ۴ تا ۸ گیگابایت حجم دارند و روی سیستم‌های خانگی با رم ۸ تا ۱۶ گیگ اجرا می‌شوند.

مدل‌های ۷۰ میلیارد پارامتری نیاز به کارت گرافیک‌های بسیار قوی (مثل ۳۰۹۰ یا ۴۰۹۰) دارند.

تعداد پارامتر چیست ؟

منظور از تعداد پارامتردر واقع همان اندازه مغز مصنوعی مدل است ؛ یعنی هرچه این عدد بزرگ‌تر باشد، هوش مصنوعی اطلاعات بیشتری میداند  و توانایی استدلال پیچیده‌تری دارد. برای مثال، یک مدل 8B  مثل یک دستیار باهوش است که روی لپ‌تاپ‌های معمولی هم به راحتی اجرا می‌شود و از پس کارهای روزمره برمی‌آید، اما مدل‌های سنگین‌تری مثل 70B مثل یک متخصص تمام‌عیار هستند که برای تحلیل‌های عمیق ساخته شده‌اند. اما انتخاب مدل باید با سخت‌افزار شما همخوانی داشته باشد؛ چون مدل‌های بزرگ‌تر به حافظه رم و کارت گرافیک بسیار قدرتمندی نیاز دارند.