‏دوره هوش مصنوعی لوکال Kyle Cook تو Master.dev

Master.dev یه دوره حدوداً چهار ساعته به اسم Local AI با تدریس Kyle Cook منتشر کرده. ادعای اصلی دوره اینه که مدل‌های لوکال الان برای کار روزمره کدنویسی کافی‌ان و اگه خودت اجراشون کنی، کدت خصوصی می‌مونه، هزینه هر توکن صفره و هیچ شرکتی نمی‌تونه محدودت کنه، قیمت رو عوض کنه یا سرویس رو قطع کنه. پیش‌نیازش آشنایی با کدنویسی ایجنتی و یه سیستم مناسبه، مثلاً مک با Apple Silicon یا PC با کارت گرافیک جدا.

ابزار اصلی دوره LM Studio هست. بخش اول توضیح می‌ده یه مدل چطور کار می‌کنه: توکن‌ها، context (یعنی حافظه مدل که کل گفتگو هر بار دوباره براش فرستاده می‌شه) و تنظیماتی مثل temperature، top K، top P و seed که میزان تصادفی بودن خروجی رو کنترل می‌کنن. نکته مهم سخت‌افزاری اینه که کل مدل باید تو VRAM کارت گرافیک جا بشه، وگرنه سرعت خیلی افت می‌کنه.

بعد سراغ پیدا کردن مدل تو Hugging Face می‌ره: خانواده‌های مدل، معنی اسم‌ها، و دسته‌بندی‌هایی مثل reasoning، vision و tool calling. فرق مدل‌های dense با MoE (یعنی mixture-of-experts که هر بار فقط بخشی از مدل فعال می‌شه و برای همین سریع‌تره) و قابلیت multi-token prediction هم توضیح داده می‌شه. برای کاربرای مک توصیه شده نسخه‌های MLX رو بگیرن چون برای اپل بهینه‌ست.

بخش سخت‌افزار و quantization (یعنی کم کردن تعداد بیت‌های هر وزن مدل، مثلاً از FP16 به Q8، تا حجمش کوچیک بشه) قلب دوره‌ست. اینجا فرمت GGUF با MLX مقایسه می‌شه و نشون داده می‌شه بزرگ کردن context window چقدر حافظه بیشتری می‌خواد. ترفندهایی مثل offload و quantize کردن KV cache هم برای کم کردن مصرف حافظه معرفی می‌شن که البته به قیمت سرعت و کیفیت تموم می‌شن.

بخش آخر LM Studio رو به یه سرور لوکال با API سازگار با OpenAI تبدیل می‌کنه و به VS Code و ابزار ترمینالی Pi وصلش می‌کنه. برای دسترسی از دستگاه‌های دیگه هم LM Link و Tailscale مقایسه می‌شن. مدرس در آخر توصیه می‌کنه با مدل‌های کوچیک‌تر Qwen برای کدنویسی شروع کنی و بعد هر مدل بزرگ‌تر رو یه روز امتحان کنی تا مدل مورد علاقه‌ت رو پیدا کنی.

نکات کلیدی:

• دوره حدود ۴ ساعته و ۱۰ سپتامبر ۲۰۲۶ روی Master.dev منتشر شده.
• ابزار اصلی LM Studio هست و سرورش API سازگار با OpenAI می‌ده.
• برای سرعت خوب، کل مدل باید تو VRAM جا بشه.
• برای مک، فرمت MLX سریع‌تر از GGUF توصیه شده.
• بزرگ کردن context window مصرف حافظه رو خیلی بالا می‌بره.
• نقطه شروع پیشنهادی برای کدنویسی مدل‌های کوچیک Qwen هست.