تجربهی کدنویسی با مدلهای زبانی محلی
هوش مصنوعی
جاوااسکریپتخلاصهٔ کاملتر
بیرگیتا بوکلر، مهندس ارشد Thoughtworks، تو دومین یادداشتش از یه مجموعه، تجربهش از اجرای مدلهای زبانی کوچیک بهصورت محلی روی لپتاپ توسعهدهنده رو تعریف میکنه. تمرکزش مشخصاً روی کدنویسی agenticه، نه فقط auto-complete. دستگاههاش هم یه مک M3 Max با ۴۸ گیگ رم و یه M5 Pro با ۶۴ گیگ رم بودن.
نویسنده ارزیابی مدلها رو مثل یه قیف با سطوح مختلف میبینه: اول اینکه مدل اصلاً تو رم جا میشه یا نه، بعد سرعت پاسخش قابلتحمله یا نه، بعد از پس tool calling برمیاد یا نه، کد درست میسازه یا نه، گفتوگوی طولانی و context بیشتر رو تحمل میکنه یا نه، و آخرش کیفیت کدش قابلقبوله یا نه. میگه ارزیابی این مدلها واقعاً خستهکنندهست.
مسیرش سه فاز داشته: اول ارزیابی دستی که چند تا تسک رو بارها با مدلها و تنظیمات مختلف تکرار کرده تا حسِ تجربهی کاربری رو بفهمه؛ بعد ارزیابی خودکار که با یه setup که خودش vibe-code کرده دادهی بیشتری گرفته؛ و آخرش استفادهی روزمره با امیدوارکنندهترین مدل یعنی Qwen3.6 35B MoE.
تو تسک اول (مرتبکردن و انباشت یه نمودار میلهای)، به گفتهی نویسنده مدلها بیشتر سر محاسبهی درصد انباشته روی محور X گیر میکردن. جالب اینکه نتیجهی دستی و خودکار با هم نمیخوند: تو حالت دستی Gemma 4 26B موفقترین بود، ولی تو حالت خودکار سه بار از سه بار شکست خورد، در حالی که Qwen3 35B MoE موفق شد.
عجیبترین یافته تو تسک دوم بود (ساخت نمودار کشورها از روی access log). نویسنده همون مدل و همون تنظیمات رو روی دو دستگاه اجرا کرد: روی مک ۴۸ گیگی ۵ بار از ۷ بار شکست خورد، ولی روی مک ۶۴ گیگی فقط یه بار! میگه انتظار تفاوت سرعت رو داشت، ولی این اختلاف کیفیت خروجی با تنظیمات یکسان براش یه معما مونده.
از تجربهی روزمرهش میگه چند عامل تعیینکنندهن: اینکه تسک چقدر نیاز به جستوجوی کد داره، چند تا فایل باید ویرایش بشه، دستورالعمل چقدر دقیقه، و tech stack چیه — بهنظرش با Bash و Python بیشتر موفق بوده تا JavaScript. جالب اینکه از این «برگشت به تواناییهای ضعیفتر» لذت برده؛ میگه مثل یه detox بوده و مجبورش کرده دوباره خروجیها رو با دقت مرور کنه، نه اینکه کورکورانه به مدل اعتماد کنه.
جمعبندی نویسنده اینه که هنوز اصلاً یه تجربهی plug-and-play نیست و قابلیتهای کدنویسی agentic این مدلها خیلی از مدلهای بزرگ عقبترن، ولی حالا بهتر میفهمه کدوم نوع تسکها شانس جوابدادن دارن. setup پیشفرضش هم qwen3.6-35b-a3b با کوانتیزیشن ۴ بیتی، reasoning خاموش و context window حداکثریه، و برای کارای کوچیک و از قبل برنامهریزیشده سراغش میره.
نکات کلیدی:
- تمرکز روی کدنویسی agentic با مدلهای کوچیک محلی روی مکهای ۴۸ و ۶۴ گیگی
- انتخاب تسک مهمترین عامل موفقیته؛ کارای کوچیک و دقیق بهتر جواب میدن
- نتایج ارزیابی دستی و خودکار گاهی با هم نمیخوندن
- همون مدل روی مک ۶۴ گیگی کیفیت خیلی بهتری از ۴۸ گیگی داد، که برای نویسنده معماست
- قابلیتها هنوز خیلی از مدلهای بزرگ فاصله دارن و plug-and-play نیست
