‏RTX Spark و لپ‌تاپ‌های Surface برای AI لوکال

RTX Spark کامپیوتر کوچیک انویدیا برای AI هست که یه GPU در حد RTX 5070، حدود ۲۰ هستهٔ CPU و مصرف زیر ۸۰ وات داره. حافظه‌ش unified هست (یعنی CPU و GPU از یه حافظهٔ مشترک استفاده می‌کنن) و طبق گزارش‌ها از 24GB تا 128GB موجوده. مایکروسافت تو یه رویداد تو سان‌فرانسیسکو اونو موتور لپ‌تاپ‌های جدید Surface، از جمله Surface Laptop Ultra، معرفی کرد.

قیمت لپ‌تاپ‌های Surface با RTX Spark از حدود ۲۶۰۰ دلار شروع می‌شه و با بیشتر شدن حافظه بالا می‌ره. به گفتهٔ نویسنده این گرونی بیشتر به خاطر بالا رفتن قیمت RAM تو کل صنعته. تو این معماری حافظه مهم‌ترین عامله، چون تعیین می‌کنه چه مدل بزرگی رو می‌تونی لود کنی. یه نسخهٔ دسکتاپ هم معرفی شد و نسخهٔ ویندوزی DGX Station هم قراره امسال بیاد.

کار اصلی رو «intelligent routing» تو model picker گیت‌هاب Copilot انجام می‌ده. وقتی رو «auto» باشه، می‌تونه کار رو به یه مدل روی خود دستگاه هم بفرسته. تو دمو یه کار ساده روی کد Windows Terminal به مدل لوکال MAI Code 1.1 Flash رفت و حتی تو حالت هواپیما هم ادامه داد. تو یه کار سخت‌تر، یه مدل ابری از خانوادهٔ GPT-5 برنامه‌ریزی کرد و سه sub-agent لوکال اجراش کردن.

نتیجه این بود که ۱.۶ میلیون توکن لوکال پردازش شد و فقط حدود ۱۰ هزار توکن با ابر رد و بدل شد، یعنی نسبتی نزدیک ۱۵۰ به ۱ و هزینهٔ صفر. ولی نویسنده یه سؤال مهم رو باز می‌ذاره: اگه router اشتباه کنه و کار برای مدل لوکال زیادی سخت باشه، سیستم می‌فهمه و می‌فرستدش ابر، یا بی‌صدا یه جواب بدتر برمی‌گردونه؟ این حالت تو دمو نشون داده نشد.

مایکروسافت سه مدل لوکال اسم برد: MAI Code 1.1 Flash با quantization سه‌بیتی (یعنی فشرده کردن وزن‌های مدل با دقت کمتر) که حدود ۸۰٪ کوچیک‌تر شده و context window برابر 256k داره؛ یه مدل Nitron-style دوبیتی تو حدود 20GB؛ و یه نسخهٔ فشردهٔ DeepSeek با میانگین ۱.۶ بیت تو حدود 60GB. نویسنده هشدار می‌ده که quantization سنگین معمولاً اول دقت کدنویسی و خروجی ساختاریافته مثل tool callها رو خراب می‌کنه و context بلند هم KV cache بزرگی می‌خواد.

Llama.cpp هم داره به Windows ML (یعنی runtime مایکروسافت برای اجرای مدل روی GPU و NPU و CPU) اضافه می‌شه. یعنی مدل‌های باز با فرمت GGUF از همون روز اول کار می‌کنن. یه لایهٔ sandbox جدید هم به اسم Microsoft Execution Containers (MXC) اومده که سازمان‌ها باهاش تعیین می‌کنن agent به چی دسترسی داشته باشه. هر کاری که agent می‌کنه به اسم خودش ثبت می‌شه نه کاربر، پس می‌شه agent رو بلاک کرد بی‌اینکه دسترسی کاربر عوض بشه.

نکات کلیدی:

• RTX Spark یه GPU در حد RTX 5070 با حدود ۲۰ هستهٔ CPU و مصرف زیر ۸۰ وات داره.
• لپ‌تاپ‌های Surface با RTX Spark از حدود ۲۶۰۰ دلار شروع می‌شن و تا 128GB حافظه دارن.
• تو دمو ۱.۶ میلیون توکن لوکال و فقط حدود ۱۰ هزار توکن ابری پردازش شد.
• MAI Code 1.1 Flash سه‌بیتی با context window برابر 256k کاملاً روی دستگاه اجرا می‌شه.
• MXC هر کار agent رو به خود agent نسبت می‌ده، نه به کاربر لاگین‌شده.