لینوکس روی لپ‌تاپ‌های RTX Spark پنج برابر کندتره
هوش مصنوعیخلاصهٔ کامل‌تر
RTX Spark تراشهٔ کوچیک هوش مصنوعی انویدیاست که همون طراحی DGX Spark رومیزی رو داره، ولی داخل لپ‌تاپ‌های MSI، Asus و Dell عرضه میشه. این لپ‌تاپ‌ها تا ۱۲۸ گیگ unified memory (یعنی حافظه‌ای که CPU و GPU با هم شریکن) دارن و با ویندوز روی ARM میان. تو این مقاله اومده که نویسنده روی یه لپ‌تاپ MSI Prestige، ویندوز، WSL و لینوکس بومی رو با هم مقایسه کرده و نتیجه خیلی عجیب بوده.
با مدل GPT-OSS-120B، ویندوز ۶۵.۴ توکن بر ثانیه داده، WSL ۶۵.۱ و DGX Spark رومیزی ۶۱. ولی لینوکس بومی وقتی لپ‌تاپ به شارژر وصل بوده فقط ۱۳.۹ توکن داده، یعنی حدوداً پنج برابر کندتر. عجیب‌تر اینکه همون لینوکس روی باتری به ۶۱ تا ۶۷ توکن رسیده. تست vLLM با هشت کلاینت همزمان هم همین الگو رو نشون داده: WSL با ۱۲۷ توکن و لینوکس با ۳۹.۵. دما هم بین ۴۰ تا ۴۷ درجه بوده، پس بحث داغ شدن نیست.
ریشهٔ مشکل یه دستگاهه که فقط تو Device Manager ویندوز با اسم Nvidia Platform Controllers and Framework دیده میشه. تو این لپ‌تاپ CPU و GPU یه بودجهٔ برق مشترک دارن و این کنترلر لحظه‌به‌لحظه تصمیم می‌گیره سهم هر کدوم چقدر باشه. لینوکس درایوری براش نداره، برای همین GPU موقع شارژ روی حدود ۷۸۰ مگاهرتز گیر می‌کنه، در حالی که ویندوز اونو تا حدود ۲ گیگاهرتز می‌بره.
نویسنده برای اثبات، همین کنترلر رو تو ویندوز غیرفعال کرده. سرعت از حدود ۸۳ به ۳۲ توکن افتاده و کلاک GPU به ۷۸۶ مگاهرتز رسیده، تقریباً همون عددهای لینوکس. با فعال کردن دوباره، سرعت به ۷۸ توکن برگشته. مشکل اینجاست که firmware جدول حالت‌های برق رو رمزنگاری‌شده به این کنترلر می‌ده و فقط ویندوز بلده بازش کنه. تلاش برای دور زدنش حتی یه بار به kernel panic ختم شده.
به گفتهٔ نویسنده راه‌حل واقعی باید از درایور لینوکسی خود انویدیا بیاد، نه از دستکاری‌های کامیونیتی. نصب لینوکس هم راحت نبوده: Omarchy تصویر رو چشمک‌زن نشون داده، Debian درایور کیبورد و تاچ‌پد و GPU نداشته و لینوکس اولش فقط ۲۸ گیگ از ۱۲۸ گیگ حافظه رو دیده. علتش اینه که لپ‌تاپ به‌طور پیش‌فرض ۹۶ گیگ رو برای GPU کنار می‌ذاره و فقط ویندوز تنظیمی برای تغییرش داره.
نتیجهٔ نویسنده اینه که فعلاً WSL بهترین گزینه‌ست. چون روی درایور GPU ویندوز سواره، همون boost کلاک رو هم روی شارژ و هم روی باتری می‌گیره. ابزارهای لینوکسی مثل vLLM و SGLang هم توش اجرا می‌شن. فقط حافظهٔ پیش‌فرضش ۱۴ گیگه و برای مدل‌های بزرگ باید دستی بالا ببریش.
نکات کلیدی:
- با GPT-OSS-120B، ویندوز ۶۵.۴، WSL ۶۵.۱ و لینوکس بومی موقع شارژ ۱۳.۹ توکن بر ثانیه داده
- لینوکس روی باتری به ۶۱ تا ۶۷ توکن می‌رسه و کلاک GPU تا حدود ۱۸۰۰ مگاهرتز بالا می‌ره
- مقصر کنترلر Nvidia Platform Controllers and Framework هست که فقط درایور ویندوزی داره
- جدول حالت‌های برق تو firmware رمزنگاری شده و فقط ویندوز می‌تونه بخونتش
- WSL به‌طور پیش‌فرض فقط ۱۴ گیگ حافظه می‌گیره و باید دستی زیادش کنی
