دارک بلوم، شبکهٔ توزیعشدهٔ اینفرنس روی مک
هوش مصنوعیخلاصهٔ کاملتر
توی این مقاله اومده که دارک بلوم یه شبکهٔ اینفرنس توزیعشدهست: بهجای اینکه درخواستهای هوش مصنوعی به یه دیتاسنتر مرکزی بره، بین مکهای آدمهای معمولی پخش میشه. نرمافزارش رو نصب میکنی، دستگاهت بهعنوان نود ثبت میشه و وقتی کسی بخواد مدلی رو اجرا کنه، GPU مک تو کارو انجام میده و بابتش پول میگیری. مدلهایی که الان سرو میشن open-weight هستن، مثل Qwen و Gemma و GPT-OSS.
اینفرنس روی MLX اجرا میشه، یعنی موتور استنتاج اپل که مخصوص Apple silicon بهینه شده. نتیجهش اینه که هزاران دستگاه شخصی روی هم مثل یه دیتاسنتر توزیعشده کار میکنن، بدون ساختمون و بدون مالکیت متمرکز. خروجی شبکه از مسیر OpenRouter هم عرضه شده، یعنی همون مارکتپلیسی که دسترسی به ارائهدهندههای مختلف مدل رو یهجا جمع میکنه، و طبق گزارشها قیمتش از رقبای همون پلتفرم پایینتره.
حساسترین بخش ماجرا حریم خصوصیه: کسی که مک رو داره، دسترسی root و فیزیکی داره و در تئوری میتونه پرامپتها و جوابها رو ببینه. جواب پروژه معماریه؛ طبق وایتپیپر خودشون کل اینفرنس داخل یه پروسهٔ Swift هاردنشده اجرا میشه، بدون سابپروسس، بدون سرور محلی و بدون IPC، تا مسیری برای نشت داده باقی نمونه. کد هم عمومیه و یه بازبینی خودکار گزارش داده بدافزار، ماینر رمزارز یا سرقت credential توش پیدا نکرده.
نویسنده تأکید میکنه که این یه ضمانت اثباتشده نیست، فقط یه طراحیه که راههای نشت رو تنگتر میکنه، و آدیت رسمی امنیتی هم پشتش نیست. از نظر درآمد هم انتظار رو باید پایین آورد: برای یه Mac Studio با رم بالا چند ده دلار در ماه تخمین زده شده، بهعلاوهٔ یه افزایش کوچیک تو قبض برق. به گفتهٔ نویسنده جذابیت اصلی بیشتر به ایدهٔ پشتشه؛ کامپیوترهایی که همینجوری بیکار افتادن بهجای دیتاسنترهای غولپیکر پرمصرف کار مفید انجام بدن.
برای راهاندازی فعلاً باید از یه ابزار خط فرمان استفاده کنی و اپ بومی مک هنوز نیومده. بعد از ساخت حساب و نصب CLI، دستگاه از طریق تنظیمات device management در macOS ثبت میشه و یه مرحلهٔ تأیید سختافزار، سرعت اینفرنس رو برحسب توکن بر ثانیه تست میکنه. حداقل رم یه بار بالا رفته و الان ۴۸ گیگابایته که مکهای ارزونتر رو کنار میذاره. پرداخت هم از مسیر Stripe انجام میشه، پس دارک بلوم مستقیم به حساب بانکیت دسترسی نداره.
نکات کلیدی:
- برای ثبت دستگاه حداقل ۴۸ گیگابایت رم لازمه؛ این سقف بعد از هجوم تقاضا بالا برده شده.
- مدلهایی که سرو میشن open-weight هستن: Qwen، Gemma و GPT-OSS.
- اینفرنس داخل یه پروسهٔ Swift هاردنشده روی MLX Swift LM اجرا میشه، بدون سابپروسس و بدون IPC.
- درآمد یه Mac Studio با رم زیاد چند ده دلار در ماه تخمین زده شده.
- فعلاً ۱۰۰٪ درآمد به اپراتور نود میرسه، ولی پروژه گفته این تقسیم ممکنه عوض بشه.
- پرداخت از طریق Stripe انجام میشه و ثبتنام فعلاً فقط با ابزار خط فرمان ممکنه.
