سوپرکامپیوتر Abacus AI با ماهی ۱۰ دلار
هوش مصنوعیخلاصهٔ کاملتر
تو این مقاله سراغ Abacus AI Supercomputer رفتن؛ یه اشتراک که بهجای یه پنجرهٔ چت ساده، یه ماشین مجازی ابری همیشهروشن بهت میده بهعلاوهٔ دسترسی به بیش از ۱۰۰ مدل با یه لاگین، از GPT و Claude تا Grok و Kimi و DeepSeek و GLM. قیمت شروعش حدود ۷ دلار برای ماه اول و بعدش حدود ۱۰ دلار در ماهه.
فرق اصلیش با ابزارهای مشابه، همون همیشهروشن بودنه. بیشتر سرویسهای ابری برای هر درخواست یه کانتینر بالا میآرن و بعدش میبندنش، که برای یه پیام چت مشکلی نداره ولی برای اجرای build یا کار چندمرحلهای روی چند فایل، هم تأخیر داره هم حالت قبلی از دست میره. اینجا ماشین روشن میمونه: فایلها، ترمینال زنده، دسکتاپ و SSH همیشه در دسترسن و بین سشنها چیزی پاک نمیشه.
دو نقطهٔ ورود مهم داره. Hermes نقش لایهٔ orchestration رو بازی میکنه، یعنی تسک رو بهش میدی و خودت انتخاب میکنی کدوم مدل انجامش بده. یه اپ دسکتاپ جدا هم هست با سه حالت چت، co-work و کد، بهعلاوهٔ افزونهٔ VS Code و مرورگر. زیر همهٔ اینا RouteLLM نشسته که درخواستهای ساده رو خودکار به مدلهای ارزونتر میفرسته و مدلهای گرون رو برای کارهای سخت نگه میداره.
جالبترین بخش مقاله یه مقایسهٔ مستقیمه: یه کلاستر چهارتایی از Mac Studio با ۲ ترابایت حافظهٔ یکپارچه که مدل Kimi K3 رو بهصورت محلی اجرا میکرد، در برابر همین سرویس ابری، با یه پرامپت یکسان برای ساخت یه اپ فرانتاند کامل. هر دو در نهایت خروجی قابل قبول دادن، ولی نسخهٔ محلی حدود چهار ساعت طول کشید و سرویس ابری حدود ۱۵ دقیقه. سرعت تولید متن روی کلاستر فقط حدود ۱۴.۷ توکن در ثانیه بود.
سمت هزینه هم فاصله زیاده: هر Mac Studio حدود ۱۶ هزار دلار قیمت داشته، یعنی اون کلاستر چهارتایی بالای ۶۰ هزار دلار، بدون حساب برق و شبکه و زحمت راهاندازی inference توزیعشده. نویسنده میگه با اشتراک ۷ تا ۱۰ دلاری قرنها طول میکشه تا به این عدد برسی. در عوض سختافزار محلی یه مزیت واقعی داره: داده از ساختمون بیرون نمیره و به موندن یا نموندن یه اشتراک وابسته نیستی.
نکات کلیدی:
- قیمت حدود ۷ دلار برای ماه اول و حدود ۱۰ دلار در ماه بعدش
- بیش از ۱۰۰ مدل زیر یه اشتراک، بدون نیاز به API key جداگانه برای هر ارائهدهنده
- ماشین مجازی همیشهروشن با فایل، ترمینال، دسکتاپ، SSH و تسک زمانبندیشده و بدون cold start
- RouteLLM درخواستهای ساده رو به مدل ارزونتر میفرسته تا اشتراک ثابت جواب بده
- تست عملی: حدود ۱۵ دقیقه در ابر مقابل حدود ۴ ساعت روی کلاستر چهار Mac Studio با هزینهٔ بالای ۶۰ هزار دلار
