‏حالت hybrid پرپلکسیتی روی مک‌های مختلف چطور کار می‌کنه

این مقاله یه تست عملی از قابلیت hybrid compute تو اپ مک Perplexity هست. ایده اینه که یه کار بین مدل ابری و یه مدل کوچیک روی خود مک تقسیم بشه. لایه‌ای به اسم privacy gate فایل‌ها و عکس‌ها رو قبل از خروج بررسی می‌کنه، اطلاعات شخصی مثل اسم، شماره حساب و اطلاعات پزشکی رو جدا می‌کنه و فقط بخش‌های غیرحساس رو برای استدلال سنگین و جستجوی وب به ابر می‌فرسته.

تصمیم‌گیری دو لایه داره. اول یه مدل سبک و متن‌باز به اسم PII Tracer (که Perplexity روی Hugging Face منتشر کرده) داده‌های شخصی و مالی رو علامت می‌زنه. بعد اپ وایمیسته و از کاربر می‌پرسه «روی مک پردازش بشه» یا «به اشتراک گذاشته بشه». مدل ابری نقش planner رو داره، یعنی هماهنگی کلی و جستجوی وب، مثلاً مقایسه قیمت قرارداد اینترنتت با رقبا. مدل محلی هم مستقیم با فایل‌های خصوصی کار می‌کنه: خوندن صورت‌حساب، تطبیق با قرارداد، OCR روی عکس مدرک پزشکی.

سه تا مدل محلی هست و اپ خودش بر اساس رم محدودشون می‌کنه. روی مک‌بوک ایر M4 با 16 گیگ فقط Gemma 4 E4B (کوانتیزه 4 بیتی، حدود 6.6 گیگ) فعاله. روی مک مینی 32 گیگی هر سه گزینه باز می‌شه: Gemma 4 E4B، Qwen 3.6 35B و مدل fine-tune شده خود Perplexity با حجم 19 گیگ. روی مک‌بوک پرو 128 گیگی هم همه‌چی راحت اجرا می‌شه، ولی مدل بیشتری اضافه نمی‌شه. یعنی نقطه ارتقای واقعی 32 گیگه.

به گفته نویسنده، Gemma 4 E4B روی مک 16 گیگی برای این کار کافیه، چون وظیفه‌ش تحلیل سنگین نیست. فقط باید مدارک رو بخونه، شناسه‌های شخصی رو حذف کنه و یه خلاصه تمیز به مدل ابری بده. ولی صاحبای مک 16 گیگی فقط همین یه گزینه رو دارن و تضمینی نیست مدل‌های بعدی تو این حافظه جا بشن.

تو تست اصلی، یه پوشه با مدارک مالی ساختگی (صورت‌حساب بانکی، قرارداد ISP و قبض‌ها) داده شد. privacy gate جلوی درخواست رو گرفت و با انتخاب پردازش محلی، مدارک روی مک موندن ولی مدل ابری همچنان قیمت‌ها رو مقایسه کرد و یه اضافه‌پرداخت 88 دلاری پیدا کرد. برای عکس جریمه پارکینگ، سیستم حتی شماره جریمه رو جایی نفرستاد و به کاربر گفت خودش دستی تو سوابق عمومی جستجو کنه. نویسنده تأکید می‌کنه این یه ممیزی امنیتی رسمی نیست، ولی فعالیت GPU و لاگ چیزهای فیلترشده نشون می‌ده privacy gate واقعاً کار می‌کنه.

یه نکته مهم: اگه عکس رو مستقیم تو کادر چت بندازی، فوراً و قبل از privacy gate آپلود می‌شه. راه امن اینه که به محل فایل روی مک اشاره کنی، مثلاً «فایل روی دسکتاپ رو ببین»، تا مدل محلی اول بخونه و فیلترش کنه. طبق تست، کار مدل محلی هم کردیت ابری مصرف نمی‌کنه.

نکات کلیدی:

• مک 16 گیگی فقط Gemma 4 E4B با حجم 6.6 گیگ رو داره
• با 32 گیگ رم، Qwen 3.6 35B و مدل 19 گیگی Perplexity هم باز می‌شن
• رم بیشتر از 32 گیگ فعلاً مدل جدیدی اضافه نمی‌کنه
• عکسی که مستقیم تو چت بیفته بدون فیلتر به ابر می‌ره
• پردازش محلی کردیت ابری مصرف نمی‌کنه
• تو تست، یه اضافه‌پرداخت 88 دلاری بدون آپلود مدارک مالی پیدا شد