‏Bonsai Image 4B؛ تولید تصویر هوش مصنوعی روی آیفون

شرکت PrismML از خانواده‌ی Bonsai Image 4B رونمایی کرد؛ مجموعه‌ای از مدل‌های فشرده‌ی تولید تصویر که برای اجرای استنتاج دیفیوژنِ باکیفیت روی سخت‌افزار محلی طراحی شدن، از لپ‌تاپ تا گوشی. به گفته‌ی شرکت، تا جایی که می‌دونن این اولین مدل تصویری در کلاس پارامتری خودشه که مستقیم روی آیفون اجرا می‌شه.

این خانواده دو نسخه داره. نسخه‌ی یک‌بیتی از وزن‌های دودویی {-1, +1} با یه ضریب مقیاس FP16 استفاده می‌کنه و عملاً ۱.۱۲۵ بیت به‌ازای هر وزن می‌گیره؛ این نسخه برای فشرده‌سازی حداکثری مناسبه، جایی که فشار حافظه و پهنای باند مهم‌ترین محدودیت‌ان. نسخه‌ی سه‌حالتی (ternary) از وزن‌های {-1, 0, +1} استفاده می‌کنه (۱.۷۱ بیت مؤثر)؛ همون حالت صفر اضافه بهش انعطاف بیشتری می‌ده و کیفیت تصویر و وفاداری به پرامپت رو بهتر می‌کنه، در حالی که هنوز خیلی فشرده‌ست.

از نظر فنی، Bonsai از روی FLUX.2 Klein 4B ساخته شده؛ معماری رو دست‌نخورده نگه داشته ولی نحوه‌ی نمایش وزن‌های ترنسفورمر رو عوض کرده. چون توی هر مرحله‌ی denoising دوباره ترنسفورمر فراخوانی می‌شه، حجمش مستقیماً روی فشار حافظه و سرعت اثر می‌ذاره. در نتیجه، ترنسفورمر دیفیوژنِ نسخه‌ی یک‌بیتی به ۰.۹۳ گیگابایت رسیده (۸.۳ برابر کوچک‌تر از ۷.۷۵ گیگابایت نسخه‌ی کامل) و نسخه‌ی سه‌حالتی به ۱.۲۱ گیگابایت (۶.۴ برابر). برای ساختن یه تصویر ۵۱۲ در ۵۱۲، حافظه‌ی فعالِ میانگین فقط حدود ۱.۵ تا ۲ گیگابایته، در حالی که مدل اصلی نزدیک ۱۲ گیگابایت می‌خواد.

این کاهش حجم تعیین می‌کنه مدل کجا می‌تونه اجرا بشه. روی iPhone 17 Pro Max، خطِ کاملِ FLUX.2 Klein 4B اصلاً توی بودجه‌ی حافظه‌ی دستگاه جا نمی‌شه، ولی هر دو نسخه‌ی Bonsai روی خود دستگاه اجرا می‌شن و یه تصویر ۵۱۲ در ۵۱۲ رو در ۹.۴ ثانیه روی آیفون و حدود ۶ ثانیه روی Mac M4 Pro می‌سازن (تا ۵.۶ برابر سریع‌تر از خط کاملِ MFLUX). از نظر کیفیت هم نسخه‌ی سه‌حالتی ۹۵٪ و نسخه‌ی یک‌بیتی ۸۸٪ دقتِ مدل اصلی رو حفظ می‌کنن. مزیت اصلی اجرای محلی اینه که تولید تصویر ذاتاً تکراریه و وقتی مدل روی دستگاه جا بشه، چرخه‌ی خلاقانه ارزون‌تر و سریع‌تر و خصوصی‌تر می‌شه. هر دو نسخه با وزن‌های باز و مجوز Apache 2.0 منتشر می‌شن و یه اپ iOS به اسم Bonsai Studio هم برای امتحانشون روی آیفون عرضه شده. PrismML از دل تیمی از پژوهشگرهای Caltech بیرون اومده.

نکات کلیدی:

• Bonsai Image 4B خانواده‌ی مدل‌های فشرده‌ی تولید تصویر برای اجرای محلی روی لپ‌تاپ و گوشیه
• دو نسخه: یک‌بیتی (فشرده‌سازی حداکثری، ۰.۹۳ گیگابایت) و سه‌حالتی (کیفیت بهتر، ۱.۲۱ گیگابایت)
• از FLUX.2 Klein 4B ساخته شده و حجم ترنسفورمر دیفیوژن رو تا بیش از ۸ برابر کم کرده
• اولین مدل تصویری کلاس خودش که روی آیفون اجرا می‌شه؛ وزن‌های باز با مجوز Apache 2.0