AMI Labs؛ شرط یک میلیارد دلاری یان لکون علیه LLMها
هوش مصنوعیClaude Opus 5.5خلاصهٔ کامل‌تر
AMI Labs (مخفف Advanced Machine Intelligence) یه شرکت تحقیقاتی هوش مصنوعی تو پاریسه که یان لکون بعد از جدا شدن از Meta راه انداخته. تو اولین دور جذب سرمایه ۱.۰۳ میلیارد دلار گرفته که یکی از بزرگ‌ترین دورهای اول تو اروپاست. سرمایه‌گذارهاش هم شرکت سرمایه‌گذاری جف بزوس، Nvidia، Samsung و Toyota هستن. هدفشون ساختن world modelـه، یعنی سیستمی که به‌جای پیش‌بینی کلمه‌ی بعدی، بفهمه دنیای فیزیکی چطور رفتار می‌کنه.
لکون آدم معمولی نیست. اواخر دهه‌ی ۸۰ تو Bell Labs تو اختراع شبکه‌ی عصبی کانولوشنی (CNN) نقش داشت که پایه‌ی تشخیص تصویره. سال ۲۰۱۸ هم همراه جفری هینتون و یوشوا بنجیو جایزه‌ی تورینگ رو برد. از ۲۰۱۳ بیشتر از ده سال دانشمند ارشد AI تو Meta بود. به گفته‌ی مقاله، اینکه همچین آدمی از یکی از پرامکانات‌ترین آزمایشگاه‌های دنیا بیرون بیاد نشون می‌ده اختلافش با بقیه‌ی صنعت جدیه.
لکون می‌گه صنعت AI شده «LLM-pilled». یعنی تقریباً همه‌ی آزمایشگاه‌های بزرگ دارن یه کار رو می‌کنن: بزرگ‌تر کردن مدل‌های زبانی و قاپیدن مهندس‌های همدیگه. هیچ‌کس هم جرئت نمی‌کنه راه دیگه‌ای بره، چون اگه حتی کمی عقب بیفته رقبا جلو می‌زنن. به گفته‌ی خودش، Meta بعد از یه جابه‌جایی داخلی بیشتر روی همین مسیر رفت و این دلیل جدا شدنش بود.
استدلال اصلیش ساده‌ست. یه LLM روی حدود ۲۰ تریلیون توکن آموزش می‌بینه که حدوداً ۱۰ به توان ۱۴ بایت اطلاعاته. یه بچه‌ی چهارساله هم تقریباً همین مقدار اطلاعات رو فقط از راه چشم‌هاش می‌گیره. ولی اون بچه بدون خوندن یه کلمه می‌فهمه چیزها می‌افتن یا توپی که از دید خارج شده هنوز وجود داره. به گفته‌ی لکون، برای همینه که AI می‌تونه آزمون وکالت رو پاس کنه ولی هنوز نمی‌تونه یه ربات خونگی قابل‌اعتماد یا ماشین خودران سطح ۵ رو بچرخونه.
راه‌حل AMI Labs معماری JEPA (joint embedding predictive architecture) هست. مشکل پیش‌بینی ویدیو پیکسل‌به‌پیکسل اینه که مدل مجبوره چیزهای غیرقابل‌پیش‌بینی رو هم حدس بزنه، مثل قیافه‌ی دقیق غریبه‌ای که وارد اتاق میشه. JEPA اول چیزی که می‌بینه رو به یه نمایش فشرده و انتزاعی تبدیل می‌کنه و پیش‌بینی رو تو همون فضا انجام می‌ده. یعنی جزئیات بی‌اهمیت رو کنار می‌ذاره. یه ریسک این طراحی collapseـه، یعنی مدل برای همه‌ی ورودی‌ها یه خروجی یکسان و بی‌خاصیت بده. روش‌هایی مثل SigReg و VICReg برای جلوگیری از همین میانبر استفاده می‌شن.
اواخر اکتبر هم مقاله‌ای از لکون و رندال بالستریرو (استاد دانشگاه Brown) منتشر شد که توضیح ریاضی می‌ده چرا مدل‌های سبک JEPA به یه نمایش مشترک از واقعیت می‌رسن. این مقاله می‌گه پیش‌بینی کلمه‌ی بعدی یه «دید بد» از واقعیته، چون کلمه‌های پشت‌سرهم اطلاعات کمی درباره‌ی وضعیت واقعی دنیا دارن. البته این فعلاً یه نتیجه‌ی تحقیقاتیه، نه یه محصول آماده.
نکات کلیدی:
- AMI Labs تو اولین دور ۱.۰۳ میلیارد دلار از بزوس، Nvidia، Samsung و Toyota جذب کرده.
- لکون برنده‌ی جایزه‌ی تورینگ ۲۰۱۸ و بیشتر از ده سال دانشمند ارشد AI تو Meta بوده.
- LLMها حدود ۱۰ به توان ۱۴ بایت متن می‌بینن، تقریباً هم‌اندازه‌ی اطلاعات بصری یه بچه‌ی چهارساله.
- JEPA پیش‌بینی رو تو فضای نمایش انتزاعی انجام می‌ده، نه روی پیکسل یا کلمه.
- SigReg و VICReg جلوی collapse یعنی خروجی یکسان برای همه‌ی ورودی‌ها رو می‌گیرن.
- شواهد فعلی در حد مقاله‌ی تحقیقاتیه و هنوز محصولی عرضه نشده.
