‏Jev؛ مدلی که به‌جای نوشتن، تصمیم می‌گیره

تو این مقاله اومده که Typesafe AI، استارتاپ دیگو آلمیدا (که قبلاً تو OpenAI بود و تو ساخت ChatGPT و RLHF نقش داشت)، مدلی به اسم Jev رو منتشر کرده. Jev غیراتورگرسیوه، یعنی برخلاف مدل‌های زبانی معمولی کلمه‌به‌کلمه جواب نمی‌سازه. بهش وضعیت فعلی و لیست کارهای مجاز رو می‌دی و اون یه تصمیم با احتمال و درصد اطمینان برمی‌گردونه. خود شرکت اسمش رو گذاشته مدل «System 1»: سریع و غریزی، نه استدلال مرحله‌به‌مرحله.

چرا این فرق مهمه؟ چون سرعت روی هم جمع می‌شه. مدلی که یکی دو ثانیه طول می‌کشه تا جواب بده، به درد حلقهٔ یه بازی یا کنترل ربات نمی‌خوره که باید ده‌ها بار در ثانیه به‌روز بشه. ولی مدلی که تقریباً بلافاصله تصمیم می‌ده رو می‌شه پشت‌سرهم صدا زد: وضعیت رو بخون، تصمیم بگیر، عمل کن، دوباره بپرس.

دموها همین الگو رو نشون می‌دن. تو یه ربات ماینکرفت، بازی مدام توصیف سادهٔ دنیا (ساعت روز، دشمن‌های نزدیک، جون بازیکن، کارهای ممکن) رو به Jev می‌ده و مدل حرکت بعدی رو انتخاب می‌کنه؛ شب که زامبی پیدا می‌شه، ربات فرار می‌کنه بدون اینکه کسی قانون «از زامبی فرار کن» رو دستی کد کرده باشه. به گفتهٔ شرکت، دو دقیقه بازی حدود ۱۵۰ هزار توکن و نزدیک ۱ سنت خرج داشت.

نویسنده تأکید می‌کنه این دموها ثابت نمی‌کنن رباتیک حل شده. ماشین خودران یه شبیه‌سازه با جاده و ماشین ازپیش‌ساخته، پهپاد هم تو یه مسیر مانع شبیه‌سازی‌شده پرواز می‌کنه، نه سخت‌افزار واقعی با نویز سنسور و شرایط بحرانی. عددها و بنچمارک‌ها هم فعلاً از خود شرکته و «System 1» اصطلاح خودشونه، نه یه دستهٔ جاافتاده که کسی مستقل تأییدش کرده باشه.

نکات کلیدی:

• Jev تو یه مرحله تصمیم می‌ده، نه توکن‌به‌توکن؛ همین فرق اصلیش با LLMهای معمولیه
• قیمت اعلام‌شده: ۴۲ دلار به ازای هر یک میلیارد توکن ورودی، توکن خروجی رایگان
• ادعای شرکت: تا ۱۰۰ برابر سریع‌تر و ۱۰۰ برابر ارزون‌تر از مدل‌های زبانی معمول
• دموی پهپاد ۱۵ دقیقه‌ای حدود ۱۰ سنت خرج برداشت
• سازنده‌ها دموها رو تو کمتر از یک ساعت و گاهی ۱۵ دقیقه ساختن، بدون fine-tune جداگانه