‏Jev توی ماینکرفت و شبیه‌ساز پهپاد

تو این مقاله اومده که Jev، مدل شرکت Typesafe AI (تأسیس‌شده توسط Diego Almeida که قبلاً روی ChatGPT و RLHF تو OpenAI کار می‌کرد)، یه چیزیه که خودشون بهش می‌گن «system one model»: یعنی معماریش برای تصمیم‌گیری سریع و خودکار ساخته شده، نه گفت‌وگو. به‌جای اینکه زنجیرهٔ متن تولید کنه، یه تصمیم با احتمال و امتیاز اطمینان برمی‌گردونه. شرکت ادعا می‌کنه همین کار حدود ۱۰۰ برابر سریع‌ترش می‌کنه.

همهٔ دموها یه حلقهٔ یکسان دارن. بازی یا شبیه‌ساز یه عکس فوری و ساختاریافته از وضعیت فعلی می‌فرسته: جون بازیکن، موقعیت دشمن‌ها، ساعت روز، سرعت پهپاد یا فاصله تا مانع. Jev هم یه منوی محدود از کارهای مجاز داره و بر اساس همون داده یکی رو انتخاب می‌کنه. برنامه کار رو اجرا می‌کنه، وضعیت آپدیت می‌شه و بلافاصله دوباره از Jev می‌پرسه.

تفاوت اصلی با یه ایجنت مبتنی بر LLM همین‌جاست. یه مدل زبانی معمولی اول باید توضیح یا زنجیرهٔ استدلال بنویسه و بعد به کار برسه، که هم وقت می‌بره هم توکن. Jev این مرحله رو رد می‌کنه و مستقیم تصمیم می‌ده، بیشتر شبیه یه classifier یا یه سیاست کنترل سبک تا یه چت‌بات. برای همین حلقه اون‌قدر سریع می‌چرخه که حتی Subway Surfers هم جواب می‌ده، جایی که نیم ثانیه تأخیر یعنی یه پرش از دست رفته.

نویسنده می‌گه نکتهٔ جالب دموی ماینکرفت این نیست که یه AI بازی می‌کنه، چون ربات‌های تخصصی ماینکرفت از قبل وجود دارن و معمولاً سریع‌تر و قابل‌اعتمادترن. نکته اینه که یه مدل عمومی، فقط با یه توصیف متنی زنده از وضعیت بازی، خودش رو با شرایط وفق داد. وقتی زامبی پیدا شد یا شب شد، ربات فهمید موندن خطرناکه و عقب کشید، بدون اینکه کسی قانون «شب شد فرار کن» رو کد کرده باشه.

دموی رانندگی و پهپاد هم همین شکل بودن، ولی با یه قید مهم. ماشین خودران یه شبیه‌سازی سادهٔ کمتر از یک‌ساعته بود با چهار کنترل: گاز، ترمز، حفظ سرعت و تغییر جهت. پهپاد هم یه مسیر مانع بود که تو حدود ۱۵ دقیقه ساخته شد و حدود ۱۰ سنت خرج برداشت، با پنج حرکت ثابت. هیچ‌کدوم دوربین، سنسور واقعی، سخت‌افزار یا نرم‌افزار ایمنی نداشتن.

به گفتهٔ نویسنده، چیزی که این دموها برجسته می‌کنن با بنچمارک‌های معمول فرق داره: نه اینکه مدل چقدر باهوشه، بلکه اینکه چند تصمیم در ثانیه می‌تونه بگیره و هر تصمیم چقدر آب می‌خوره. تو یه سیستم بلادرنگ، یه مدل کمی کم‌هوش‌تر ولی به‌مراتب سریع‌تر و ارزون‌تر می‌تونه مفیدتر باشه، چون حلقه فقط وقتی کار می‌کنه که AI به ساعت بازی برسه.

نکات کلیدی:

• Jev به روش non-autoregressive کار می‌کنه، یعنی متن رو توکن‌به‌توکن نمی‌سازه و یه تصمیم ساختاریافته برمی‌گردونه
• قیمت: ۴۲ دلار برای هر میلیارد توکن ورودی، خروجی عملاً رایگان
• دموی ماینکرفت: حدود ۲ دقیقه، حدود ۱۵۰ هزار توکن، حدود ۱ سنت
• دموی پهپاد تو حدود ۱۵ دقیقه ساخته شد و حدود ۱۰ سنت هزینه داشت
• هیچ‌کدوم از دموها سخت‌افزار واقعی، دوربین یا سیستم ایمنی نداشتن و فقط شبیه‌سازی بودن