Jev فقط بابت ورودی پول میگیره
خلاصهٔ کاملتر
تو این مقاله اومده که Typesafe AI قیمت مدل Jev رو جوری چیده که با هرچی تا حالا از مدلهای زبانی دیدیم فرق داره: هر میلیارد توکن ورودی ۴۲ دلار، یعنی حدود ۴.۲ سنت برای هر میلیون توکن، و خروجی صفر. به گفتهٔ شرکت، خروجیها اونقدر ارزونن که شمردنشون نمیارزه.
این قیمت وقتی معنی پیدا میکنه که بدونی Jev اصلاً جمله نمینویسه. فقط به سه نوع سؤال جواب میده: choice (یعنی از بین گزینههایی که خودت میدی یکی رو انتخاب میکنه)، score (یعنی روی مقیاسی که تعریف کردی نمره میده) و سؤال null (یعنی احتمال درست بودن یه جملهٔ بله/خیر رو برمیگردونه). پس عملاً چیزی برای متر کردن باقی نمیمونه.
این دقیقاً برعکس شکل هزینهایه که برنامهنویسها بهش عادت کردن. تو مدلهای GPTمانند، توکن خروجی معمولاً گرونتر از ورودیه چون تولید متن بخش سنگین کاره. Jev تولید متن رو تقریباً از معادله حذف میکنه. تو یه تست مستقل، هشت درخواست روی هم ۴۱۴۸ توکن ورودی داشت و هزینهش کسری از یک سنت شد.
سرعتش هم به اندازهٔ قیمتش مهمه. تو همون تست مستقل، زمان ارزیابی مدل بین ۹۲ تا ۲۱۴ میلیثانیه بوده که خیلی سریعتر از تولید متن یه LLM معمولیه. نمونههای عملی هم همین شکل رو نشون میدن: یه ربات ماینکرفت دو دقیقهای با حدود ۱۵۰ هزار توکن و حدود یک سنت، یه دموی ناوبری پهپاد که تو ۱۵ دقیقه ساخته شد و حدود ۱۰ سنت خرج برداشت، و یه اتوماسیون مرورگر که جستوجوی پرواز رو تو حدود ۷ ثانیه با ۰.۰۰۳۹ دلار تموم کرد.
ولی نویسنده میگه توکن ارزون به معنی سیستم ارزون یا قابلاعتماد نیست. وقتی گزینههای یه سؤال واقعاً وضعیت رو پوشش ندن، Jev باز هم یکی از همون گزینهها رو برمیداره، فقط با confidence پایین، و نمیگه هیچکدوم جور در نمیاد. عدد confidence هم ضمانت دقت نیست و باید روی دادهٔ خودت تست بشه. تو یه تست استخراج، جواب درست رو پیدا کرد ولی فقط چون از قبل تو لیست گزینهها بود.
به گفتهٔ نویسنده، این مدل قیمتگذاری به درد کارهایی میخوره که تصمیمهای کوچیک و پرتکرار دارن: مسیردهی و دستهبندی تیکت پشتیبانی، هوش مصنوعی بازی، حلقههای کنترل رباتیک و چک کردن ادعای یه ایجنت در برابر خروجی واقعی ابزار. برای نوشتن متن بلند یا زنجیرهٔ استدلال مناسب نیست و مزیت قیمتیش اونجا اصلاً کار نمیکنه.
نکات کلیدی:
- قیمت ورودی ۴۲ دلار به ازای هر میلیارد توکن، یعنی حدود ۴.۲ سنت برای هر میلیون توکن
- خروجی رایگانه چون جواب مدل فقط یه انتخاب، یه امتیاز یا یه احتماله، نه متن
- زمان ارزیابی مدل تو تست مستقل بین ۹۲ تا ۲۱۴ میلیثانیه اندازهگیری شد
- دموی ماینکرفت: حدود ۲ دقیقه، حدود ۱۵۰ هزار توکن، حدود ۱ سنت
- اگه جواب درست تو لیست گزینهها نباشه، Jev نمیتونه بسازتش و یکی از گزینههای موجود رو با confidence پایین انتخاب میکنه




