‏Jev اومد تو Laravel AI SDK

تیلور اتول اعلام کرد که پشتیبانی از Jev به شاخه ۱.x بسته Laravel AI SDK اضافه شده. نویسنده می‌گه تیمشون همون روز ازش تو There There، هلپ‌دسک جدید Spatie، برای تشخیص اسپم استفاده کردن. ماجرا از یه دردسر آشنا شروع می‌شه: خیلی از ایمیل‌هایی که به یه هلپ‌دسک می‌رسه از طرف مشتری نیست؛ پاسخ خودکار مرخصی، بانس، تأیید اشتراک و گزارش DMARC. نه دوست داری تو اینباکس باشن، نه دوست داری برای هر کدوم پول یه LLM بدی.

Jev ساخت شرکت TypeSafe ـه و برعکس یه LLM هیچی تولید نمی‌کنه. یه state، یعنی همون داده‌ای که قراره روش قضاوت بشه، و یه سوال می‌دی و اون یه عدد برمی‌گردونه. TypeSafe به اینا می‌گه مدل‌های System One: زبان طبیعی رو مثل LLM می‌خونن، ولی جای نوشتن جواب، بین گزینه‌هایی که خودت از قبل تعریف کردی یکی رو انتخاب می‌کنن. احتمال‌ها calibrated هستن، یعنی روی نتیجه‌های واقعی آموزش دیدن، پس تو یه دسته جواب، ۰.۹ باید حدوداً ۹ بار از ۱۰ بار درست باشه.

سه نوع سوال داری. Noul یه سوال بله/خیر ـه و جوابش فقط یه عدده: احتمال این‌که جواب بله باشه. Choice یکی از گزینه‌هایی که خودت اسم بردی رو انتخاب می‌کنه و کنارش احتمال هر گزینه و یه confidence، یعنی این‌که احتمال‌ها چقدر روی یه گزینه متمرکز بودن، هم می‌ده. Score هم یه چیز رو روی سطح‌هایی که خودت توصیف کردی نمره می‌ده و جواب می‌تونه بین دو سطح بیفته، پس ۱.۴ هم جواب درستیه.

$result = Classification::of('I have asked three times now. Can I please talk to a real person?')
    ->question('urgent', new Boolean('Does this request need an immediate response?'))
    ->classify();

$result['urgent']->probability;            // 0.94
$result['urgent']->isTrue(threshold: 0.8); // true

دقت کن جای true، عدد ۰.۹۴ برمی‌گرده؛ آستانه رو خودت تعیین می‌کنی و برای هر سوال می‌تونه فرق کنه. state هم لازم نیست رشته باشه: وقتی تصمیم به چند چیز بستگی داره می‌تونی یه آرایه بدی که هر تیکه اسم خودشو داره، مثلاً موضوع، متن ایمیل، اطلاعات سفارش و متن سیاست بازگشت پول، همه با هم. تنظیماتش هم مثل هر provider دیگه تو config/ai.php انجام می‌شه، با یه TYPESAFE_API_KEY تو فایل env.

تو There There اول چک هدرها اجرا می‌شه، چون مجانیه: Auto-Submitted، return path خالی، فرستنده‌ای به اسم mailer-daemon. خیلی از سرورها این هدرها رو نمی‌ذارن و برای اونا قبلاً یه لیست دستی از پیشوند موضوع بود، تو ۱۵ زبان برای پاسخ خودکار و ۹ مورد برای بانس. حالا هر چی هدرها جواب ندن می‌ره سمت Jev: هر سوال یه case روی یه enum ـه که آستانه‌ی خودشم همراهش می‌بره، و همه‌ی سوال‌های باقی‌مونده تو یه درخواست می‌رن.

چون فقط بابت توکن ورودی پول می‌دی، سه سوال همون‌قدر خرج داره که یکی. دسته‌بندی یه ایمیل با سه سوال ۶۳۹ میلی‌ثانیه طول می‌کشه و با اجرای موازی حدود ۴۸ تا در ثانیه درمیاد. قیمت Jev ۰.۰۴۲ دلار برای هر میلیون توکن ورودی ـه و توکن خروجی مجانیه، که برای اونا می‌شه چهار صدم سنت هر ایمیل، یا ماهی حدود ۳۶ سنت. نویسنده دو تا نکته رو پیشنهاد می‌کنه کپی کنی: کل فراخوانی تو یه try باشه که خطا رو لاگ کنه و رد شه، و متن ایمیل رو کوتاه کنی.

نکات کلیدی:

• پشتیبانی از Jev تو شاخه ۱.x بسته Laravel AI SDK اضافه شد؛ تنظیمش تو config/ai.php با TYPESAFE_API_KEY ـه.
• سه نوع سوال: Noul (بله/خیر)، Choice (انتخاب یک گزینه) و Score (نمره بین سطح‌های دلخواه).
• خروجی احتمال calibrated ـه و آستانه‌ی تصمیم دست خودته، تو There There مثلاً ۰.۷۵ برای پاسخ خودکار و ۰.۹ برای اسپم و بانس.
• سه سوال همزمان روی یه ایمیل ۶۳۹ میلی‌ثانیه می‌گیره و موازی حدود ۴۸ ایمیل در ثانیه.
• قیمت: ۰.۰۴۲ دلار هر میلیون توکن ورودی و توکن خروجی مجانی؛ برای Spatie ماهی حدود ۳۶ سنت.