‏قیمت‌گذاری Decision Node: توکن خروجی رایگان

Decision Node مدلیه که برای تصمیم گرفتن ساخته شده، نه گفتگو. بهش متن یا تصویر می‌دی همراه با چند سؤال تایپ‌شده، و جواب ساختاریافته پس می‌گیری: یه گزینه، یه امتیاز، یه احتمال، یه عدد یا حتی مختصات پیکسلی یه شیء تو تصویر. هر جواب هم یه confidence کالیبره‌شده داره، یعنی عددی که نشون می‌ده مدل چقدر از جوابش مطمئنه.

تو این مقاله اومده که همین طراحی دلیل قیمت‌گذاری عجیبشه. چون مدل متن آزاد نمی‌نویسه، توکن خروجی رایگانه و فقط برای ورودی پول می‌دی. طبق ویدیوهای خود سازنده، قیمت چند سنت برای هر میلیون توکنه. حتی یه درخواست چندسؤالی هم آخرش به چند تا فیلد کوچیک ختم می‌شه، نه یه متن طولانی. یعنی هزینه با حجم ورودی و تعداد درخواست بالا می‌ره، نه با پرحرفی مدل.

برای کارهایی که فوری نیستن، batch job هم هست. می‌تونی تا ۱۰ هزار درخواست رو یه‌جا بفرستی و قیمت هر توکن از حالت real-time کمتره. این به درد کارهایی مثل برچسب زدن به یه دیتاست قدیمی، امتیازدهی به آرشیو تیکت‌های پشتیبانی یا بررسی compliance روی سوابق قدیمی می‌خوره.

سه راه دسترسی داری. اول REST API: یه JSON با ورودی و سؤال‌ها می‌فرستی و جواب تایپ‌شده می‌گیری. تو یه نمونه، شکایت یه سرکارگر با چهار سؤال فرستاده شد و جواب‌ها این بودن: تصمیم مسیریابی با confidence برابر 0.99، امتیاز فوریت 2.82 از 3 و احتمال تماس فوری 0.92. دوم یه CLI که با یه دستور نصب می‌شه و با چیزی مثل dn ask مستقیم از ترمینال سؤال می‌پرسی. سوم یه Python SDK رسمی که با یه خط کد یه احتمال برمی‌گردونه. هر سه به یه مدل وصل می‌شن.

Boosterها هم مدل‌های تخصصی‌ان که قبل از مدل اصلی ورودی رو بررسی می‌کنن و نتیجه رو به‌عنوان شاهد بهش می‌دن، مثل تخمین سن، تشخیص چهره، تشخیص تصویر ساخته‌شده با AI و OCR. برای هر درخواست انتخاب می‌شن و فقط اونایی رو روشن می‌کنی که لازم داری. یه knowledge base هم هست که قوانین خودت رو به‌صورت PDF یا متن آپلود می‌کنی و مدل با retrieval ازشون استفاده می‌کنه.

نویسنده معتقده برای کارهایی که واقعاً تصمیم لازم دارن، اقتصادش به‌صرفه‌ست. ولی Decision Node مدل چت نیست و ایمیل نمی‌نویسه یا متن خلاصه نمی‌کنه. تو یه تست prompt injection، یعنی وقتی یه دستور مخفی تو پیام مشتری سعی داشت مدل رو به تأیید refund وادار کنه، مدل حمله رو تشخیص داد و قبول نکرد، اونم تو حدود ۷۸ میلی‌ثانیه.

نکات کلیدی:

• توکن خروجی رایگانه چون جواب‌ها ساختاریافته‌ان، نه متن
• قیمت ورودی چند سنت برای هر میلیون توکن
• batch job تا ۱۰ هزار درخواست با قیمت کمتر
• سه راه دسترسی: REST API، CLI با دستور dn ask و Python SDK
• boosterها شامل تخمین سن، تشخیص چهره، تشخیص تصویر AI و OCR
• تشخیص prompt injection در حدود ۷۸ میلی‌ثانیه