Decisions API اوپنایآی وارد بتای عمومی شد
خلاصهٔ کاملتر
اوپنایآی تو انجمن توسعهدهندههاش اعلام کرده که Decisions API حالا برای همه بهصورت بتای عمومی در دسترسه. کار این API اینه که برنامهت تقریباً real-time تصمیم بگیره، مثلاً کدوم مدل یا ابزار رو صدا بزنه یا چه کاری انجام بده. طبق اعلام اوپنایآی، این تصمیمها تا ۱۰ برابر سریعتر از وقتیه که همون مدل GPT-6 Luna رو از طریق Responses API صدا بزنی.
پشتش مدل GPT-6 Luna هست، ورودی متن و عکس میگیره و سه نوع خروجی داره: Predicates که احتمال درست بودن یه جمله رو تخمین میزنه، Choices که از بین چند گزینهٔ از پیش تعریفشده یکی رو با امتیاز اطمینان انتخاب میکنه، و Scores که ورودی رو تو یه بازهٔ عددی نمره میده.
قیمتش با gpt-6-luna برای هر یک میلیون توکن ورودی ۰.۱۰ دلاره و فقط ورودی حساب میشه؛ نه برای خروجی پول میگیره نه برای خوندن و نوشتن کش. البته یکی از کاربرها اشاره کرده که فعلاً اصلاً caching برای ورودی وجود نداره. به گفتهٔ اون، برای کارهای classification که با Responses API و کش ارزونتر درمیومدن، رفتن سراغ Decisions API فعلاً بهصرفه نیست.
تو بحث زیر این اعلامیه، کاربرها سریع رفتن سراغ مقایسه با Jev، یه ابزار دیگه که قبلاً برای همین کار استفاده میکردن. یکی از کاربرها با چند صد سؤال از بازیهای کلمهای تست زده و میگه Jev تو سؤالهایی که قضاوت ظریف لازم دارن دقیقتر بوده و Luna حدود سه برابر بیشتر جواب غلطِ با اطمینان داده. میانهٔ زمان هر نوبت تو Jev حدود ۰.۳ ثانیه و تو Luna حدود ۱.۶ ثانیه بوده و Luna ۲ تا ۳ برابر گرونتر دراومده. خودش هم گفته این فقط یه نشونهٔ اولیهست، نه بنچمارک کامل.
یه کاربر دیگه با تست سکهٔ متقلب یه مشکل جدیتر پیدا کرده. سکه طوری تنظیم شده بود که ۷۰ درصد مواقع شیر بیاد. وقتی سؤال رو به شکل predicate پرسیده، تو ۱۰۰۰ بار تست ۷۰ درصد شیر گرفته که درسته. ولی با شکل choice، ۹۸ درصد شیر گرفته؛ یعنی حالت choice فقط دنبال محتملترین جوابه و احتمال واقعی رو برآورد نمیکنه. به گفتهٔ اون، ترتیب گزینهها هم روی نتیجه اثر داره و فعلاً توصیهش اینه که از سؤالهای choice استفاده نکنی.
از طرف دیگه، چون Decisions API عکس هم قبول میکنه، برای سؤالهایی مثل «این عکس با قوانین سایت جور درمیاد؟» یا «تو این عکس سورسکد هست؟» به درد میخوره؛ کاری که به گفتهٔ یکی از کاربرها Jev هنوز نمیتونه. یه کاربر دیگه که یه بازی سهبعدی real-time با مدلهای GPT ساخته، گفته با اینترنت حدود ۳ مگابیت، جواب ورودی تصویری حدود ۰.۸ ثانیه طول میکشه.
نکات کلیدی:
- Decisions API حالا برای همه تو بتای عمومیه و پشتش GPT-6 Luna هست
- سه نوع خروجی: Predicates، Choices و Scores
- قیمت: ۰.۱۰ دلار برای هر یک میلیون توکن ورودی، بدون هزینهٔ خروجی
- فعلاً هیچ caching برای توکن ورودی نداره
- تو تست سکهٔ ۷۰ درصدی، حالت predicate جواب ۷۰٪ داد ولی choice جواب ۹۸٪
- یه تست کاربری، Jev رو سریعتر (۰.۳ ثانیه در برابر ۱.۶) و ارزونتر نشون داده




