‏Experiential؛ گیت‌وی متن‌باز برای مدیریت مدل‌های ایجنت

Experiential یه گیت‌وی و روتر متن‌باز برای ورک‌فلوهای ایجنتیه که سه تا کار رو یکجا انجام می‌ده: مدل‌های ابری، BYOK (یعنی با کلید خودت) و مدل لوکال رو پشت یه API سازگار با OpenAI جمع می‌کنه، مشخص می‌کنه کدوم کاربر یا ایجنت اجازهٔ کدوم مدل رو داره و تا چقدر می‌تونه خرج کنه، و از ترافیک واقعی production یه روتر یا مدل اختصاصی درمی‌آره.

راه‌اندازی لوکالش یه خط بیشتر نیست. بعد از pip install experiential، دستور exp یه ویزارد بالا می‌آره که پرووایدر، مدل و سطح reasoning رو ازت می‌پرسه، بعد اسم مستعار عمومی (مثلاً opus-5) و بودجهٔ پیش‌فرض $50.00 رو نشون می‌ده و آخرش یه کلید یک‌بارمصرف چاپ می‌کنه. از اون به بعد گیت‌وی روی 127.0.0.1:8000 جواب می‌ده و هر SDK سازگار با OpenAI می‌تونه بهش وصل شه.

از پایتون هم می‌شه یه روتر آموزش‌دیدهٔ پروژه رو مستقیم به‌شکل کلاینت رسمی OpenAI برداشت، که هر کدوم گیت‌وی خصوصی خودشو داره:

import exp

with exp.load_router("my-project") as client:
    response = client.chat.completions.create(
        model="my-project",
        messages=[{"role": "user", "content": "hello"}],
    )

بخش بهینه‌سازی جاییه که با بقیهٔ گیت‌وی‌ها فرق داره. اول تریس‌های OpenTelemetry ایجنت فعلیت رو جمع می‌کنی (یه دیتاست عمومی هم روی Hugging Face گذاشتن که همون‌جا امتحانش کنی)، بعد exp build از روی همون تریس‌ها یه شبیه‌سازی می‌سازه و روتر رو روش بهینه می‌کنه. مرحلهٔ بعدی exp optimize model هست که با Tinker یه مدل متن‌باز مال خودت رو فاین‌تیون می‌کنه.

اگه ترجیح می‌دی خودت سرور نگه نداری، نسخهٔ میزبانی‌شده روی api.experientiallabs.ai همون API رو می‌ده، هم به سبک OpenAI هم Anthropic Messages، و کلیدهاش با پیشوند xpl_ صادر می‌شن. تله‌متری محصول هم پیش‌فرض روشنه ولی طبق مستندات هیچ‌وقت پرامپت، تریس، نام مدل یا محتوای مشتری رو نمی‌فرسته و تنظیمش تو فایل .exp/settings.toml ذخیره می‌شه.

نکات کلیدی:

• نصب لوکال با pip install experiential و اجرای exp؛ گیت‌وی روی 127.0.0.1:8000 بالا می‌آد
• ویزارد اولیه بودجهٔ پیش‌فرض $50.00 و یه کلید یک‌بارمصرف می‌ده
• BYOK برای OpenAI، Anthropic، Gemini، Azure، Bedrock و OpenRouter به‌صورت pass-through رایگان
• exp build از تریس‌های OpenTelemetry شبیه‌سازی می‌سازه و روتر رو بهینه می‌کنه
• exp optimize model با Tinker یه مدل متن‌باز اختصاصی فاین‌تیون می‌کنه
• تله‌متری PostHog پیش‌فرض فعاله و با exp config telemetry disable خاموش می‌شه