‏نشستی که نمی‌تونی با خودت ببری

به نوشته‌ی تیم مهندسی Earendil، وعده‌ی اولیه‌ی API استنتاج ساده بود: ورودی بفرست، خروجی بگیر؛ اگه هر دو رو نگه داشتی، گفت‌وگو مال خودته. اون انتزاع هیچ‌وقت کامل درست نبود، ولی دست‌کم رکورد معنایی نشست — دستورها، پیام‌ها، فراخوانی ابزار و نتیجه‌ها — پیش کاربر می‌موند. نویسنده‌ها می‌گن API‌های امروزی دارن از این ویژگی فاصله می‌گیرن. معیارشون هم سخت‌گیرانه نیست؛ قرار نیست مدل بعدی همون توکن رو تولید کنه، فقط باید بتونه کار رو ادامه بده:

const transcript = session.export();
revokeCredentials(oldProvider);
session = newProvider.continueFrom(transcript);

از دل همین ایده پنج آزمون درمی‌آد: بازرسی، خروجی‌گرفتن، بازپخش، ممیزی و حذف. یه شناسه‌ی پاسخ ترنسکریپت نیست چون داده‌ش روی سرور می‌مونه، و یه بلاب رمزشده هم وضعیت تحت کنترل کاربر حساب نمی‌شه چون کاربر کلیدش رو نداره. مقاله پیشنهاد می‌ده به‌جای اسم گمراه‌کننده‌ی encrypted_content بگیم وضعیت مهروموم‌شده‌ی ارائه‌دهنده؛ این رمزگذاری داده رو از خود ارائه‌دهنده پنهون نمی‌کنه، از تو پنهون می‌کنه.

بعد سراغ مثال‌ها می‌ره. Responses API شرکت OpenAI پیش‌فرض پاسخ‌ها رو ذخیره می‌کنه و دست‌کم ۳۰ روز نگه می‌داره؛ Gemini Interactions API هم پیش‌فرضش store: true هست با نگهداری ۵۵ روزه روی پلن پولی. مزیتش کمتر شدن داده‌ی ارسالی و مسیریابی بهتر کشه، ولی اگه اپلیکیشن فقط پیام‌های کاربر و متن نهایی رو ثبت کنه، شناسه‌ی پاسخ قبلی تبدیل می‌شه به یه کلید خارجی به دیتابیسی که خودت کنترلش نمی‌کنی. توکن‌های استدلال هم یا از همون مسیر برمی‌گردن یا به شکل بلاب رمزشده که باید عیناً پاسش بدی.

سه جای دیگه هم همین الگو تکرار می‌شه: جست‌وجوی میزبانی‌شده که فقط اکشن و سیتیشن و لینک می‌ده، نه رتبه‌بندی و پاساژهای واقعی که مدل دیده؛ فشرده‌سازی سمت سرور OpenAI که خودشون توصیفش کردن «مبهم و نه برای تفسیر انسان»، در حالی که Anthropic بلاک فشرده‌سازی رو با یه فیلد محتوای خوانا برمی‌گردونه؛ و سیستم چندعاملی که پیام بین اجنت‌ها و حتی دستور اولیه‌ی ساب‌اجنت رو رمز می‌کنه. نویسنده‌ها می‌گن اگه یه اجنت فایل اشتباهی رو عوض کنه یا رازی رو لو بده، کاربر حتی نمی‌تونه بفهمه دقیقاً ازش چی خواسته شده بود.

جواب همیشگی به این نگرانی اینه که «اکثر آدم‌ها وسط نشست مدل عوض نمی‌کنن»، ولی به گفته‌ی نویسنده‌ها اکثر آدم‌ها سیستم‌عامل یا اپراتور موبایلشون رو هم هفتگی عوض نمی‌کنن؛ نکته اینه که امکان رفتن، رابطه‌ت با ارائه‌دهنده رو عوض می‌کنه. آخر مقاله هفت قاعده پیشنهاد می‌شه، از «لاگ محلی مرجعه» و «ذخیره‌سازی صریح باشه» تا لاگ کامل ابزارهای میزبانی‌شده و قابل‌ممیزی‌بودن ارتباط ساب‌اجنت‌ها. حرفشون این نیست که API استیت‌فول بد باشه، اینه که کارایی بیشتر نباید به بهای کنترل کمتر کاربر تموم بشه.

نکات کلیدی:

• نشست قابل‌حمل یعنی آرشیو خودبسنده باشه، نه اینکه مدل بعدی همون خروجی رو بده
• پنج آزمون مالکیت نشست: بازرسی، خروجی‌گرفتن، بازپخش، ممیزی و حذف
• store: false باید ساده، مستند و ترجیحاً پیش‌فرض باشه
• استدلال رمزشده، فشرده‌سازی مبهم و پیام رمزشده‌ی ساب‌اجنت‌ها نباید تنها حامل معنا باشن
• جست‌وجوی میزبانی‌شده به یه حالت خروجی کامل با کوئری، پاساژها و زمان نیاز داره
• نویسنده‌ها تقطیر (distillation) رو هم راهی برای در دسترس‌تر شدن قابلیت‌ها می‌دونن، نه یه تابو