فراتر از vibe coding: چرا اپهای ساختهشده با AI تو محیط واقعی میلنگن
خلاصهٔ کاملتر
این وایتپیپر از Algolia دربارهٔ vibe coding هست، یعنی ساختن اپ با توصیف قابلیتها به زبان ساده و گرفتن کد آماده از AI. نویسندهها میگن این روش کاری که قبلاً چند روز طول میکشید رو به یه بعدازظهر رسونده. ولی مدل فقط کدی مینویسه که «شکل» کد درست رو داره؛ از دادههای واقعی، قوانین دسترسی، الگوی ترافیک و محدودیت تأخیر خبر نداره. آماری هم آوردن: ۶۰ درصد سازمانها سیستمهای سازمانی AI رو ارزیابی کردن، ولی فقط ۲۰ درصد به پایلوت و ۵ درصد به production رسیدن.
به گفتهٔ مقاله، اپهای ساختهشده با AI خیلی زود به retrieval (یعنی پیدا کردن و آوردن داده یا سند درست برای هر درخواست) وابسته میشن. تو دمو همهچی روی چند رکورد نمونه خوب کار میکنه، ولی تو محیط واقعی با شناسههای دقیق، غلط تایپی، مترادفها، رکوردهای قدیمی و محتوای محدودشده سروکار داری. نویسندهها میگن جستجوی کلیدواژهای برای SKU و کد خطا خوبه و جستجوی معنایی (semantic) برای زبان طبیعی کاربر؛ و production به هر دو، بههمراه فیلترهای تجاری، نیاز داره. پرامپت نمیتونه سندی رو که لایهٔ بازیابی اصلاً انتخاب نکرده درست کنه.
مثال کد مقاله نشون میده چطور قبل از اینکه نتیجهای «شاهد» حساب بشه، محدودیتها اعمال میشن. وضعیت تأیید و بهروز بودن سند با filters و دامنهٔ دسترسی کاربر با facetFilters اعمال میشه:
response = client.search_single_index(
index_name="enterprise_docs",
search_params={
"query": query,
"filters": "policy_state:approved AND is_current:true",
"facetFilters": user_scope.facet_filters,
},
)مقاله چند نقطهٔ شکست دیگه هم میشمره. کد تولیدی هر پرامپت ساختار و نامگذاری خودشو داره و بعد از دهها قابلیت، نگهداری سخت میشه. integrationها قرارداد API رو چک نمیکنن و با کوچیکترین تغییر سمت سرویس، بیصدا میشکنن. تو بحث تأخیر هم میگه میانگین گولزنندهست و باید p95 و p99 (یعنی زمان پاسخ کندترین ۵ و ۱ درصد درخواستها) رو نگاه کرد؛ مرحلههای اختیاری زیر فشار باید کنار برن، ولی فیلتر دسترسی و لاگ هیچوقت نباید حذف بشن.
به نظر نویسندهها سختترین آزمون، امنیته. prompt injection (یعنی جاسازی دستور مخرب تو محتوایی که مدل میخونه) یه مشکل مرز اعتماده، چون مدل دستور و داده رو از یه کانال متنی میگیره. مثلاً یکی یه سند آلوده تو درایو مشترک میذاره و retrieval بعداً اونو وارد context میکنه. یه خطر دیگه هم embeddingها هستن: اگه index برداری همون قوانین دسترسی سند اصلی رو نداشته باشه، معنی متن محرمانه قابل جستجو میشه. راهحل پیشنهادی اینه که دسترسی موقع retrieval اعمال بشه؛ مثلاً با secured API key که فیلتر کاربر، index مجاز و تاریخ انقضا رو داخل خودش داره.
برای agentها هم مقاله میگه باید مجموعهٔ کارهای مجاز ثابت باشه و خروجی مدل قبل از رسیدن به دیتابیس یا ابزار بعدی، با schema و سیاستها چک بشه. integrationهای «توهمی» هم هستن که endpoint یا پارامتر ناموجود صدا میزنن. در کنارش observability، یعنی ثبت رکوردهای برگشتی، فیلترها، رتبهبندی و فراخوانی ابزارها، یه ویژگی امنیتی حساب میشه. رفتار موقع شکست هم باید از قبل تعریف بشه تا سیستم وقتی شاهد کافی نداره، با اطمینان جواب غلط نده.
نکات کلیدی:
- طبق آمار مقاله، ۶۰ درصد سازمانها سیستم AI رو ارزیابی کردن ولی فقط ۵ درصد به production رسیدن.
- production هم جستجوی کلیدواژهای برای شناسههای دقیق میخواد، هم جستجوی معنایی برای زبان کاربر.
- کنترل دسترسی باید موقع retrieval اعمال بشه، نه بعدش تو منطق اپ.
- index برداری بدون قوانین دسترسی سند اصلی، معنی متن محرمانه رو قابل جستجو میکنه.
- برای تأخیر باید p95 و p99 رو بررسی کرد، نه میانگین رو.
- خروجی مدل قبل از استفاده تو سیستم بعدی باید با schema و مجوزها اعتبارسنجی بشه.




