چرا سیستمهای چند-عاملی در دمو کار میکنن ولی در واقعیت خراب میشن؟
هوش مصنوعیخلاصهٔ کاملتر
در یه سال گذشته، نحوه ساخت سیستمهای هوش مصنوعی تغییر کرده. دیگه لازم نیست از اول با معماری و API و منطق orchestration شروع کنی؛ کافیه بگی چی میخوای و بذاری سیستم شکل بگیره. این رویکرد که بهش vibe coding میگن، ساختن agent workflow رو خیلی سریعتر کرده و تیمها ازش برای پروتوتایپ سریع استفاده میکنن.
ولی مشکل از جایی شروع میشه که این سیستم از فاز آزمایشگاهی خارج بشه. وقتی عاملها با ابزارهای واقعی، دادههای واقعی و الگوهای استفاده واقعی درگیر میشن، یه دسته کاملاً جدید از محدودیتها ظاهر میشه. سیستم یه بار کار میکنه، بار دوم کمی متفاوت عمل میکنه، بعد یه edge case پیدا میشه، یه ابزار رفتار غیرمنتظرهای نشون میده، یا یه عامل تسک رو به جایی میفرسته که اصلاً انتظارش رو نداشتی.
تیم Cognizant AI Lab این چالش رو با فریمورک متنباز neuro-san دنبال میکنه. هدف فقط ساده کردن ساخت شبکههای عاملی نیست، بلکه مقاومسازی اونهاست وقتی وارد دنیای واقعی میشن.
اولین چالش جدی اینه که هماهنگی دیگه ساده نیست. در مقیاسهای کوچیک، ساختار سیستم رو میشه دنبال کرد و فهمید چرا یه نتیجه خاص تولید شده. ولی با بزرگتر شدن سیستم، هماهنگی دیگه فقط مسئله routing ساده نیست؛ یه ویژگی کلی سیستمه. اکثر پیادهسازیها یه لایه مرکزی ایجاد میکنن که مسئول توزیع وظایفه، ولی این لایه مرکزی به مرور تبدیل به گلوگاه میشه. neuro-san با رویکرد AAOSA این مشکل رو حل میکنه: به جای اینکه یه جای مرکزی وظیفه تخصیص داشته باشه، هر عامل خودش ارزیابی میکنه که آیا میتونه به درخواست پاسخ بده یا نه و مسئولیت رو کلیم میکنه. این یعنی اضافه کردن عامل جدید نیازی به آپدیت لایه مرکزی نداره.
دومین چالش اینه که ابزارها به زیرساخت تبدیل میشن. در مراحل اولیه، وصل کردن API یا دیتابیس ساده به نظر میرسه. ولی با رشد سیستم، عاملهای مختلف به ابزارهای مختلف با interface، احراز هویت و فرمت داده متفاوت نیاز دارن. بدون یه روش یکپارچه، منطق integration پراکنده میشه و گسترش سیستم سختتر میشه. neuro-san این مشکل رو با پشتیبانی بومی از Model Context Protocol یا MCP حل میکنه که یه لایه مشترک برای دسترسی به ابزارهای مختلف مثل GitHub، دیتابیسهای داخلی، Google Maps و غیره فراهم میکنه.
سومین چالش اینه که قابلیت اطمینان دیگه فقط درباره صحت خروجی نیست. مدلهای زبانی ذاتاً non-deterministic هستن؛ یعنی یه ورودی یکسان میتونه به مسیرهای استدلالی، استفاده از ابزار و خروجیهای مختلفی منجر بشه. وقتی چند عامل درگیرن، این تغییرپذیری چند برابر میشه. یه تغییر کوچیک در تصمیم routing میتونه کل مسیر بعدی رو عوض کنه. پس ارزیابی سیستم باید از سطح خروجی به سطح رفتار ارتقا پیدا کنه.
در نهایت، مشکل اصلی اینه که سیستمهای چند-عاملی در لحظهای که از پروتوتایپ خارج میشن، دیگه یه workflow ساده نیستن؛ یه سیستمعامل عاملی هستن که نیاز به طراحی ساختاری جدی داره. ابزارهایی مثل neuro-san سعی دارن این گذار رو با معماری مناسبتر هموار کنن.
نکات کلیدی:
- vibe coding ساخت پروتوتایپ agent-based رو خیلی سریعتر کرده ولی پیچیدگی production رو حذف نکرده
- با بزرگ شدن سیستم، هماهنگی مرکزی به گلوگاه تبدیل میشه؛ AAOSA راهحل توزیعشدهایه
- integration ابزارها با رشد سیستم به یه چالش زیرساختی تبدیل میشه نه یه جزئیات جانبی
- پشتیبانی از MCP یه لایه یکپارچه برای اتصال به ابزارهای مختلف فراهم میکنه
- قابلیت اطمینان در سیستمهای چند-عاملی باید بر اساس رفتار ارزیابی بشه نه فقط صحت خروجی
- neuro-san یه فریمورک متنباز با لایسنس Apache 2.0 برای ساخت سیستمهای چند-عاملی مقاومه
