‏طراحی super agent دیپ‌سیک: یه router و کلی worker

تیم Harness دیپ‌سیک تو یه مقالهٔ طراحی می‌گه گلوگاه کدنویسی با هوش مصنوعی دیگه کیفیت مدل نیست، بلکه آدمیه که باید چند جلسهٔ agent رو هم‌زمان زیر نظر بگیره. به گفتهٔ اون‌ها آدم معمولاً سه تا پنج جلسهٔ فعال رو می‌تونه دنبال کنه؛ بعدش یادش می‌ره کدوم منتظر تأییده، کدوم گیر کرده و کدوم دوتا دارن یه pull request رو هم‌زمان عوض می‌کنن. نمونهٔ اولیهٔ این ایده با اسم DSH Super Agent روی GitHub اومده، ولی خودشون صریح گفتن کد تحقیقاتیه، نه محصول.

راه‌حلشون دولایه‌ست. لایهٔ اول یه router هست، یعنی یه جلسهٔ همیشگی که با آدم‌ها تو چت تیم یا کامنت‌های GitHub حرف می‌زنه، کار رو به یکی می‌سپره و رابطهٔ کارها رو دنبال می‌کنه. خودش کد نمی‌نویسه و حتی می‌تونه بدون دسترسی shell اجرا بشه تا وسوسه نشه کار رو خودش انجام بده. لایهٔ دوم workerها هستن؛ هر کدوم فقط یه کار با context جدا می‌گیرن، هیچ‌وقت با آدم حرف نمی‌زنن و فقط به router گزارش می‌دن. یعنی آدم همیشه فقط با یه صدا طرفه.

این طراحی انتخاب مدل رو برعکس می‌کنه. کار router ساده‌ست و یه مدل سبک و ارزون از پسش برمیاد، ولی workerها که کد واقعی می‌نویسن باید قوی‌ترین مدل رو داشته باشن. مهم‌ترین یافتهٔ مقاله هم اینه که پرامپت برای تقسیم کار جواب نمی‌ده. یه agent تک‌جلسه‌ای که بهش گفته بودن «هر وقت لازم بود از sub-agent استفاده کن»، تو پنج اجرا حتی یه بار هم این کارو نکرد. با پرامپتی که صریحاً تقسیم کار رو هل می‌داد، چهار بار از پنج بار کار رو سپرد و یه بار گفت کار کوچیکه و خودش انجامش داد.

ورودی سیستم هم به‌جای پرامپت، trigger هست؛ یعنی پیام چت، کامنت PR یا نتیجهٔ CI. اول کد معمولی با allow-list و منبع رویداد نویز رو دور می‌ریزه و فقط باقی‌مونده‌ها به مدل می‌رسن. worker هم مشترک thread کار خودش می‌شه و رویدادهای جدید مستقیم به خودش می‌رسه. یه سیاست به اسم «silently reproduce and fix» هم دارن: باگ گزارش‌شده پس‌زمینه بازتولید می‌شه و فقط اگه درست شد PR باز می‌شه، وگرنه کاربر چیزی نمی‌بینه.

خود دیپ‌سیک می‌گه عددهاش «نشون‌دهنده» هستن، نه بنچمارک؛ هر اجرا حدود ۳۰۰ پیام با حدود ۲۰ درخواست واقعی داشته و کدنویسی شبیه‌سازی شده. super agent یه کار رو به‌طور میانگین تو ۱۲.۴ دقیقه تموم کرده، ولی حالت تک‌جلسه‌ای تا ۲۹.۵ دقیقه هم رسیده. با بالا رفتن بار از ۱ به ۴۰ تصمیم در دقیقه، زمان هر تصمیم از ۶.۴ به ۱.۶ ثانیه افتاده. هزینه‌ش ۲۳.۲ میلیون توکن cached read بوده که با قیمت flash دیپ‌سیک حدود ۷ دلار شده؛ برای همین می‌گن این معماری با مدل‌های ارزون معنی داره.

دیپ‌سیک دو مشکل حل‌نشده رو هم قبول داره: حافظهٔ بلندمدت وقتی سیستم ماه‌ها روشنه، و prompt injection، یعنی دستور مخربی که از دل یه پیام یا کامنت بیرونی به agent برسه. چون router و workerها به هم وصلن، یه منبع رویداد آلوده در تئوری می‌تونه به همهٔ ماشین‌های سیستم برسه. برای همین تو استقرار داخلی خودشون رفتارهای پیش‌دستانه اول تو حالت لاگ «این کارو می‌کردم» اجرا می‌شن و مستقیم کاری نمی‌کنن.

نکات کلیدی:

• آدم معمولاً فقط سه تا پنج جلسهٔ فعال agent رو می‌تونه هم‌زمان دنبال کنه.
• router سبک و بدون shell فقط کار پخش می‌کنه؛ workerهای قوی هر کدوم یه کار با context جدا دارن.
• پرامپت خنثی تو پنج اجرا صفر بار باعث تقسیم کار شد؛ تقسیم کار باید ساختاری باشه.
• میانگین زمان هر کار ۱۲.۴ دقیقه در برابر حداکثر ۲۹.۵ دقیقه برای حالت تک‌جلسه‌ای.
• ۲۳.۲ میلیون توکن cached read با قیمت flash دیپ‌سیک حدود ۷ دلار شد؛ بدون بهینه‌سازی pass-through به ۳۱.۸ میلیون می‌رسه.
• context مثل cache رفتار می‌کنه و چون همه‌چی با ID به هم وصله، router می‌تونه کارهای هفته‌ها قبل رو پیدا کنه (chain of recall).
• DSH Super Agent کد تحقیقاتیه و حافظهٔ بلندمدت و prompt injection هنوز حل نشدن.