لوپهای ایجنت هوش مصنوعی و شکار باگ فایرفاکس با Claude
هوش مصنوعیخلاصهٔ کاملتر
این قسمت از پادکست How I AI دو تا اپیزود رو خلاصه میکنه: یکی درباره طراحی لوپهای ایجنت و یکی درباره تجربه موزیلا تو شکار باگهای امنیتی فایرفاکس با کمک هوش مصنوعی.
تو اپیزود اول، Claire فرق بین انواع لوپ رو توضیح میده: heartbeat، cron، hook و goal loop. نکته کلیدی اینه که یه لوپ فقط یه پرامپته که خودش رو دوباره فعال میکنه، چیز پیچیدهای نیست. قویترین نوع، goal loop هست؛ یعنی یه هدف تعریف میکنی و ایجنت تا وقتی که نتیجه تأیید بشه یا گیر کنه، روش کار میکنه. اگه معیار موفقیت مبهم باشه، ایجنت بینهایت لوپ میزنه و توکن هدر میده.
نویسنده میگه بهترین راه برای فکر کردن به لوپها اینه که مثل استخدام یه کارمند بهشون نگاه کنی: چی رو چک میکنه، هر چند وقت، چه خروجیای میخوای. مثلاً «هر جمعه ساعت ۱۰ صبح، همه PRهای مرجشده رو بررسی کن و مهارتهای کم ایجنتها رو پیدا کن» هم یه شرحوظیفهست هم یه پرامپت لوپ. نکته جالبتر اینه که یه ایجنت میتونه سابایجنتهای خودش رو بسازه؛ مثلاً لوپ بررسی PR که تو Claude Code ساخته شده، برای هر PR یه سابایجنت جدا میفرسته تا تا سبز شدن چکها پیگیریش کنه.
اپیزود دوم با Brian Grinstead، مهندس ارشد موزیلا، درباره اینه که چطور تیمش با ایجنتهای هوش مصنوعی تو یه ماه ۴۲۳ تا فیکس امنیتی برای فایرفاکس فرستاده. به گفته او، رمز کار فقط مدل بهتر نبود، بلکه هارنس سفارشی اطراف اون بود: امتیازدهی به فایلها، اجرای goal loop، تأیید باگها با سابایجنت، و نگهداشتن انسان تو حلقه بازبینی.
موزیلا از یه فرآیند تأیید دو مرحلهای استفاده میکنه: اول ایجنت باید یه کرش واقعی تو بیلد fuzzing تریگر کنه، بعد یه سابایجنت تأییدکننده چک میکنه که گزارش باگ منطقی باشه و مربوط به تنظیمات فقط-تست نباشه. این باعث میشه وقتی باگ به دست مهندس انسانی میرسه، تقریباً هیچ false positive نداشته باشه. با این حال، ایجنتها گاهی فقط روی همون یه نقطه آسیبپذیر فوکوس میکنن و جاهای مشابه دیگه تو کدبیس رو از دست میدن؛ اینجاست که مهندس انسانی وارد میشه.
برای اولویتبندی تو یه کدبیس میلیونی، موزیلا یه LLM judge ساده ساخته که هر فایل رو از دو بعد امتیاز میده: احتمال وجود مشکل امنیت حافظه، و سهولت دسترسی از یه صفحه وب. به گفته Brian، این هارنس با SDK های خود شرکتهای سازنده (مثل Claude agent SDK) تو یه بعدازظهر قابل ساختنه و بهتره بهجای فریمورکهای شخص ثالث ازش استفاده کرد، چون مدلها احتمالاً برای زیرساخت خودشون بهینهتر آموزش دیدن.
نکات کلیدی:
- لوپ ایجنت فقط یه پرامپته که خودش رو دوباره اجرا میکنه؛ goal loop قویترین نوعشه چون تا رسیدن به نتیجه ادامه پیدا میکنه
- ایجنتها میتونن سابایجنت بسازن؛ این جاست که اتوماسیون واقعاً قدرتمند میشه
- موزیلا با ایجنتهای هوش مصنوعی تو یه ماه ۴۲۳ باگ امنیتی فایرفاکس رو فیکس کرد
- کلید موفقیت، هارنس سفارشی اطراف مدل بود، نه صرفاً یه مدل بهتر
- تأیید دو مرحلهای (کرش واقعی + بررسی سابایجنت) false positive ها رو تقریباً حذف میکنه
- همین الگو برای کارایی، بدهی فنی و تجربه کاربری هم قابل استفادهست
