هوش مصنوعی هزینه‌ی بهینه‌سازی نرم‌افزار رو ارزون کرده
هوش مصنوعیخلاصهٔ کامل‌تر
دن لو داره روی FRE، یه موتور regex که چند وقت پیش با یه ایجنت هوش مصنوعی ساخته، آزمایش می‌کنه. ایده‌ش این بود: وقتی ripgrep داره با موتور معمولی سرچ می‌کنه، همزمان یه کامپایلر native تو یه thread دیگه کد رو کامپایل کنه و وقتی تموم شد، سوییچ کنن به نسخه‌ی سریع‌تر. فقط با چند جمله دستور به ایجنت، ایده‌ای که برای یه آدم عادی چند روز کد نویسی می‌طلبید، تو چند دقیقه پیاده شد و رو کوئری‌های واقعی حدود ۷ درصد سرعت بیشتر داد.
به گفته‌ی نویسنده این فقط یه مثال از یه روند بزرگ‌تره: کارایی که قبلاً واقعاً سخت و وقت‌گیر بود، الان توسط ایجنت‌ها ارزون شده. مثلاً جیمی براندون برای آماده شدن واسه یه مصاحبه‌ی کاری، تست عملکرد عمومی آنتروپیک رو امتحان کرد و بعد از کلود خواست ادامه‌ش بده؛ کلود بهینه‌سازی‌هایی انجام داد که براندون می‌گه بعضی‌هاشون «کارای عجیبی بودن که تا هفته‌ها روش کار نمی‌کرد امتحانشون نمی‌کرد». مایکل مالیس هم می‌گه ساخت کامپایلرهای JIT قبلاً خیلی سخت بود، ولی هوش مصنوعی این مانع رو پایین آورده.
نویسنده یه مثال دیگه هم از تجربه‌ی خودش می‌ده: یه هوش مصنوعی برای بازی آزول ساخته که با صرف زمان خیلی کمتر از رقیب آکادمیکش، الان قوی‌ترین بازیکن دنیای این بازیه؛ بخش زیادی از این برتری هم از multithreading و بهینه‌سازی‌های دیگه میاد، نه لزوماً هوشمندتر بودن مدل. به گفته‌ی مارک بروکر (که تو آمازون کار می‌کنه)، این روند داره به سمتی می‌ره که نرم‌افزارها به‌جای اینکه برای یه دسته‌ی کلی از کاربردها نوشته بشن، دقیقاً مخصوص یه workload خاص بهینه بشن.
نویسنده حتی موقع نوشتن همین پست، یه ایجنت رو دو دقیقه‌ای فرستاد تا موتور regex خودش رو دقیقاً بر اساس الگوی کوئری‌های شخصیش بهینه کنه؛ نتیجه، دو درصد سرعت بیشتر نسبت به ripgrep استاندارد بود و همچنان داشت بهتر می‌شد. به گفته‌ی اون، این نشون می‌ده دیگه لازم نیست منتظر بمونی یه تیم متخصص وقتشو بذاره؛ هر کسی می‌تونه نرم‌افزار رو دقیقاً برای کاربرد خودش تنظیم کنه.
نکات کلیدی:
- بهینه‌سازی کامپایلر AOT موتور regex «FRE» با کمک ایجنت، حدود ۷ درصد سرعت رو کوئری‌های واقعی ripgrep بالا برد
- جیمی براندون با کمک کلود، تست عملکرد عمومی آنتروپیک رو بهتر از حالت دستی حل کرد
- هوش مصنوعی نویسنده برای بازی آزول با زمان بسیار کمتر از رقیب آکادمیک، قوی‌ترین بازیکن دنیا شده
- بهینه‌سازی موتور regex بر اساس الگوی کوئری شخصی، فقط با دو دقیقه دستور، دو درصد سرعت بیشتر از ripgrep استاندارد داد
- نویسنده می‌گه روند آینده به سمت نرم‌افزار سفارشیِ مخصوص هر workload می‌ره، نه راه‌حل عمومی
