چطور react-query رم سرورهای Next.js رو چهار برابر کرده بود
خلاصهٔ کاملتر
نویسنده که تو Zepto کار میکنه تعریف میکنه که سرورهای Next.js شون هر کدوم حدود ۵ گیگ رم گرفته بودن. نه کرش میکرد، نه یهو بالا میرفت، فقط همونجا میموند. حتی با GC اجباری هم heap تقریباً تکون نمیخورد.
اولین نکتهش اینه که این مشکل رو روی next dev دنبال نکنید، چون heap اون پر از webpack و HMR و source map هست. اون اپ رو برای production بیلد کرد، با inspector بالا آورد و سه تا اسکریپت نوشت: یکی برای تولید بار روی صفحههای SSR، یکی برای گرفتن heap snapshot (یعنی عکس کامل از همه آبجکتهای زنده تو حافظه) بعد از GC اجباری، و یکی برای تحلیلش.
نتیجه واضح بود: بعد از ۵۶ درخواست heap حدود ۱۱۲ مگ بود، بعد از ۲۸۰ تای دیگه ۳۱۲ مگ و بعد از حدود ۱۴۰۰ تا ۹۳۴ مگ. یعنی هر درخواست تقریباً ۱ مگ حافظه جا میذاشت. تعداد ServerResponseهای زنده دقیقاً با تعداد درخواستها یکی بود، یعنی همه جوابها با سوکتها و spanهای OpenTelemetry شون هنوز زنده بودن.
dominator tree (ابزاری که نشون میده کدوم آبجکت بیشترین حافظه رو بهتنهایی نگه داشته) کمکی نکرد، چون هیچ آبجکت بزرگی نبود. صدها ارجاع کوچیک و جدا، هر کدوم مال یه درخواست، کل حافظه رو نگه داشته بودن. برای همین نویسنده از GC rootها (نقطههایی که V8 علامتگذاری رو ازشون شروع میکنه) یه BFS زد تا کوتاهترین مسیر نگهدارنده هر جواب رو پیدا کنه. همه مسیرها به تایمرهای در انتظار میرسیدن، حدود ۹۰۰ تایمر ۲، ۳ و ۵ دقیقهای که همه از تابع Query.scheduleGc تو react-query v3 ساخته شده بودن.
دلیلش ترکیب سه چیزه. اول، تو v3 هر Query همون اول یه تایمر انقضای کش راه میندازه و فقط وقتی کامپوننت subscribe کنه لغو میشه. ولی subscribe داخل useEffect انجام میشه و effectها تو SSR اصلاً اجرا نمیشن. دوم، Node به هر setTimeout استور فعلی AsyncLocalStorage رو میچسبونه، و Next.js کل درخواست و جواب رو تو همین استور نگه میداره (همون چیزی که cookies() و headers() رو کار میندازه). سوم، تایمرهای در انتظار جزو GC rootها هستن. پس هر useQuery تو سرور کل درخواست رو تا ۵ دقیقه زنده نگه میداشت.
راهحل این بود که QueryClient سمت سرور همه queryها رو با cacheTime: Infinity بسازه، چون react-query فقط برای عدد محدود تایمر میسازه. این امنه چون QueryClient سرور بههرحال مال یه درخواسته، و چون react-query با Math.max بزرگترین cacheTime رو نگه میداره، مقدار هوکها نمیتونه برش گردونه. نتیجه: رم هر پاد از حدود ۴.۸ به ۱.۲ گیگ رسید. یه نکته جالب هم داره: چون autoscaler روی رم تنظیم شده بود، بعد از فیکس تعداد پادها کم شد و latency بالا رفت، و مجبور شدن CPU رو معیار اصلی کنن.
نکات کلیدی:
- هر setTimeout که حین یه درخواست ساخته بشه، اون درخواست رو تا وقتی تایمر اجرا بشه تو حافظه نگه میداره، چون Node استور AsyncLocalStorage رو بهش میچسبونه.
- react-query v3 تو SSR برای هر query یه تایمر ۲ تا ۵ دقیقهای میسازه که هیچوقت لغو نمیشه.
- فیکس: ساختن queryهای سمت سرور با cacheTime: Infinity که رم هر پاد رو از ۴.۸ به ۱.۲ گیگ رسوند.
- v4 و v5 پیشفرض رو تو سرور Infinity کردن، ولی اگه هوکها gcTime محدود بدن مشکل هنوز هست (issue شماره 11320 تو TanStack Query).
- وقتی هیچ آبجکت بزرگی نیست، dominator tree کمکی نمیکنه و باید مسیر از GC rootها رو دنبال کرد.
- قبل از فیکس مشکل حافظه، تنظیمات autoscaler رو چک کنید.




