چرا ترکیب ترافیک، لود تست رو میسازه یا خراب میکنه
خلاصهٔ کاملتر
گزارش اولیهٔ قطعی هفتهٔ پیش M365 یه جمله داره که نظر مارک بروکر (مهندس AWS) رو جلب کرده: لود تستهای معمولشون مشکل رو پیدا نکردن، چون ترکیب ترافیک و SKUهایی که تو آزمایشگاه استفاده میکردن با محیط واقعی فرق داشت. نویسنده میگه همین ترکیب ترافیک، فرق بین یه لود تست عالی و یه اتلاف وقت کامله.
اولین شبیهسازی اون یه جدول قفل هست، شبیه یه دیتابیس رابطهای که هر تراکنش روی کلیدش قفل میگیره. ۱۶ worker thread داریم، هر درخواست برای قفل کلیدش تو یه صف FIFO منتظر میمونه و حدود ۱ میلیثانیه نگهش میداره. کلیدها از یه توزیع Zipf انتخاب میشن (یعنی چند کلید خیلی بیشتر از بقیه درخواست میگیرن). نتیجه: هرچی توزیع کجتر باشه، throughput کمتره، چون چند کلید پرطرفدار قفل میشن و بقیهٔ منابع بیکار میمونن.
شبیهسازی دوم یه مدل دیگه از همون دیتابیسه، مثلاً Postgres: یه کش LRU سریع تو حافظه، و پشتش یه storage کندتر. اینجا نمودار برعکس میشه. هرچی توزیع کجتر باشه، کلیدهای پرتکرار بیشتر از کش جواب میگیرن و throughput بهتر میشه، اونم تو یه بازهٔ وسیع.
حرف اصلی نویسنده اینه که throughput بسته به چیزی به ظرافت skew کلیدها میتونه چند مرتبهٔ بزرگی (order of magnitude) بالا یا پایین بره، اونم در هر دو جهت. یعنی اگه بنچمارکت توزیع کلیدهای واقعی رو تقلید نکنه، ممکنه سیستمت رو خیلی بهتر یا خیلی بدتر از واقعیت نشون بده. این مخصوصاً برای سیستمهای شبیه دیتابیس رابطهای صدق میکنه، ولی به همهجور سیستمی ربط داره.
بروکر در حاشیه میگه به همین دلیل از optimistic concurrency control (یعنی به جای قفل گرفتن، موقع commit تداخلها رو چک میکنی) و معماریهایی که فقط یه حالت هزینه و تأخیر دارن خوشش میاد. به گفتهٔ اون، Aurora DSQL همین فکر رو دنبال میکنه: همهٔ خوندنها از یه لایهٔ storage سریع میرن و هیچکس منابع رو منتظر قفل نگه نمیداره.
نکات کلیدی:
- گزارش قطعی M365 دلیل دیده نشدن باگ رو ترکیب ترافیک و SKUهای آزمایشگاه اعلام کرده
- تو مدل قفلمحور، توزیع Zipf کجتر یعنی throughput کمتر
- تو مدل کشدار (LRU جلوی storage کند)، توزیع کجتر یعنی throughput بیشتر
- اختلاف throughput بسته به skew کلیدها میتونه چند مرتبهٔ بزرگی باشه
- Aurora DSQL با optimistic concurrency و یه لایهٔ storage سریع، حساسیت به workload رو کم میکنه




