‏نسخه‌ی ۱.۰ ابزار AICR انویدیا برای پیکربندی کلاستر GPU

کلاسترهای Kubernetes که GPU دارن به ده‌ها جزء وابسته‌ن: کرنل، درایور GPU، container runtime، شبکه، استوریج، operatorها و فریم‌ورک‌ها. هر کدوم چرخه‌ی انتشار خودشو داره و آپگرید یکی می‌تونه یه ترکیب سالمو خراب کنه. انویدیا برای همین AI Cluster Runtime یا AICR رو ساخته و حالا نسخه‌ی ۱.۰ شو داده.

ایده‌ی اصلی AICR چیزیه به اسم recipe، یعنی یه دستورالعمل که نسخه‌ی دقیق اجزایی که با هم جواب دادن رو قفل می‌کنه. هر recipe برای Helm، Argo CD، Flux یا Helmfile خروجی می‌سازه و مدرک تست امضاشده از سخت‌افزاری که روش امتحان شده رو هم همراه داره. یه داشبورد عمومی هم هست که می‌شه recipeها رو بر اساس سرویس، GPU، سیستم‌عامل و نوع کار پیدا کرد.

AICR چهار قابلیت مستقل داره:

• Snapshot وضعیت واقعی کلاستر رو ثبت می‌کنه، مثل نسخه‌ی کرنل، GPU و توپولوژی
• Recipe وضعیت دلخواه و قفل‌شده رو توصیف می‌کنه
• Bundle recipe رو برای ابزار استقرار دلخواهت رندر می‌کنه
• Validation کلاستر در حال اجرا رو با recipe مقایسه می‌کنه و تست‌های عملکرد رو اجرا می‌کنه

خود AICR کلاسترو reconcile نمی‌کنه، یعنی تغییرات رو اعمال نمی‌کنه. این کارو همون ابزارهای CD مثل Argo CD انجام می‌دن. مثال مقاله: اپراتور EKS، GB300، Ubuntu، آموزش مدل و Kubeflow رو انتخاب می‌کنه، recipe قفل‌شده می‌گیره، برای Argo CD رندرش می‌کنه، با GitOps مستقر می‌کنه و بعد کلاسترو با همون recipe اعتبارسنجی می‌کنه. اگه جای Argo CD از Helm استفاده کنه، پیکربندی هدف هیچ فرقی نمی‌کنه.

نکته‌ی مهم نسخه‌ی ۱.۰ قرارداد سازگاریه. CLI به اسم aicr، REST API به اسم aicrd، Go SDK تو پکیج pkg/client/v1، ساختار bundle و schemaها حالا پایدارن. هر تغییر ناسازگار تو این رابط‌ها از این به بعد یعنی نسخه‌ی اصلی جدید. یعنی اگه روی AICR ابزار بسازی، با آپدیت‌های 1.x چیزی ازت خراب نمی‌شه. CLI و سرور REST هم از یه لایه‌ی مشترک استفاده می‌کنن تا رفتارشون یکی باشه.

به گفته‌ی انویدیا، AICR بیش از ۱۰۰ مشارکت‌کننده داره که تقریباً نصفشون بیرون از انویدیان. Pulumi یه provider برای infrastructure-as-code براش ساخته و Mirantis هم تو k0rdent برای مدیریت چند کلاستر بسته‌بندیش کرده. بقیه هم می‌تونن recipe برای محیط‌هایی که تیم تست نکرده پیشنهاد بدن و مدرک امضاشده‌ی تست خودشونو بفرستن.

نکات کلیدی:

• AICR v1.0 برای CLI، REST API، Go SDK و schemaها قرارداد سازگاری پایدار تعریف می‌کنه
• خروجی برای Helm، Argo CD، Flux و Helmfile ساخته می‌شه
• هر recipe مدرک تست امضاشده از سخت‌افزار تست‌شده داره
• تغییر ناسازگار در رابط‌های عمومی فقط با نسخه‌ی اصلی جدید مجازه
• بیش از ۱۰۰ مشارکت‌کننده که تقریباً نصفشون خارج از انویدیان