‏معماری مشترک ردهت و Rafay برای ابر AI حاکمیتی

ردهت به همراه شرکت Rafay یه معماری مرجع (reference architecture یعنی یه نقشهٔ فنی آماده و تست‌شده، نه فقط یه سند تبلیغاتی) به اسم Sovereign AI Cloud as a Service منتشر کرده. مخاطبش اپراتورهای مخابراتی، اپراتورهای ابر حاکمیتی (sovereign cloud) و شرکت‌های به‌اصطلاح NeoCloud هستن؛ یعنی همون‌هایی که یه عالمه GPU پراکنده تو مراکز داده مختلف دارن ولی می‌خوان اونو به یه ابر هوش مصنوعی قابل کنترل و درآمدزا تبدیل کنن، نه فقط یه کلاستر خام.

به گفتهٔ نویسنده، اپراتورها با دو مشکل جدا روبه‌رو هستن: مشکل پلتفرم (هر سایت باید یکدست و امن بالا بیاد) و مشکل تجاری (فروش و صورتحساب همون ظرفیت). ردهت مشکل اول رو با OpenShift و Advanced Cluster Management حل می‌کنه: برای هر مستأجر کنترل‌پلین جدا می‌سازه، از کانتینر ساده تا ماشین مجازی و کانتینر محرمانه (جایی که خود اپراتور هم به حافظهٔ مشتری دسترسی نداره) - سه سطح امنیتی روی یه پلتفرم. RHEL و RHEL CoreOS هم با FIPS 140-2/3، SELinux و ایمیج‌های امضاشده پایهٔ امنیت رو می‌سازن.

لایهٔ اجرای هوش مصنوعی با Red Hat AI Enterprise انجام می‌شه که مدل، نوت‌بوک، گاردریل و ارزیابی رو زیر یه اشتراک واحد جمع کرده. موتور inference به اسم llm-d با روتینگ آگاه از KV-cache (یعنی حافظهٔ میانی مدل‌های زبانی موقع تولید متن) و جدا کردن مرحلهٔ prefill از decode، تا ۲ تا ۳ برابر بیشتر از روش round-robin معمولی توی ترافیک سنگین prefill توان عملیاتی می‌ده؛ همین عدد مستقیم رو هزینهٔ هر توکن و سود اپراتور اثر می‌ذاره.

Rafay لایهٔ تجاری و خودسرویس رو اضافه می‌کنه: با SKU Studio اپراتور سرویس‌هاشو تعریف و قیمت‌گذاری می‌کنه، Self-Service Portal با برند خود اپراتور به مشتری نشون داده می‌شه، و گردش‌کار Rafay درخواست و تأیید و صورتحساب رو مدیریت می‌کنه. نکتهٔ فنی جالب اینه که Rafay Cluster Controller روی هر کلاستر نصب می‌شه و فقط یه اتصال خروجی به کنترل‌پلین می‌زنه، پس سایت‌های پشت NAT نیازی به باز کردن پورت ورودی ندارن. Token Factory هم صورتحساب چندمستأجری رو روی vLLM و llm-d ردهت اضافه می‌کنه.

بحث حاکمیت (sovereignty) فقط نگه‌داشتن داده تو کشور نیست؛ نویسنده می‌گه چیزی که مهمه اینه که اپراتور بتونه پلتفرم رو خودش بخونه و ساپورت کنه، نه فقط وابسته به یه فروشنده بمونه. برای همین همهٔ لایه‌های ردهت متن‌باز هستن، هر CVE یه مسئول مشخص داره و پچ‌ها روی همون نسخه‌ای که اپراتور تأیید کرده بک‌پورت می‌شن.

نکات کلیدی:

• معماری مشترک ردهت و Rafay به اسم Sovereign AI Cloud as a Service منتشر شده.
• سه سطح امنیتی روی یه پلتفرم: کانتینر معمولی، ماشین مجازی، و کانتینر محرمانه.
• llm-d با KV-cache-aware routing تا ۲ تا ۳ برابر توان عملیاتی بیشتر روی ترافیک prefill می‌ده.
• Rafay Cluster Controller با اتصال outbound-only کار می‌کنه، بدون نیاز به باز کردن پورت ورودی پشت NAT.
• امنیت پایه با RHEL/RHEL CoreOS از طریق FIPS 140-2/3، SELinux و ایمیج‌های امضاشدهٔ نود تأمین می‌شه.