‏DataEnclave: مدل و دادهٔ حساس، هیچ‌کدوم لو نمی‌ره

بانک‌ها، بیمارستان‌ها و نهادهای دولتی معمولاً اجازه ندارن دادهٔ حساسشون رو بفرستن به سرویس‌های AI بیرونی، و از اون طرف سازندهٔ مدل هم دلش نمی‌خواد وزن‌های مدلش رو بذاره روی زیرساختی که کنترلش دست خودش نیست. Vast Data می‌گه DataEnclave همین گره رو باز می‌کنه: یه محیط confidential computing (یعنی فضایی که خود سخت‌افزار جلوی خونده شدن حافظه‌اش رو می‌گیره) داخل Vast DataEngine و AI Operating System خودش.

کار با trusted execution environment انجام می‌شه که هم CPU رو می‌گیره هم GPU. حافظهٔ مهمان، حافظهٔ GPU و ترافیک NVLink رمزگذاری می‌شه و مدل و دادهٔ در حال اجرا از ادمین، اپراتور زیرساخت و tenant‌های دیگه جدا می‌مونه. قبل از این‌که چیزی رمزگشایی شه، یه فرایند attestation رمزنگاری‌شده سخت‌افزار، نرم‌افزار و سیاست‌های حاکم رو تأیید می‌کنه. هر طرف هم کلید خودش رو توی سیستم مدیریت کلید خودش نگه می‌داره.

به گفتهٔ Vast جالب‌ترین بخش اینه که وزن‌های پایهٔ سازندهٔ مدل و وزن‌های fine-tune شدهٔ مشتری می‌تونن کنار هم کار کنن ولی مالکیت و کلیدشون جدا بمونه. یعنی یه شرکت می‌تونه مدل اختصاصی خودش رو بسازه بدون این‌که دادهٔ آموزشی یا عملیاتیش رو به صاحب مدل پایه نشون بده. جف دنورث، هم‌بنیان‌گذار Vast، معتقده وزن مدل داره تبدیل می‌شه به ارزشمندترین دارایی فکری دنیا.

DataEnclave رو می‌شه توی دیتاسنتر خود مشتری، AI cloud یا محیط کاملاً air-gapped نصب کرد. سرویس attestation هم یا از پروژهٔ open-source Trustee (زیرمجموعهٔ CNCF) استفاده می‌کنه یا از Confidential AI شرکت Fortanix می‌آد. رویدادهای attestation، آزاد شدن کلیدها و چرخهٔ عمر enclave توی Vast DataBase لاگ می‌شن؛ یعنی رد حسابرسی داری که نشون می‌ده چه کاری با چه سیاستی اجرا شده، بدون این‌که خود داده یا وزن مدل لو بره.

Cohere، CrowdStrike، Deepgram و TwelveLabs بین شرکای مدل و نرم‌افزارن و Cisco و Supermicro سیستم‌های آماده عرضه می‌کنن. Vast می‌گه این قابلیت پول جدا نمی‌خواد و بخشی از همون AI Operating System فعلیه. دنورث می‌گه این کار اقتصاد AI سازمانی رو هم عوض می‌کنه، چون مشتری می‌تونه مدل اختصاصی رو روی زیرساخت خودش اجرا کنه و سازندهٔ مدل مجبور نباشه هزینهٔ compute رو تأمین کنه.

نکات کلیدی:

• DataEnclave از confidential computing انویدیا استفاده می‌کنه و حافظهٔ مهمان، حافظهٔ GPU و ترافیک NVLink رو رمز می‌کنه
• attestation قبل از رمزگشایی سخت‌افزار، نرم‌افزار و سیاست‌ها رو تأیید می‌کنه و کلیدها دست خود سازمان و سازندهٔ مدل می‌مونه
• وزن پایه و وزن fine-tune شده با مالکیت و کلید جدا، داخل یه enclave مشترک کنار هم اجرا می‌شن
• قابل نصب روی دیتاسنتر خودی، AI cloud یا محیط air-gapped؛ attestation با پروژهٔ Trustee از CNCF یا Fortanix
• فعلاً preview هست و سه‌ماههٔ اول ۲۰۲۷ عرضه می‌شه؛ هزینهٔ جدا نداره و جزو AI Operating System حساب می‌شه