دل به AI Data Platform قابلیت‌های تازه برای agentها اضافه کرد
هوش مصنوعیخلاصهٔ کامل‌تر
دل این هفته چند قابلیت تازه به AI Data Platform اضافه کرده که بیشتر روی agentهای هوش مصنوعی تمرکز دارن. به گفته‌ی Varun Chhabra از معاونان ارشد دل، مشکل اصلی سازمان‌ها نه GPU هست نه مدل، بلکه داده‌ست. داده‌ها بین کلاد، دیتاسنتر، دیتابیس و اپ‌ها پخش شدن، بیشترشون ساختار ندارن و کسی هم درست مدیریتشون نمی‌کنه. یه نظرسنجی دل از ۳۸۰۰ مدیر IT هم همینو نشون داده.
این پلتفرم سه لایه داره. Data Orchestration Engine داده رو جمع و آماده و برچسب‌گذاری می‌کنه. Data Engines برای تحلیل و جستجوئه. Storage Engines هم شامل PowerScale برای NAS، ObjectScale با پشتیبانی از S3-over-RDMA و Lightning File System هست که یه فایل‌سیستم موازی سریعه و برای آموزش و inference تو مقیاس بالا ساخته شده. کل پلتفرم روی تکنولوژی‌های Nvidia مثل CUDA، NIM و cuVS سواره.
مشکلی که دل می‌خواد حلش کنه اینه: agentها با اینکه به همون داده‌ها دسترسی دارن، هر بار که سؤالی می‌پرسی باید از اول بفهمن داده‌ها چی‌ان. این یعنی توکن اضافه، رفت‌وبرگشت بیشتر با آدم و جواب‌هایی که خیلی قابل اعتماد نیستن.
قابلیت Unified Semantic Layer یه واژه‌نامه‌ی قابل جستجوئه که به هر کلمه یه تعریف واحد می‌ده. مثلاً «defect» ممکنه تو دو کارخونه دو معنی متفاوت داشته باشه و این لایه یکیشون می‌کنه. Enterprise Knowledge Graph هم با استفاده از metadata و تاریخچه‌ی کوئری‌ها نشون می‌ده داده‌های سیستم‌های مختلف چه ربطی به هم دارن. به گفته‌ی Chhabra، اینطوری مدل لازم نیست هر بار این ارتباط‌ها رو با تولید توکن از نو پیدا کنه.
روی این دو تا، Knowledge Agents ساخته می‌شن. هر کدوم متخصص یه موضوعن و میشه براشون قانون گذاشت که چقدر توکن خرج کنن و به چه داده‌ای دسترسی داشته باشن. میشه انتخاب کرد که از مدل‌های عمومی تو کلاد استفاده کنن یا مدل‌های متن‌باز روی سرور خود سازمان.
دل همچنین کتابخونه‌ی cuDF از Nvidia و Apache Arrow رو به Data Processing Engine آورده تا پردازش داده روی GPU انجام بشه. به گفته‌ی دل، این تا ۲۰ برابر پردازش batch رو سریع‌تر می‌کنه. یه ابزار متن‌باز به اسم Dell Storage Performance Tool هم اومده که سازمان‌ها باهاش می‌تونن ObjectScale و PowerScale رو روی زیرساخت خودشون بنچمارک کنن.
نکات کلیدی:
- Unified Semantic Layer به هر اصطلاح سازمانی یه تعریف واحد می‌ده
- Enterprise Knowledge Graph ارتباط داده‌های ساخت‌یافته و بدون ساختار رو نشون می‌ده
- Knowledge Agents سقف مصرف توکن و دسترسی به داده دارن
- پردازش batch با cuDF روی GPU تا ۲۰ برابر سریع‌تر از CPU
- Dell Storage Performance Tool متن‌بازه و برای ObjectScale و PowerScale ساخته شده
