Prompt API گوگل: هوش مصنوعی مستقیم توی مرورگر
هوش مصنوعی
جاوااسکریپت
فرانتاندخلاصهٔ کاملتر
گوگل یه API جالب برای توسعهدهندههای وب معرفی کرده به اسم Prompt API که بهتون اجازه میده مستقیماً از داخل مرورگر کروم با مدل زبانی Gemini Nano حرف بزنید. نکته مهم اینه که پردازش کاملاً روی دستگاه کاربر انجام میشه و هیچ دادهای به گوگل یا هیچ سرویس ثالثی ارسال نمیشه.
با این API میشه کارهای متنوعی انجام داد؛ از جستجوی هوشمند بر پایه محتوای صفحه وب گرفته تا فیلتر کردن خودکار اخبار، استخراج اطلاعات تماس از وبسایتها، یا ساخت افزونهای که رویدادهای تقویم رو از صفحات وب شناسایی کنه. به طور کلی هر جایی که بخواید یه لایه هوش مصنوعی بدون نیاز به سرور اضافه کنید، این API به کارتون مییاد.
البته این API نیازمندیهای سختافزاری مشخصی داره. سیستمعاملهای پشتیبانیشده شامل ویندوز ۱۰ و ۱۱، مکاواس ۱۳ به بالا، لینوکس و ChromeOS روی دستگاههای Chromebook Plus میشه. پشتیبانی از کروم موبایل (اندروید و iOS) هنوز اضافه نشده.
از نظر سختافزاری هم باید حداقل ۲۲ گیگابایت فضای خالی روی درایوی که پروفایل کرومتون روشه داشته باشید. برای GPU حداقل ۴ گیگابایت VRAM لازمه، یا اگه میخواید روی CPU اجرا بشه باید ۱۶ گیگابایت رم و ۴ هسته پردازنده داشته باشید. اتصال اینترنت فقط برای دانلود اولیه مدل لازمه؛ بعد از اون میشه کاملاً آفلاین کار کرد.
مدل Gemini Nano اولین باری که یه وبسایت از API استفاده میکنه دانلود میشه و بعد از اون توی دستگاه میمونه. اگه فضای ذخیرهسازی کمتر از ۱۰ گیگابایت بشه، مدل حذف میشه و دوباره دانلود خواهد شد. سایز دقیق مدل با آپدیتهای مرورگر ممکنه تغییر کنه.
برای استفاده از API، ابتدا باید با تابع ()LanguageModel.availability بررسی کنید که مدل آمادهست یا نه. بعد با ()LanguageModel.create یه session میسازید و از اون برای ارسال درخواستهای متنی استفاده میکنید. برای توسعهدهندههای افزونههای کروم، پارامترهایی مثل temperature و topK هم قابل تنظیمه که کنترل بیشتری روی خروجی مدل میده.
یه قابلیت مفید دیگه اینه که میشه با initialPrompts یه context اولیه به مدل داد. این یعنی میشه مثلاً مکالمه قبلی کاربر رو ذخیره کرد و بعد از ریستارت مرورگر دوباره ازشون استفاده کرد؛ تجربهای خیلی شبیهتر به چتباتهای معمولی.
این API فعلاً در Origin Trial قرار داره و برای آزمایش روی localhost هم در دسترسه. گوگل توصیه میکنه قبل از ساخت هر چیزی با این API، راهنمای People + AI Guidebook رو برای طراحی مسئولانه با هوش مصنوعی مطالعه کنید.
نکات کلیدی:
- Prompt API اجازه میده Gemini Nano مستقیم توی مرورگر کروم اجرا بشه
- هیچ دادهای به سرور ارسال نمیشه؛ پردازش کاملاً آفلاین روی دستگاه کاربره
- نیاز به حداقل ۲۲ گیگابایت فضای خالی، ۴ گیگابایت VRAM یا ۱۶ گیگابایت RAM داره
- فعلاً فقط ویندوز، مک و لینوکس پشتیبانی میشن؛ موبایل هنوز نه
- قابل استفاده برای جستجوی هوشمند، فیلتر محتوا، استخراج اطلاعات و ساخت افزونههای کروم
- اینترنت فقط برای دانلود اولیه مدل لازمه
