‏عصر نرم‌افزارهای قابل‌گسترش با LLM

بیشتر نرم‌افزارهای وبی که هر روز باهاشون کار می‌کنیم ایستان: تیم سازنده وقت محدودی داره و روی نیازهای اکثریت کاربرا تمرکز می‌کنه، در حالی که یه دنباله بلند از نیازهای خاص و متفاوت هر کاربر بی‌جواب می‌مونه. اضافه‌کردن هر ویژگی جدید هم مجانی نیست: هرچی رابط کاربری شلوغ‌تر بشه، برای بقیه کاربرا بدتر می‌شه. نویسنده می‌گه ظهور کدنویسی با کمک LLM دقیقاً همین دنباله بلند رو داره توانمند می‌کنه.

به گفته نویسنده، LLMها الان تو ساخت «نرم‌افزار برای یک نفر» فوق‌العادن؛ اپ‌های شخصی‌ای که پیچیدگی نرم‌افزار سازمانی رو کنار می‌ذارن و دقیقاً مطابق روال کار یه فرد ساخته می‌شن. اون از Pi به‌عنوان نمونه‌ای از «نرم‌افزار بومی LLM» یاد می‌کنه: یه هسته آزموده‌شده که کاربر فقط با درخواست‌کردن می‌تونه بی‌نهایت گسترشش بده و حتی سفارشی‌سازی‌هاش رو با بقیه به اشتراک بذاره.

نویسنده چند مورد استفاده رو مثال می‌زنه: اپلیکیشن read-it-later که خودش مقاله‌های بلندتر از ۴۰۰۰ کلمه رو برای ایبوک‌ریدر بفرسته، یا هر هفته دنبال مقاله‌های جدید تو حوزه کاری کاربر روی arXiv بگرده و خلاصه‌ش کنه. پلتفرم‌های داخلی سازمانی هم مثال دیگه‌ان: خیلی از شرکت‌ها الان می‌ذارن کارمندا با vibe coding ابزار خودشون رو بسازن، ولی این کار مشکلاتی مثل مدیریت دسترسی به داده، ممیزی و رعایت قوانینی مثل GDPR رو به‌وجود میاره؛ چیزی که یه پلتفرم داخلی درست‌وحسابی باید از اول حلش کنه.

مشکل اینجاست که اجرای کد دلخواه کاربر روی وب، برخلاف ابزارهای محلی مثل افزونه‌های ابسیدین یا IDEها، خطرات امنیتی جدی داره: کد کاربر نباید بتونه سرویس رو از کار بندازه، کلیدهای دسترسی رو به بیرون درز بده، داده حساس دیگران رو بخونه یا از منابع رایگان سوءاستفاده کنه (مثلاً برای ماین کردن رمزارز). افزونه‌های ابسیدین این ریسک رو با بررسی دستی و خودکار پلاگین‌ها مدیریت می‌کنن، ولی این مدل برای سرویسی که داده مالی یا پیام خصوصی کاربرا رو نگه می‌داره جواب نمی‌ده.

نویسنده مثال سیلزفورس رو می‌زنه: از سال ۲۰۰۷ (حتی قبل از AWS S3 و EC2)، سیلزفورس با زبان اختصاصی Apex یه پلتفرم چندمستأجری عظیم ساخته که کاربراش می‌تونن مستقیم روش کد بنویسن - بدون نیاز به دیپلوی وب‌سرور جدا، با روتینگ، احراز هویت و ایزوله‌سازی مستأجرها که همه رو خودِ پلتفرم مدیریت می‌کنه. نویسنده یه مثال کد Apex رو کنار معادل امروزیش با Cloudflare Workers می‌ذاره تا نشون بده چقدر این الگو به سرورلس امروزی شبیهه:

export default {
  async fetch(request: Request, env: Env): Promise<Response> {
    const accountId = new URL(request.url).searchParams.get("accountId");
    const account = await env.ACCOUNTS.prepare(
      `SELECT id, name FROM accounts WHERE id = ? LIMIT 1`
    ).bind(accountId).first();
    return Response.json(account);
  },
};

به گفته نویسنده، برای ساختن چنین پلتفرمی به یه پریمیتیو محاسباتی جدید نیاز داریم که چهار ویژگی داشته باشه: هزینه اجراش وقتی کاربر ازش استفاده نمی‌کنه تقریباً صفر باشه، کلد استارتش خیلی سریع باشه (در حد چند میلی‌ثانیه)، بشه روی محدودیت‌های CPU، حافظه، تعداد درخواست و حجم لاگ کنترل کامل داشت، و مرز ایزولاسیون قوی‌ای بین کاربرا وجود داشته باشه که حتی حمله‌هایی مثل Spectre رو هم بگیره.

نکات کلیدی:

• نویسنده Pi رو نمونه «نرم‌افزار بومی LLM» می‌دونه: هسته ثابت + اکستنشن‌هایی که با یه درخواست ساده ساخته و به اشتراک گذاشته می‌شن.
• سیلزفورس از سال ۲۰۰۷ با زبان Apex پلتفرم چندمستأجری عظیمی ساخته - حتی قبل از AWS S3 و EC2 (۲۰۰۶).
• چهار معیار پریمیتیو مناسب: هزینه نزدیک صفر، کلد استارت میلی‌ثانیه‌ای، کنترل کامل روی محدودیت‌ها، ایزولاسیون قوی در برابر حملاتی مثل Spectre.
• نویسنده تو Cloudflare کار می‌کنه و Dynamic Workers رو گزینه مناسبی برای این مدل می‌دونه.