‏معنی «انجام‌شده» وقتی فیچر هوش مصنوعی شیپ می‌کنی

نویسنده با یادآوری «روزهای خوب قدیم» شروع می‌کنه: مهندسی می‌گفت یه چیزی رو شیپ کرده، همه‌ی تست‌ها پاس شده، باگ بحرانی نبود و دمو عالی کار کرد، و «طبق طراحی کار می‌کنه» یعنی تموم. ولی می‌گه با هوش مصنوعی دیگه این سادگی رو نداریم. تعریف «done» همیشه مشکل بوده، ولی برای هوش مصنوعی باید کاملاً بازنویسی بشه.

تعریف‌های ما برای نرم‌افزار قطعی (deterministic) ساخته شدن: ورودی می‌ره تو، خروجی می‌آد بیرون، و خروجی سه‌شنبه همونیه که دوشنبه بود. نرم‌افزار مثل دستگاه فروش خودکار رفتار می‌کرد. ولی فیچرهای هوش مصنوعی این‌طوری نیستن؛ یه پرامپت ثابت بین کاربرها، نشست‌ها، آپدیت‌های مدل و بافت‌هایی که تیم QA حتی تصورشون رو نکرده، خروجی‌های متفاوت می‌ده. چیزی که شیپ کردی یه آبجکت ثابت و قابل‌پیش‌بینی نیست، یه توزیع از رفتارهاست که بیشترِ سورپرایزها توی همون بخش‌هایی‌ان که ندیدی. پس «همه‌ی تست‌ها پاس شدن» هنوز مهمه، ولی دیگه معنیِ «done» نمی‌ده.