‏هوش مصنوعی فقط برای جایگزینی آدم‌ها نیست: یه برنامه‌ی تحقیقاتی برای همکاری

نارایانان (نویسنده‌ی AI Snake Oil) و گابریل آنگر، اقتصاددان آزمایشگاه اقتصاد دیجیتال استنفورد، تو این مقاله می‌گن برنامه‌ی غالب سیلیکون‌ولی AI رو تقریباً فقط ابزار خودکارسازی کار آدم‌ها می‌بینه و AGI رو پایان این مسیر. اونا با اتوماسیون مخالف نیستن، ولی معتقدن AI هم مثل هر فناوری دیگه می‌تونه جهت‌های مختلف بگیره و الان سهم خیلی زیادی از تحقیقات صرف اتوماسیون کامل می‌شه، به قیمت از دست رفتن مسیر augmentation (یعنی تقویت توانایی آدم‌ها به جای جایگزینی‌شون).

مسئله‌ی اول white-box agent ـه، یعنی ایجنتی که مراحل میانی کارش رو نشون می‌ده: منابع، فرض‌ها، روش‌ها و عدم‌قطعیت‌ها. به گفته‌ی نویسنده‌ها، مدل‌ها الان black-box ان چون داده‌ی process trace (ردپای مراحل انجام یه کار) ندارن. برنامه‌نویسی استثناست، چون مخزن‌های کد عمومی کل مسیر توسعه رو ثبت کردن. اونا یه آزمایش ذهنی می‌آرن: اگه نرم‌افزار متن‌باز وجود نداشت و ایجنت‌ها مستقیم باینری کامپایل‌شده تحویل می‌دادن، برنامه‌نویسا جایگزین می‌شدن نه تقویت. حالا باید همین مخزن‌ها رو برای حقوق، پزشکی و علوم ساخت.

مسئله‌ی دوم سرعته. الان باید بین چت‌باتی که سریع ولی سطحی جواب می‌ده و ایجنتی که دقیق کار می‌کنه ولی جریان گفتگو رو قطع می‌کنه، یکی رو انتخاب کرد. نویسنده‌ها می‌گن تأخیر کم، کمک می‌کنه آدم تو حالت flow بمونه، یعنی همون حالت غرق شدن تو کار که آدم زمان و خستگی رو یادش می‌ره. خیلی از برنامه‌نویسا گزارش دادن که رفتن از کدنویسی دستی به نظارت بر ایجنت‌ها باعث از دست رفتن flow، فشار ذهنی و فرسودگی شده.

مسئله‌ی سوم کنار گذاشتن الگوی نوبتیه. الان مدل اصلی، واگذاری کاره: دستور می‌دی، می‌ری و بعداً چک می‌کنی. حتی تو ایجنت‌های کدنویسی فعلی، اگه کاربر همزمان با ایجنت یه فایل رو ادیت کنه، ایجنت گیج می‌شه. همکاری واقعی به فضای کار مشترک، وضعیتی که پیوسته عوض می‌شه، و تحمل قطع شدن و ادیت همزمان نیاز داره. مسئله‌ی چهارم ارزیابیه: بیشتر بنچمارک‌ها کار خودکار مدل رو می‌سنجن نه همکاری‌ش با آدم، و شبیه‌سازی کاربر هم از یه جایی به بعد ممکنه مدل رو برای چیز اشتباهی پاداش بده.

نویسنده‌ها نقد اقتصادی هم دارن. معامله‌ی «خودکارسازی کن و با درآمد پایه جبران کن» به نظرشون با سیاست آمریکا جور درنمی‌آد و بیشتر مردم کار واقعی می‌خوان نه چک رفاهی. خود اتوماسیون هم با یه trilemma روبروئه: کاملاً خودکار، قابل اعتماد تو شرایط حساس، و همه‌منظوره؛ فقط دوتاش با هم ممکنه. دلیل غلبه‌ی اتوماسیون رو هم تو اقتصاد (کاهش هزینه‌ی نیروی کار که فوری تو سود دیده می‌شه) و هم تو فرهنگ علوم کامپیوتر می‌بینن، جایی که سیستم end-to-end یه ایده‌آل زیباست و حضور آدم یه نقص حساب می‌شه.

راه‌حل پیشنهادی‌شون دستوری و از بالا نیست، بلکه از پایین و مبتنی بر بازاره: آزمایش فنی غیرمتمرکز، تغییر فرهنگی در علوم کامپیوتر و چند اهرم سیاستی هدفمند. به گفته‌ی مقاله، Thinking Machines یه معماری برای ایجنت همکار منتشر کرده که یه مدل خیلی کم‌تأخیر جلوی کاربره و کارهای سنگین رو به یه مدل قوی‌تر پشت صحنه می‌ده، ولی هنوز محصولی نداده. فشار آزمایشگاه‌های بزرگ و Cursor و Cognition برای تأخیر کمتر هم به نظرشون می‌تونه یه چرخه‌ی تقاضا راه بندازه.

نکات کلیدی:

• چهار مسئله‌ی پیشنهادی: ایجنت white-box، تأخیر کم برای تعامل لحظه‌ای، همکاری پیوسته به جای نوبتی، و ارزیابی همکاری آدم و AI.
• نبود داده‌ی process trace دلیل اصلی black-box بودن مدل‌ها در حوزه‌هایی غیر از برنامه‌نویسیه.
• trilemma اتوماسیون: خودکار کامل، قابل اعتماد در شرایط حساس، همه‌منظوره؛ فقط دوتا با هم.
• ایده‌ی همکاری انسان و ماشین به Licklider در ۱۹۶۰ و Engelbart در ۱۹۶۲ برمی‌گرده.
• Thinking Machines معماری ایجنت همکار رو منتشر کرده ولی هنوز محصولی عرضه نکرده.