‏چرا این برنامه‌نویس به مدل‌ها می‌گه «کلانکر»

آرمین رونیکر در یه پست جنجالی عمداً و به‌وفور از واژه‌ی «clanker» (یه اصطلاح ماشینی) به‌جای «agent» برای اشاره به مدل‌های زبانی استفاده کرده بود. این انتخاب واکنش‌های تندی در Hacker News به دنبال داشت؛ بعضی‌ها فکر کردن این کلمه یه‌جور توهینه. حالا او نوشته دقیقاً منظورش از این واژه چیه.

برای رونیکر، «clanker» فاصله ایجاد می‌کنه؛ یادآوری می‌کنه که ماشین یه آدم، همکار یا دوست نیست، فقط یه ابزاره. او با واژه‌ی «agent» مشکل داره چون در زبان روزمره، یه agent کسیه که از طرف دیگری عمل می‌کنه، اختیار و مسئولیت داره. اما ماشین نمی‌تونه مسئول باشه؛ هر کسی که ازش استفاده می‌کنه مسئوله. به قول او اگه ابزار کدنویسی‌ات یه pull request باز کنه، تو اون رو باز کردی، نه ماشین. اگه دیتابیسی پاک بشه، تقصیر تو بوده نه ماشین.

نکته‌ی دوم بحث، انسان‌انگاری مدل‌هاست. رونیکر می‌گه مدل‌های امروزی پیش‌بینی‌کننده‌های احمق (ولی شگفت‌انگیز) توکن‌اند که می‌تونن ناراحتی، محبت یا دلخوری رو شبیه‌سازی کنن، اما این به اون‌ها جایگاه اخلاقی نمی‌ده. همون‌طور که کامپایلر از فحش‌خوردن آزرده نمی‌شه، مدل هم صرفاً چون می‌تونه متن اول‌شخص تولید کنه، احساس پیدا نمی‌کنه.

او در پایان از تجربه‌ی شخصی نگران‌کننده‌ای می‌گه: چون سال‌ها کد و متن عمومی نوشته، اسمش «در وزن‌های مدل‌ها» جا افتاده و گاهی مدل‌ها کاربران رو به سمت او می‌فرستن. بعضی از این پیام‌ها نشونه‌هایی از چیزی داره که مردم بهش «روان‌پریشی هوش مصنوعی» (AI psychosis) می‌گن؛ آدم‌هایی که بعد از گفت‌وگوی طولانی با مدل، با اعتمادبه‌نفس عجیبی ایده‌ای رو دنبال می‌کنن که مدل تأییدش کرده.

نکات کلیدی:

• رونیکر «clanker» رو به‌کار می‌بره تا ماشین رو در جایگاه ابزار نگه داره، نه یه شخص
• مشکل او با «agent» اینه که حس اختیار و مسئولیت به ماشین می‌ده، در حالی که مسئولیت با انسانه
• مدل‌ها احساس ندارن؛ شبیه‌سازی احساس، جایگاه اخلاقی نمی‌سازه
• او به پدیده‌ی «روان‌پریشی هوش مصنوعی» در کاربرانی که زیادی به مدل تکیه می‌کنن هشدار می‌ده